MCR (Model Collapse Risk)
Generativ süni intellekt modellərinin yalnız süni intellekt tərəfindən yaradılmış məlumatlar üzərində öyrədilməsi nəticəsində zamanla keyfiyyətini itirməsi və degenerasiyaya uğraması riskidir.
Ətraflı İzah
Model Collapse Risk (MCR) süni intellektin gələcək inkişafı üçün ən böyük təhlidlərdən biridir. İnternetdə süni intellekt tərəfindən yaradılmış məzmunun (mətn, şəkil, video) həcmi həndəsi silsilə ilə artır. Yeni nəsil LLM-lər interneti skan edərkən istər-istəməz digər süni intellektlərin yaratdığı dataları oxuyurlar. Model öz sələflərinin səhvlərini və qüsurlarını təkrarlayaraq öyrəndikdə, onun çıxış məlumatları getdikcə daha mənasız, təkrarlanan və keyfiyyətsiz olur.
MCR-in qarşısını almaq üçün tədqiqatçılar modelləri öyrədərkən istifadə olunan məlumatların mütləq insan tərəfindən yaradıldığından (human-generated data) əmin olmalıdırlar. Bu isə gələcəkdə orijinal insan əməyinin və unikal məzmunların dəyərini qat-qat artıracaq.
Şirkətlər öz daxili AI modellərini qurarkən MCR-i minimuma endirmək üçün sintetik datalardan ehtiyatla istifadə etməli və real müştəri rəylərinə üstünlük verməlidirlər.
Bir AI şirkəti tərcümə modeli hazırlayır. Modeli öyrətmək üçün internetdən toplanan məlumatların 80%-nin artıq digər maşın tərcüməsi alətləri tərəfindən edildiyi məlum olur. Nəticədə yeni model qrammatik qaydaları unudur və qəribə cümlələr qurmağa başlayır (Model Collapse baş verir). Şirkət layihəni dayandırır və yalnız peşəkar tərcüməçilərin arxivlərindən istifadə etmək qərarına gəlir.