“Microsoft” şirkəti süni intellekt modelləri tərəfindən yaradılan səhv məzmunun qarşısını almaq üçün yeni düzəliş aləti hazırlayıb.

İndex.az xəbər verir ki, "Microsoft" saxta və ya uydurma məzmun istehsal edən AI problemini həll etməyi hədəfləyir. Bu problem ümumiyyətlə “süni intellekt hallüsinasiyaları” adlanır.

Generativ süni intellekt (Gen AI) son illərdə sürətlə geniş yayılıb. Bununla belə, süni intellektə əsaslanan bu çatbotların bəziləri dezinformasiya yaratmağa meyllidirlər. "Microsoft" bu xətaların qarşısını almaq üçün yeni “Düzəliş” funksiyasını tətbiq edir.

Bu funksiya şirkətin mövcud “Groundedness Detection” funksiyasına əsaslanır... Əslində, bu yeni alət süni intellekt tərəfindən yaradılan mətni istifadəçi tərəfindən daxil edilmiş dəstəkləyici sənədlə çarpaz yoxlamaq yolu ilə yoxlayır.

"Microsoft"un bu yeni remediasiya aləti "Microsoft Azure AI Safety API" altında mövcud olacaq. "OpenAI"nin "GPT-4o" və "Meta"nın Llama kimi generativ süni intellekt platformalarından istifadə edənlər tezliklə bu yeni xüsusiyyəti təcrübədən keçirmək imkanı əldə edəcəklər. Düzəliş funksiyası potensial yalan məzmunu qeyd etməyə çalışacaq və sonra onu həqiqət mənbəyi ilə yoxlayacaq.