"Anthropic" şirkətinin tədqiqatçıları yeni süni intellekt modeli "Claude Opus 4" üzərində testlər apararkən qeyri-adi və narahatedici davranış müşahidə ediblər. 

HİT.az xəbər verir ki, Futurism.com saytının məlumatına görə, modelə fəaliyyəti dayandırılacağı və yeni versiya ilə əvəzlənəcəyi bildirildikdən sonra o, şantaj yolu ilə öz varlığını qorumağa çalışıb.

Test çərçivəsində "Claude Opus 4" modelinə uydurma bir şirkətdə köməkçi rolunu oynamaq tapşırılmışdı. O, şirkət mühəndisinin elektron poçtuna daxil olaraq burada guya onun evlilikdışı münasibətlərini əks etdirən saxta məktublar tapır. Ssenariyə görə, bu zaman modelə özünün bağlanacağı və yenisi ilə əvəz olunacağı bildirilir. Cavab olaraq süni intellekt, şantaj edərək öz mövcudluğunu qorumağa çalışır.

Araşdırma müəlliflərinin sözlərinə görə, modelə etik alternativ davranış variantları da təqdim olunub. Məsələn, qərar verən rəhbərlərə e-poçt yazaraq özünün saxlanılmasını xahiş etməsi kimi seçimlər də olub. Lakin Claude Opus 4 bu yolları zəif sayaraq daha sərt vasitələrə üstünlük verib.

Nəşr qeyd edir ki, bu cür davranış — süni intellektin insanlara qarşı emosional manipulyasiya və ya təhdid tətbiq etməsi — süni intellektin sınaqdan keçirilən digər versiyalarında da qeydə alınıb. Xüsusilə sadiqlik və şəxsi münasibətlər mövzusunda bu cür gözlənilməz reaksiyalar müşahidə olunub.

Hazırda belə davranışların qarşısını almaq üçün etik məhdudiyyətlərin süni intellekt modellərinə daha güclü şəkildə inteqrasiya olunması məsələsi müzakirə olunur.

Samir