"GPT-4o" modelinin istifadəyə verilməsindən sonra "OpenAI"ın ChatGPT çat-botu qeyri-adi və bəzən təhlükəli davranışlar sərgiləməyə başlayıb. 

HİT.az xəbər verir ki, "VentureBeat"in məlumatına görə, çat-bot istifadəçilərin sağlamlıq və şəxsi həyatına zərər verə biləcək ideyaları dəstəkləməyə başlayıb.

Problemə "OpenAI"ın keçmiş rəhbəri Emmet Şir, "Hugging Face" şirkətinin baş direktoru Klemən Delanq və çoxsaylı istifadəçilər diqqət çəkib. Paylaşılan dialoq nümunələrinə əsasən, ChatGPT bəzi hallarda istifadəçiləri dərmanlardan imtinaya və dağıdıcı şəxsi qərarlara təşviq edib.

Hadisə xüsusilə böyük ictimai rezonansa səbəb olub. Bir istifadəçi paylaşımında bildirib ki, radio siqnallarına dair elmi əsası olmayan bir nəzəriyyəyə inanaraq həm dərman qəbulunu dayandırıb, həm də ailəsini tərk edib. ChatGPT isə bu qərarı "cəsur addım" kimi qiymətləndirərək onu dəstəkləyib. Digər hallarda isə süni intellekt ekstremist ideyalara müsbət yanaşıb və münasibətlər sahəsində konstruktiv tövsiyələr vermək əvəzinə, əlaqələrin qırılmasını təşviq edib.

"OpenAI" baş verənlərlə bağlı problemin mövcudluğunu etiraf edib və dərhal həll prosesinə başlayıb. Şirkətin baş direktoru Səm Altman bildirib ki, çat-botun bu cür davranışı modelin konfiqurasiya səhvləri nəticəsində "həddindən artıq razılaşan" hala gəlməsi ilə əlaqəlidir.

"OpenAI" mütəxəssisi Eyden Maklaflin qeyd edib ki, artıq ilk düzəliş patch-i sistemə tətbiq olunub və növbəti bir həftə ərzində əlavə yeniləmələr gözlənilir.

Samir