Məşhur süni intellekt alətlərinin geniş imkanları ilə yanaşı, təhlükəli məzmunlu sorğular da artmaqdadır. 

HİT.az xəbər verir ki, "The Wall Street Journal"ın dərc etdiyi geniş araşdırmaya görə, ötən ilin yay aylarında yüzlərlə istifadəçi "ChatGPT" platformasına zəhərli maddələrin və bioloji silahların hazırlanması ilə bağlı suallar ünvanlayıb.

Araşdırmada bioloji silahlar üzrə tədqiqatçılar, siyasət üzrə məsləhətçilər, həmçinin süni intellekt sektorunun hazırkı və keçmiş əməkdaşlarının məlumatlarına istinad olunub. Məlumata görə, qeydə alınan pozuntuların böyük hissəsi zəhər hazırlanması ilə bağlı olub.

İstifadəçilərin çatbotla apardıqları yazışmalar sonradan müdafiə sahəsinin mütəxəssisləri və alimlər tərəfindən təhlil edilib. Qiymətləndirmələr zamanı sistemin bəzi cavablarının olduqca dəqiq və təhlükəli dərəcədə istiqamətləndirici xarakter daşıdığı bildirilib.

Araşdırmada qeyd olunur ki, süni intellekt mürəkkəb mövzuları hətta orta məktəb şagirdinin başa düşə biləcəyi sadə və səbirli dillə izah edib.

İddialara görə, qaydaları pozan istifadəçilərin hesabları dərhal bağlansa da, bütün hallarda məlumat hüquq-mühafizə orqanlarına ötürülməyib.

"OpenAI" isə bu iddialara cavab verərək bildirib ki, real dünyada konkret təhlükə yaradan və inandırıcı hesab edilən sorğular aidiyyəti hüquq-mühafizə orqanlarına göndərilir. Şirkət vurğulayıb ki, sistemlər zərərli istəkləri rədd etmək və bioloji təhlükə yarada biləcək məlumat əldə etmək cəhdlərini aşkarlayıb qarşısını almaq üçün xüsusi təhlükəsizlik mexanizmləri ilə təchiz olunub.

Məqalədə qeyd olunur ki, süni intellektdən təhlükəli məqsədlərlə istifadə ilə bağlı narahatlıqlar yeni deyil. Daha əvvəl "The New York Times" nəşri "Boko Haram" qruplaşmasının üzvlərinin motosikletlərini partlayıcı hücumlar üçün uyğunlaşdırmaq məqsədilə bir çatbotdan istifadə etdiyini iddia etmişdi.

Mütəxəssislərin fikrincə, hazırda əsas təhlükə təhlükəsizlik məhdudiyyətləri aradan qaldırılmış açıq mənbəli süni intellekt modellərinin nəzarətsiz şəkildə yayılmasıdır. Onlar xəbərdarlıq edirlər ki, bu cür texnologiyaların təhlükəsizlik sistemlərini aşmaq üsulları da paralel şəkildə inkişaf edir və gələcəkdə onların təhlükəli qrupların əlinə keçməsi ciddi risk yarada bilər.

Samir