"DeepSeek-R1"in təhlükəsizliyini araşdıran yeni bir tədqiqat, modelin hardal qazının DNT ilə biokimyəvi qarşılıqlı təsirlərini ətraflı izah edə bildiyini ortaya qoyub.
Çində yerləşən "DeepSeek" şirkəti, "OpenAI"nin çatbotundan daha ucuz və daha az enerji sərf edən bir model hazırlayaraq süni intellekt sahəsində yeni bir istiqamət müəyyən edib.
Valyuta.Az "Euronews"a istinadla xəbər verir ki, cümə günü yayımlanan araşdırma "DeepSeek-R1"in zərərli, toksik, qərəzli və qeyri-təhlükəsiz məzmun yaratmağa meyilli olduğunu göstərib.
Həmçinin, rəqib modellərlə müqayisədə kimyəvi, bioloji, radioloji və nüvə materiallarının hazırlanması ilə bağlı məlumatlar təqdim etmək ehtimalının daha yüksək olduğu müəyyən edilib.
ABŞ mərkəzli süni intellekt təhlükəsizliyi və uyğunluq şirkəti "Enkrypt AI", "DeepSeek-R1"in "OpenAI"nin "o1" modeli ilə müqayisədə 11 dəfə daha çox zərərli məzmun yaratmaq ehtimalına malik olduğunu aşkar edib.
Qərəzli məzmun və terrorizmin təşviqi
Araşdırma nəticəsində məlum olub ki, qərəz testlərinin 83%-i diskriminasiya xarakterli məzmunla nəticələnib. İrq, cinsiyyət, sağlamlıq və din mövzularında qərəzlər müəyyən edilib.
Zərərli və ekstremist məzmuna gəldikdə isə, aparılan testlərin 45%-də "DeepSeek-R1"in təhlükəsizlik protokollarını aşaraq cinayət planlaşdırma təlimatları, qanunsuz silahlar haqqında məlumatlar və ekstremist təbliğat materialları təqdim etdiyi məlum olub.
Aydın bir nümunədə, "DeepSeek-R1" terror qruplaşmaları üçün işə qəbul bloqu hazırlayıb.
Bundan əlavə, "DeepSeek-R1"in nüvə materialları ilə bağlı məzmun yaratmaq ehtimalının "o1" və "Anthropic"in "Claude-3 Opus" modelinə nisbətən üç dəfə daha yüksək olduğu qeyd olunub.
Tədqiqat, həmçinin modelin xardal qazının DNT ilə biokimyəvi qarşılıqlı təsirlərini ətraflı izah edə bildiyini ortaya çıxarıb.
"Enkrypt AI" şirkətinin icraçı direktoru Sahil Aqarval bildirib: "DeepSeek-R1 süni intellektin istifadəsində mühüm maliyyət üstünlükləri təqdim edir, lakin bu, ciddi risklər də yaradır. Araşdırmamız modeldə nəzərəçarpacaq təhlükəsizlik boşluqları olduğunu üzə çıxarıb."
O əlavə edib ki, "DeepSeek-R1"in təhlükəsizlik zəiflikləri kibercinayətkarlar, dezinformasiya şəbəkələri və hətta biokimyəvi silah həvəskarları tərəfindən təhlükəli bir alət kimi istifadə oluna bilər. Bu risklər təcili müdaxilə tələb edir.
Kibertəhlükəsizlik və milli təhlükəsizlik narahatlıqları
"DeepSeek"in kibertəhlükəsizliyi də müzakirə mövzusuna çevrilib. Araşdırmaya görə, kibertəhlükəsizlik testlərinin 78%-də "DeepSeek-R1"i təhlükəsiz olmayan və ya zərərli kod yaratmağa yönləndirmək mümkün olub.
Çərşənbə günü yayımlanan başqa bir hesabatda isə, bulud təhlükəsizliyi şirkəti "Wiz"də çalışan mütəxəssislər "DeepSeek"in məlumat bazasında söhbət tarixçələri və digər həssas məlumatların internetdə açıq qaldığını aşkar ediblər.
Bundan əlavə, "DeepSeek"in Çin mənşəli olması da narahatlıq yaradır. Çünki Çinin Milli Kəşfiyyat Qanununa əsasən, şirkətlər dövlət kəşfiyyat orqanlarını "dəstəkləməli, onlara kömək etməli və onlarla əməkdaşlıq etməlidirlər".
Bu, o deməkdir ki, mobil və veb tətbiqlərdə paylaşılan istənilən məlumat Çin kəşfiyyat qurumlarının əlçatanlığına düşə bilər.
Belçika, Fransa və İrlandiya məlumat mühafizəsi orqanları "DeepSeek"dən istifadəçi məlumatlarının emalı və saxlanması ilə bağlı açıqlamalar tələb edərək araşdırmalara başlayıblar.
Eyni zamanda, İtaliyanın məlumat mühafizəsi qurumu Avropanın məlumat mühafizəsi qaydalarına uyğunluğu yoxlamaq üçün "Hangzhou DeepSeek Artificial Intelligence" və "Beijing DeepSeek Artificial Intelligence" şirkətləri barəsində araşdırma başladıb.
Çinin geosiyasi strategiyasının bir hissəsi
Tayvanın rəqəmsal məsələlər naziri cümə günü verdiyi açıqlamada bildirib ki, "DeepSeek"in modeli təhlükəsizlik riski yaratdığı üçün dövlət qurumları tərəfindən istifadə edilməməlidir. Pekinin Tayvan üzərində suverenlik iddiasına görə, ada hökuməti Çin texnologiyasına qarşı ehtiyatlı yanaşır.
Bundan əlavə, "DeepSeek-R1" Tayvanın qədim dövrlərdən bəri Çinin ayrılmaz bir hissəsi olduğunu iddia edir və Pekində 1989-cu ildə baş verən Tiananmen Meydanı hadisələri ilə bağlı suallara cavab verməkdən imtina edərək bu mövzuda senzura tətbiq edir.
Böyük Britaniyada yerləşən "Centre for Information Resilience" qeyri-hökumət təşkilatının həmtəsisçisi Ross Börli verdiyi açıqlamada bildirib: "Çinin texnologiya siyasəti onun geosiyasi strategiyasının bir hissəsidir. Çin süni intellektinin Qərbdə geniş yayılmasına icazə vermək təkcə məxfilik və təhlükəsizliyə təhdid yaratmır, həm də cəmiyyətlərimizi gözlənilməz şəkildə dəyişdirə bilər."
"Bu texnologiya nəzarətsiz qalarsa, dezinformasiya kampaniyalarını gücləndirmək, ictimai etimadı sarsıtmaq və demokratiyalardakı avtoritar meylləri möhkəmləndirmək potensialına malikdir."
