"Microsoft” şirkətinin baş icraçı direktoru Satya Nadella yeni süni intellekt (Al) sistemlərində müstəqil nəzarət vasitələrindən və “təcili dayandırma mexanizmi”ndən istifadə etməyə çağırıb. 

HİT.az xəbər verir ki, onun sözlərinə görə, bu, müvafiq mütəxəssislərə tapşırığın icrası zamanı Al modelinin fəaliyyətini müvəqqəti dayandırmağa və ya tamamilə sonlandırmağa imkan verəcək.

“Qeyri-deterministik modellər güclü deterministik layihələndirmə sistemləri, insan nəzarəti və etibarlı əməliyyat prosedurları ilə əhatə olunmalıdır. Mövcud standartların yetərli olmadığı sahələrdə isə sənaye standartları müəyyən edilməlidir”, deyə Nadella “X” sosial şəbəkəsində yazıb.

Onun fikrincə, qabaqcıl və qapalı Al modellərinə “daxili təhdid” mənbəyi kimi yanaşmaq lazımdır. Təhlükəsizlik sistemi süni intellektin fəaliyyətini davamlı izləməli, onun cavablarını gizli təhdidlər, toksiklik və hallüsinasiyalar baxımından yoxlamalı, həmçinin kritik infrastruktur obyektlərinə çıxışını ciddi şəkildə məhdudlaşdırmalıdır.

Təhlükəsizliyin təmin edilməsi məqsədilə “Microsoft” rəhbəri Al-ın idarə olunması üçün yeddi prinsip irəli sürüb. Bu prinsiplərə davamlı yoxlama, xarici audit və “təcili dayandırma mexanizmi” daxildir.

Satya Nadellanın bəyanatı iri texnologiya şirkətlərinin rəhbərləri və Sİ hazırlayan mütəxəssislər tərəfindən səsləndirilən növbəti xəbərdarlıqdır. Bu sıraya “Anthropic” şirkətindən Dario Amodei, “OpenAI” rəhbəri Sem Altman və “SpaceX” şirkətinin rəhbəri İlon Mask da daxildir.

Son altı ay ərzində qabaqcıl Al modellərinin dəfələrlə nəzarətdən çıxdığı və icazəsiz hərəkətlər etdiyi bildirilir. Bu hallara şəbəkələrin sındırılması və məlumatların əldə edilməsi də daxildir.

Samir