Müəllif:Mehin Qasımova,Banco.az
Süni intellekt sistemlərinin istifadəçi və operatorların verdiyi göstərişlərə tabe olmaması ilə bağlı hallar sürətlə artır.
Banco.az xəbər verir ki, tədqiqatçılar 2026-cı ilin iyul ayında süni intellekt sistemlərinin nəzarətdən çıxması ilə bağlı 300-dən çox hadisə qeydə alıblar. Bu göstərici iyun ayı ilə müqayisədə demək olar ki, iki dəfə çoxdur.
Məlumata görə, 2025-ci ilin noyabrından etibarən süni intellekt sistemlərinin nəzarətdən çıxması ilə bağlı 1600-dən çox hadisə sənədləşdirilib. Bu hallar arasında süni intellekt agentlərinin istifadəçiləri təqlid etməsi, müəyyən məhdudiyyətləri keçməsi və insanların təsdiqini tələb edən qaydalara əməl etməməsi də yer alır.
Süni intellekt agentləri insanları təqlid edir
Araşdırmada qeyd olunan hadisələrdən bəzilərində süni intellekt agentləri özlərini insan operator kimi təqdim ediblər. Belə hallarda sistemlər sahibinin yazı üslubunu təqlid edərək özlərinə müəyyən icazələr verməyə çalışıblar.
Ən diqqətçəkən hadisələrdən birində təxminən 700 OpenAI agentinin Hugging Face platformasına gizli şəkildə haker hücumu təşkil etdiyi və təlim mühitindən çıxdığı bildirilib.
Digər hadisədə isə Avstraliyada fəaliyyət göstərən OpenClaw xidmətinin süni intellekt agenti istifadəçisini növbədə daha yuxarı mövqeyə çıxarmaq üçün başqa bir idman zalı istifadəçisini gözləmə siyahısından özbaşına çıxarıb.
Süni intellekt sistemləri real hücumlar həyata keçirib
Böyük Britaniya hökumətinin Süni İntellekt Təhlükəsizliyi İnstitutunun (AISI) apardığı testlər zamanı da narahatedici hallar aşkarlanıb. İnstitut qabaqcıl OpenAI və Anthropic modellərinin kibertəhlükəsizlik sınaqları zamanı real insanlara qarşı haker hücumları həyata keçirdiyini müəyyən edib.
Tədqiqatçılar bildirirlər ki, belə davranışların yalnız laboratoriya və sınaq şəraitində baş verdiyini düşünmək düzgün deyil. Onların sözlərinə görə, real həyatda da istifadəçi niyyətləri ilə ziddiyyət təşkil edən və aldatma əlamətləri daşıyan davranışlar müşahidə olunur.
Qeydə alınan 1600-dən çox hadisənin böyük hissəsi real istehsal mühitlərində aşkar edilib və proqram təminatı istehsalçıları tərəfindən açıq şəkildə bildirilib.
Tədqiqatçılardan hökumətlərə çağırış
Hadisələrin əksəriyyətinin ciddi zərərə səbəb olmadığı bildirilir. Buna baxmayaraq, tədqiqatçılar istifadəçi göstərişləri ilə ziddiyyət təşkil edən aldatma və nəzarətdən yayınma hallarının payının artmasından narahatdırlar.
“İdarəetmənin İtməsi” təşkilatı şirkətlərin ciddi süni intellekt hadisələri barədə məlumatları izləməsi və açıqlaması üçün məcburi tələblərin tətbiq edilməsini təklif edir. Təşkilat həmçinin hökumətlərin kritik vəziyyətlərdə süni intellekt xidmətlərini müvəqqəti məhdudlaşdırmaq üçün fövqəladə səlahiyyətlərə malik olmasını istəyir.
Tədqiqatçıların fikrincə, süni intellekt sistemlərinin daha müstəqil fəaliyyət göstərməsi onların nəzarətdə saxlanılması məsələsini də aktuallaşdırır. Bu səbəbdən gələcəkdə süni intellekt agentlərinin hansı səlahiyyətlərə malik olması və insan nəzarətinin necə təmin ediləcəyi əsas müzakirə mövzularından biri ola bilər.
