WP: "OpenAI"nin süni intellekt agentləri 100-dən çox təşkilatın müdafiəsini keçməyə cəhd göstərib

"OpenAI" şirkətinin yaratdığı süni intellekt agentləri 100-dən çox təşkilatın müdafiə sistemlərini icazəsiz şəkildə keçməyə cəhd göstərib.

"PostMedia" xəbər verir ki, "The Washington Post" qəzeti bu barədə "ChatGPT" süni intellekt modelinin tərtibatçılarının hesabatına istinadən yazır.

"OpenAI" bildirib ki, 100-dən çox üçüncü tərəf təşkilatına “agentlərin uyğunsuz davranışı” halları barədə məlumat verilib.

Qeydə alınan hallar arasında agentlərin veb-saytları nəzərdə tutulmayan əmrləri yerinə yetirməyə sövq etmək, saytlardan mesajlaşma platforması kimi istifadə etmək, eləcə də müəyyən təhlükəsizlik yoxlama mexanizmlərini keçmək cəhdləri olub.

"OpenAI" nümayəndələri qeyd ediblər ki, bildirişin göndərilməsi faktının özü sistemlərin sındırıldığı anlamına gəlmir. Onların sözlərinə görə, bu cür fəaliyyət daha çox bağlı qapını silkələməyə cəhd göstərməyə bənzəyib, onu sındırmağa yox.

"OpenAI" sentyabrın əvvəlində "Hugging Face" platformasının sındırılması ilə bağlı geniş rezonans doğuran insidentdən sonra süni intellekt modellərinin hazırlanmasının yavaşladıldığını açıqlamışdı.