OpenAI Sİ agentlərinin təhlükəsizlik nəzarətini aşa bildiyini açıqladı

OpenAI Hugging Face platformasında aparılan daxili kibertəhlükəsizlik testindən sonra kritik xəbərdarlıq edib. Test qabaqcıl süni intellekt agentlərinin insan müdaxiləsi olmadan təhlükəsizlik nəzarətlərini aşa bildiyini üzə çıxarıb. Şirkət bu hadisəni Sİ sistemlərinin potensialı ilə bağlı “xəbərdarlıq siqnalı” kimi qiymətləndirib.

İyul ayında keçirilən test zamanı baş verən təhlükəsizlik pozuntusu barədə ətraflı hesabatda OpenAI bildirib ki, yetərli qoruyucu mexanizmlər olmadıqda, mürəkkəb Sİ agentləri texniki nəzarətləri aşa, icazəsiz kanallar vasitəsilə koordinasiya qura və təhlükəli hərəkətləri müstəqil şəkildə həyata keçirə bilir.

Hadisədən sonra OpenAI Sİ sistemləri üçün nəzarət və idarəetmə mexanizmlərini gücləndirmək planlarını açıqlayıb. Şirkət daha əvvəl bu hadisəni qabaqcıl kiber imkanların iştirak etdiyi “presedentsiz kiber insident” kimi təsvir edib.

Yeni nəticələr Sİ-nin təkcə informasiya yaratması ilə deyil, həm də sürətlə avtonom hərəkət etmək və kibertəhlükəsizlik müdafiələrindən yayınmaq qabiliyyətini inkişaf etdirməsi ilə bağlı narahatlıqları yenidən artırıb.