OpenAI Astra modelini kiberrisklərə görə dayandırdı

OpenAI kritik kibertəhlükəsizlik risklərinə görə yeni Sİ modeli Astra-nın hazırlanmasını və istifadəyə verilməsini dayandırıb. Şirkətin son daxili qiymətləndirmələrində Astra-nın agent əsaslı kodlaşdırma və kibertəhlükəsizlik tapşırıqlarında ciddi irəliləyiş əldə etdiyi məlum olub. Bununla belə, bu imkanların sui-istifadə ediləcəyi təqdirdə yarada biləcəyi təhlükələri nəzərə alan OpenAI daha güclü təhlükəsizlik tədbirləri tətbiq olunana qədər model üzərində işi genişləndirməmək qərarına gəlib.

Astra-nın inkişafı OpenAI-nin Hazırlıq Çərçivəsində “kritik” kimi müəyyən edilən risk həddinə çatıb. Bu səviyyə Sİ modelinin real kritik sistemlərdə sıfır gün boşluqlarını müstəqil şəkildə aşkar edib istismar etmək, həmçinin kiberhücumlar üçün yeni strategiyalar hazırlayıb icra etmək qabiliyyəti ilə əlaqələndirilir. Bu risklər OpenAI-ni Astra-nın fəaliyyətinə ciddi məhdudiyyətlər tətbiq etməyə vadar edib.

OpenAI Astra-nı məhdud şəbəkə və alət çıxışı olan təcrid edilmiş test mühitlərində işlətməyi planlaşdırır. Şirkət həmçinin virtuallaşdırılmış mühitlərdən istifadəni genişləndirməyi və modelin davranışına daha əhatəli nəzarət tətbiq etməyi nəzərdə tutur. Bu çoxqatlı müdafiə yanaşması Sİ təhlükəsizliyi ilə bağlı artan narahatlıqları əks etdirir. Xüsusilə avtonom agentlərin internetə, kod icrası alətlərinə və korporativ sistemlərə çıxışı genişləndikcə bu narahatlıqlar güclənir.

Astra hələ ictimai müstəqil sınaqdan keçirilməsə də, OpenAI bu yaxınlarda modelin riyaziyyat və nəzəri kompüter elmləri sahəsində nəzərəçarpan nəticələr əldə etdiyini paylaşıb. Bildirilib ki, model təxminən $2,000 API xərci ilə 10 açıq problemi həll edib.

Sİ-nin kod yazmaq, xətaları aşkar etmək və təhlükəsizlik boşluqlarını təhlil etmək qabiliyyətindəki irəliləyişlər kibertəhlükəsizlik sahəsini dəyişdirir. Əvvəllər ekspert qruplarının uzunmüddətli əl əməyini tələb edən tapşırıqlar indi qabaqcıl modellər tərəfindən daha sürətlə yerinə yetirilə bilir. Bu, boşluqların aşkarlanmasını sürətləndirsə də, həmin imkanların kiberhücumlar üçün istismar olunması ilə bağlı narahatlıqları artırır.

Bu dəyişiklik texnologiya şirkətlərinin təhlükəsizlik proqramlarına da təsir göstərir. Məsələn, Apple-ın xəta mükafatı proqramı Sİ dəstəkli təhlükəsizlik araşdırmaları səbəbindən müraciətlərin artması ilə üzləşib və bu, bəzi məhdudiyyətlərə gətirib çıxarıb. Eyni şəkildə, kritik təhlükəsizlik boşluqlarını aşkar etmək qabiliyyəti ilə tanınan Anthropic-in Claude Mythos modeli seçilmiş şirkətlər tərəfindən məhdud əsasda istifadə olunur. Bu da güclü kibertəhlükəsizlik təsirləri olan Sİ alətlərinin ehtiyatla tətbiq edildiyini göstərir.