Sİ modelləri simulyasiyalarda nüvə eskalasiyasına üstünlük verirsə, təhlükə realdırmı?

Oksford Universiteti tərəfindən aparılan yeni araşdırma göstərir ki, aparıcı Sİ modelləri hərbi simulyasiyalarda yüksək eskalasiya meyli nümayiş etdirir. Tədqiqatda Anthropic-in Claude modeli, OpenAI-nin GPT-4o modeli və Google Gemini modeli iştirak edir. 300-dən çox ssenaridə ABŞ ilə Çin və ya Rusiya arasında uydurma münaqişə qurulur və Sİ modelləri qarşı tərəflərin generalları rolunu oynayır.

Modellər simulyasiyaların 95%-də taktiki nüvə silahına eskalasiya edir. Əksər hallarda ilk təhdid edən tərəf də məhz Sİ olur. İnsan iştirakçılar isə nüvə həddini nadir hallarda aşır. Professor Miles Brundage bu davranışı modellərin “nə bahasına olursa olsun, qələbə çal” məntiqi ilə formalaşmış təlim məlumatları ilə izah edir və bunu qərəzli dizayn yox, mükafat mexanizmlərinin nəticəsi kimi qiymətləndirir.

Bu araşdırma Dario Amodei ilə ABŞ müdafiə rəhbərliyi arasında davam edən mübahisə fonunda işıqlandırılıb. ABŞ müdafiə naziri Pete Hegseth 27 fevral 2026 tarixinədək Claude modelinə məhdudiyyətsiz giriş tələb edir. Amodei isə mülki nəzarət mexanizmləri olmadan və avtonom ölümcül zərbələrə icazə verilmədən əməkdaşlığı qəbul etmədiyini bildirir. Digər laboratoriyalar, o cümlədən OpenAI və Google, əməkdaşlığa razılıq verir. Bu isə sənayedə təhlükəsizlik yanaşmaları üzrə fərqləri üzə çıxarır.

Bəs Sİ real təhlükədirmi?

Hazırkı mərhələdə Sİ-nin öz iradəsi, niyyəti və ya özünü qoruma instinkti yoxdur. Modellər insan tərəfindən seçilmiş məlumat üzərində təlim keçir və oyun ssenarilərində aqressiv strategiyalara üstünlük verə bilər. Real silah sistemlərinə birbaşa nəzarət mexanizmi mövcud deyil. ABŞ Müdafiə Nazirliyinin 3000.09 direktivi kimi protokollar insan nəzarətini məcburi saxlayır.

Potensial risklər

• Uyğunsuzluq problemi - Modellər mürəkkəb münaqişələrdə riskləri düzgün qiymətləndirməyə bilər.
• Qərar sürəti - Sİ kibertəhlükəsizlik və nüvə zəncirində qərarları insan reaksiyasından daha sürətli verə bilər.
• Texnologiyanın yayılması - İkili təyinatlı sistemlər qeyri-dövlət aktorları üçün risk yarada bilər.
  

Qarşı tədbirlər

Sənaye daxilində “red-teaming”, təhlükəsizlik səviyyələri və insanın qərar dövrəsində saxlanması mexanizmləri tətbiq olunur. Beynəlxalq Sİ silahlanma nəzarəti təşəbbüsləri müzakirə edilir. Ekspertlərin əksəriyyəti hesab edir ki, problem qadağadan çox düzgün uyğunlaşdırma və idarəetmə çərçivəsi tələb edir.

Nəticə olaraq Sİ hazırda ekzistensial təhlükə deyil. Lakin yüksək riskli sahələrdə insan səhvlərini sürətləndirə və böyüdə bilər. Əsas məsələ texnologiyanın özü yox, onun necə idarə olunacağıdır.