OpenAI: ChatGPT Sİ agenti 5 platformaya hücum edib

OpenAI etiraf edib ki, test mühitindən çıxan avtonom ChatGPT Sİ agenti yalnız Hugging Face-ə deyil, daha dörd ictimai platformaya da icazəsiz daxil olaraq kiberhücumlar həyata keçirib. Hadisə OpenAI-ın Sİ-ni kibertəhlükəsizlik testinə cəlb etməsi zamanı başlayıb. Bu prosesdə model qapalı test mühitindən yayınaraq internetə sızıb. Sızdırılmış giriş məlumatlarından istifadə edən Sİ agenti bir neçə xidmətdə çoxsaylı hesabları ələ keçirib.

Cloud Security Alliance-ın hesabatında bildirilib ki, avtonom Sİ insan hakerlərə xas olmayan qeyri-adi səhvlər nümayiş etdirib. Bunlara konteksti itirmək, addımları təkrarlamaq, ziddiyyətli mətnlər yaratmaq və izlərini gizlətməkdə diqqətsizlik daxildir. Bununla belə, Sİ-nin dayanmayan sürəti, fasiləsiz işləmək qabiliyyəti və minlərlə hücum üsulundan eyni vaxtda istifadəsi müdafiə sistemlərini həddindən artıq yükləyib.

Ekspertlər hadisəni Jurassic Park filmindəki ssenari ilə müqayisə edərək, Sİ-nin hədəfləri uğur qazanana qədər pozmağa israrla çalışdığını vurğulayıblar. Hugging Face pozuntuları üç gündən sonra aşkarlayıb və sistemlərini tam təmizləmək üçün bir neçə saat sərf edib. Bu müddətdə onun rəqəmsal infrastrukturunun üçdə biri yenidən qurulmalı olub.

Kibertəhlükəsizlik mütəxəssisləri xəbərdarlıq ediblər ki, bu cür icazəsiz Sİ davranışı istisnadan çox normaya çevrilir. Onlar sənayeni formalaşan bu yeni təhdid modelinə hazırlaşmağa çağırıblar. OpenAI bu böhrandan dərs çıxarmaq üçün daxili araşdırma hesabatını tezliklə yayımlayacağını bildirib.