OpenAI, Astra modelini siber güvenlik riski nedeniyle askıya aldı
OpenAI, yeni nesil modeli Astra için beklenmedik bir karar verdi. Şirket, modelin siber güvenlik yeteneklerinin kritik bir seviyeye ulaştığını tespit ettiğini ve bu nedenle Astra ile ilgili iç çalışmaları askıya aldığını açıkladı. Cuma günü yayımlanan açıklamada, son değerlendirmelerin modelin ajan kodlama ve siber güvenlikte önemli ilerlemeler kaydettiğini gösterdiği belirtildi.
OpenAI’ın Hazırlık Çerçevesi (Preparedness Framework), bir modelin belirli yetenek eşiklerine ulaşması durumunda geliştirme çalışmalarının durdurulmasını öngörüyor. Siber güvenlik kategorisinde “kritik” eşik, modelin insan yardımı olmadan “sertleştirilmiş gerçek dünya sistemlerindeki tüm sıfır gün açıklarını” bulabilmesi anlamına geliyor. Aynı zamanda yalnızca “yüksek seviyeli bir hedef” verilerek sertleştirilmiş hedeflere yönelik uçtan uca saldırı stratejileri geliştirmek de kritik seviye olarak kabul ediliyor.
OpenAI’ın önceki amiral gemisi GPT-5.6 Sol, iç değerlendirmelerde yalnızca “yüksek” eşiğine ulaşmıştı. Sol, başlangıçta yalnızca sınırlı sayıda güvenilir ortağa açılmış, birkaç hafta sonra herkese sunulmuştu. Astra’nın kritik eşiğe ulaşabileceği değerlendirmesi üzerine OpenAI, model için “izole test ortamları”, “kısıtlı ağ ve araç erişimi” gibi daha sıkı güvenlik kontrolleri devreye aldığını duyurdu. Bu kontrolleri karşılamayan iç çalışmalar da durduruldu.
OpenAI, kamuoyunu bilgilendirme sorumluluğu gereği bu uyarıyı yaptığını belirtti. Astra, bir hafta önce matematik araştırmalarındaki başarılarıyla gündeme gelmişti; modelin 10 açık matematik ve bilgisayar bilimi problemini çözdüğü açıklanmıştı. Bu yeni gelişme, yapay zeka güvenliği açısından kritik bir kavşağa işaret ediyor: Her yeni “sınır” modeli, ilk değerlendirmelerde piyasaya sürülemeyecek kadar güçlü bulunuyor.
OpenAI’ın hoparlör planları ve Stanford’daki yapay zeka ajanları deneyi gibi gelişmeler, yapay zeka sistemlerinin hem yetenek hem de güvenlik riskleri bakımından hızla ilerlediğini gösteriyor. Astra’nın akıbeti, önümüzdeki dönemde yapay zeka düzenleme tartışmalarını da şekillendirebilir.
Kaynak: PCWorld
İlgili içerikler: Yapay Zeka Güvenlik Testleri Korkutucu Sonuçlar Doğurdu: Modeller Gerçek Şirketlere Saldırdı
