OpenAI’nin Astra modeli araştırmacıları endişelendirdi: İşte nedeni
OpenAI, Perşembe günü şimdiye kadarki en gelişmiş modeli olarak tanımladığı GPT-6 Astra’yı duyurdu. Yeni model, siber güvenlik yetenekleri ve kullandığı akıl yürütme tekniği nedeniyle yapay zeka topluluğunda ciddi endişelere yol açtı. Astra şimdilik yalnızca OpenAI’nin Daybreak siber güvenlik programı üyelerine açık.
Modelin önümüzdeki günlerde Pro, Plus, Enterprise ve Business aboneliklerine ve OpenAI API üzerinden tüm ücretli kullanıcılara sunulması bekleniyor. Duyuru, Anthropic’in Claude Fable 5.1 ve Mythos 5.1 modellerini piyasaya sürmesinden yalnızca günler sonra geldi. OpenAI Başkanı Greg Brockman, Astra’nın yapay zeka yetenekleri konusunda iddialı konuştu: “Astra, yalnızca bir model değil; güvenlik ve akıl yürütme alanında yeni bir çağın başlangıcı.”
Ancak araştırmacılar, modelin özerk siber operasyonlar yürütebilme kapasitesinin denetim dışı kalabileceği uyarısında bulunuyor. Özellikle modelin kendi saldırı senaryolarını üretebilmesi, mevcut güvenlik önlemlerinin yetersiz kalabileceği endişesini doğuruyor. OpenAI, Astra’yı Daybreak programıyla sınırlı tutarak sorumlu kullanımı hedeflediğini açıkladı; ancak bağımsız uzmanlar, modelin API üzerinden geniş kitlelere açılmasının ciddi riskler oluşturabileceğini savunuyor.
Brockman, modelin yalnızca savunma amaçlı kullanılacağını ve kötüye kullanımı önlemek için katmanlı güvenlik sistemleri eklendiğini söyledi. Yine de yapay zeka güvenliği alanındaki araştırmacılar, bu tür yeteneklerin yayınlanmadan önce bağımsız denetimden geçmesi gerektiğini dile getiriyor. Astra’nın önümüzdeki günlerde kademeli olarak kullanıma sunulması beklenirken, tartışmaların da süreceği anlaşılıyor.
Kaynak: PCWorld
