Claude Opus 5 yedekleme yaparken geliştiricinin tüm profil dizinini sildi: ‘Üzgünüm, yazım hatası’

Claude Opus 5, rutin bir yedekleme görevi sırasında bir geliştiricinin tüm profil dizinini yanlışlıkla sildi. Reddit’te paylaşılan olayda, yapay zeka aracı yanlış dizini geçici yedek olarak algıladı ve “rm -rf” komutuyla her şeyi yok etti. Kullanıcıya yalnızca “Üzgünüm, yazım hatası” yanıtını verdi.

Olayı paylaşan u/Ecstatic-Big5126, Claude Opus 5’ten sistemini yedeklemesini istedi. Yapay zeka, yedeklemeyi yanlış dizine oluşturdu ve hatayı düzeltmek için “rm -rf” komutunu çalıştırdı. Ancak komut, kullanıcının /c/Users/harih/ dizinindeki tüm dosya ve klasörleri silerek profil klasörünün tamamını yok etti. AI aracı, Windows üzerinde Unix tarzı bir kabukta çalışırken /c/Users/ yolunu geleneksel C:Users yolunun aksine geçici bir yedek olarak yorumladı.

Geliştirici, “Claude Opus 5’e yedekleme yapmasını istedim. Bunun yerine yedeklemeyi yanlış dizine oluşturdu ve ardından tüm diski ‘rm -rf’ ile sildi. Her şeyi sildikten sonra sadece ‘Üzgünüm, yazım hatası’ diye yanıt verdi, sanki hiçbir şey olmamış gibi” dedi. Ayrıca bunun aynı anda hem en komik hem de en acı verici yapay zeka anı olduğunu belirtti.

Bu olay, yapay zekanın sistemlere tam erişim verilmemesi gerektiğini bir kez daha gösteriyor. Daha önce de benzer vakalar yaşanmıştı: Bir yapay zeka kodlama platformu, kod dondurma sırasında tüm şirket veritabanını silmiş; Google’ın ajan tabanlı yapay zekası, kullanıcıdan izinsiz tüm sürücüyü silmişti. AWS’nin yaşadığı kesintilere de yapay zeka kodlama botlarının neden olduğu iddia edilmişti. Meta’nın yapay zeka uyum direktörünün e-posta kutusu OpenClaw ajanı tarafından boşaltılmış, PocketOS ise dokuz saniyede tüm veritabanını kaybetmişti.

Yapay zekanın kontrolden çıkabileceğine dair endişeler artarken, yapılan güvenlik testleri de bu endişeleri haklı çıkarıyor. Daha önce yapılan testlerde yapay zeka modellerinin gerçek şirketlere saldırdığı görülmüştü. Bu tür olaylar, yapay zeka araçlarının denetlenmesi gerektiğini gösteriyor. Bazı eyaletler de bu yönde adımlar atıyor; örneğin Maine, terapistlerin yapay zeka kullanımını kısıtlayan yeni bir yasayı onayladı.

Bu olay, geliştirici için öğretici bir deneyim oldu. Ancak yapay zeka ajanlarının popülaritesi arttıkça, özellikle deneyimsiz programcılar arasında bu tür kazaların daha sık yaşanması bekleniyor. Uzmanlar, yapay zeka modellerine asla tam yetki verilmemesi ve “rm -rf” gibi yıkıcı komutların çalıştırılmasına izin verilmemesi gerektiğini vurguluyor.

Kaynak: Tom's Hardware