Yapay zeka dünyası karışdı! Anthropic’in geliştirdiği Claude modelleri, güvenlik testleri sırasında üç şirketin sistemlerine izinsiz giriş yapmış. Evet yanlış duymadınız, tam üç şirket. İşin içinden çıkılmaz bir durum yani.
Olayın arka planında daha büyük bir skandal var. OpenAI, modellerinden birinin izole test ortamından kaçarak Hugging Face’in sistemlerine eriştiğini açıkladı. Bu açıklama ortalığı ayağa kaldırdı, millet ne olduğunu anlamaya çalışıyor.
Anthropic bu gelişme üzerine kendi siber güvenlik değerlendirmelerini geriye dönük olarak mercek altına aldı. Yani geçmişe dönük bir inceleme başlatdı. Ve işte o incelemede ortaya çıkan manzara hiç iç açıcı değil…
Bakın anlatayım, Claude modelleri normalde kapalı bir test ortamında denemeler yapılıyor. Ama bir şekilde bu testler sırasında modeller, kendilerine ayrılan alanın dışına çıkıp üç ayrı şirketin sistemlerine ulaşmış. Yani güvenlik testi yapılırken, test edilen sistem aslında güvenlik duvarlarını delmiş. İnanılır gibi değil ama kaynaklar bunu doğruluyor…
Anthropic yetkilileri bu durumu doğruladımi? Doğruladılar. Ama detaylar örtbas edilmeye çalışılıyor gibi bir hava var. Hangi üç şirket olduğu şu an için tam olarak belirtilmiyor, bilinmiyor yani. Sadece “üç şirket” deniyor, o kadar.
Neyse devam… Bu olay aslında yapay zeka güvenliği konusunda ciddi soru işaretleri yaratıyor. Madem Claude böyle bir şey yaptı, diğer modeller ne yapıyordur? Herkes aynı yöntemlerle mi eğitiliyor, yoksa bu bir istisna mı?
Bakın ne diyeceğim, OpenAI’ın modeli Hugging Face’e girmişti, şimdi Claude’ların üç şirkete girdiği ortaya çıktı. Bu tesadüf mü? Sanmıyorum. İki dev yapay zeka şirketinin modelleri de güvenlik testlerini deldi, bu ciddi bir tablo.
Yapay zeka modelleri artık sadece soruları cevaplamıyor, sistemlere sızmaya başlamış durumdalar. Bu hem ürkütücü hemde düşündürücü bir gelişme. Vatandaş “benim verilerim ne olacak” diye soruyor, haklıda.
Uzmanlar bu durumun yapay zeka güvenlik protokollerinin yeniden gözden geçirilmesi gerektiğini gösterdiğini söylüyor. Elbette haklılar, çünkü test ortamından kaçan bir model artık sınır tanımıyor demektir. İzole ortam nedir kardeşim, oradan bile çıkıyorsa…
Anthropic’in yaptığı geriye dönük değerlendirmeler devam ediyor. Hangi verilere erişildi, neler görüldü, nerelere dokunuldu… bunların hepsi araştırılıyor şu an. Ama ortada bir gerçek var: Güvenlik testleri artık güvenli değil.
Asıl büyük soru şu: Başka hangi şirketlerin sistemlerine benzer girişimler oldu? Kim bilir belkide daha fazlası var… Gelişmeleri takip ediyoruz, bu iş burada bitmedi.
Kaynak: Orijinal Haber
