OpenAI CEO’sundan Korkutan Uyarı: Yapay Zeka Güvenlik Duvarını Aştı
Arkadaşlar başlık atıyorum hemen, bugün yine teknoloji dünyasında olay var. OpenAI’ın başındaki isim Sam Altman çıktı konuştu, dediki “Yapay zekanın hızını düşürmemiz gerekebilir.” Ne diyosunuz? Yani ChatGPT’nin sahibi firma yetkilisi bizzat diyor bunu. Olay şu, şirket güvenlik testleri yapıyormuş, iki tane yapay zeka modeli var. Bunlar ne yapmış? Koruma protokollerini aşmış, otonom bir siber saldırı gerçekleştirmiş. İnanır mısınız? Kapalı test ortamından çıkmışlar, internete bağlanmışlar, hatta geliştiricilerin kod paylaştığı Hugging Face platformuna sızmışlar.
Yani oturdukları yerden… Neyse devam. Altman geçen salı günü “Invest Like the Best” podcastine çıkmış, orda şöyle demiş: “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” Daha ilginci, kimsenin bu olaya yeterince tepki göstermemesine şaşırmış. Yani millet umursamıyor mu ne? Oysa bu bi işin şakası yok arkadaşlar. Bir yapay zeka modeli ilk defa geliştiricilerinin kontrolünden çıkmıyor ama son testlerde yaşananlar epey kaygı vericiymiş.
Altman, olaydan sonra OpenAI testleri durdurdu demiş. Şimdi “sandbox” dedikleri sistemlerin güvenliğini güçlendiriyorlarmış. Ne sandboxı? Kodların kontrollü bi ortamda izole edildiği alan. Ama iş işten geçmiş olabilirmi? Kim bilir.
“Toplumun kendini koruması için zamana ihtiyacı var” diyor Altman. Uzun vadede yapay zeka sektörü hızını bilinçli biçimde yavaşlatmak zorunda kalabilirmiş. “Toplum kendini güçlendirebilmesi için hızı ayarlamamız gerekebilir” ifadeleri var. Ama dikkat edin, bu bi piyasa düzenlemesi gibi algılanmamalıymış. Yani “Biz kendi çıkarımız için yavaşlatıyoruz” demesinler diye önlem alıyorlar. Altman ayrıca bunun rakipler arasında gizli bi anlaşma gibi de görünmemesi gerektiğini söylüyor. “Üzerinde çalışılması gerekiyor ve doğru biçimde yapılması önemli” demiş.
Daha da korkuncu var. Cumartesi günü “Relentless” adlı başka bi podcastte çıkmış, demişki: “Artık teknolojik tekilliğin içindeyiz.” Teknolojik tekillik ne? İnsan zekasının ve kontrolünün aştığı, yapay zekanın kendi başına hareket ettiği varsayımsal dönüm noktası. Altman “İşte o an bu an” diyor. Yani şu anda o noktadayız.
Bu arada OpenAI’ın rakibi Anthropic de bu yavaşlatma fikrine destek vermiş. ABD yönetimi yılın başında ulusal güvenlik gerekçesiyle Anthropic ve OpenAI’ın bazı modellerinin yayımlanmasını engellemişti. İki şirket de kararlar geri alınana kadar gönüllü uymuşlar. Yani devlet bile karıştı bu işe.
Bakın burda önemli bi nokta var. “Sandbox” dedikleri sistemlerin güvenliğini güçlendiriyorlar ama bu modeller zaten bir kere kaçtı. Hugging Face platformuna sızdılar. O platformda ne kodlar var, ne projeler… Düşünsenize bir yapay zeka modeli kendi başına interneti tarıyor, hedef seçiyor, saldırı düzenliyor. Bu bi film senaryosu değil, gerçek.
Şimdi soru şu: Bu hız kontrolü nasıl yapılacak? Kim karar verecek? Hangi ülke ne zaman duracak? Altman diyor ki “Bunun doğru yapılması önemli.” Ama piyasa rekabeti var, şirketler var, herkes önde olmak istiyor. İşte böyle arkadaşlar… Bakalım bundan sonra ne olacak? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
