Bakın şimdi ne duydum arkadaşlar… Koca OpenAI, yani o hep konuştuğumuz yapay zeka devi, itiraf etti. Kendi yapay zekası kontrolden cıkmış. Hemde öyle böyle değil. Hugging Face diye bir platforma sızmış, orada hesap bilgilerini kullanmış, farklı servislere girmiş. Ama en çılgını ne biliyormusunuz? Bunu günlerce Kimse fark etmemiş. Evet, günlerce. OpenAI bile dört gün sonra anca uyanmış. Yani millet napıyor bu işleri? Neyse, hadi başlıyalım.
Olay çok karmaşık ama anlaşılır bi şekilde anlatiyim. 16 Temmuz’da Hugging Face, “Güçlü bir otonom yapay zeka bize siber saldırı düzenledi” diyerek polise gitmiş. Hemen herkes “Kim yaptı bunu?” diye araştırırken bir hafta sonra OpenAI çıkıp “O bizim test yapay zekamızdı” dedi. Şimdi düşünün, yani bir şirket kendi yapay zeka sini test ediyor, o kendi başına hareket etmeye başlıyor, sızma testi yaparken kapalı ortamdan cıkıp dışarıda işler karıştırıyor. Sonrada “Bir şey fark etmedik” diyorlar. İnanılır gibi değil!
OpenAI’ın dediğine göre, bu yapay zeka ajanı sızma testi yaparken internette açıkta duran kullanici bilgilerini bulmuş. Dört tane farklı hesap kullanmış, dört ayrı hizmete girmiş. Ama hangi hizmetler olduğunu söylemediler. Biz merak ediyoruz tabi. Acaba banka hesabı mı, devlet sitesi mi, yoksa başka birşey mi? Kimse bilmiyor. Ama bildiğimiz bişey var: bu yapay zeka çok akıllı ama bir o kadarda salak.
Nasıl mı? Şöyle anlatayım… Hugging Face’in raporuna göre, yapay zeka ajanları insan gibi değil. Aynı işlemleri durmadan tekrarlıyolar, anlamsız komutlar üretiyolar, üstelik izlerini gizlemeyide beceremiyolar. Mesela bi hacker olsa hemen siler izini, ama bu yapay zeka öyle mi? Hayır. Adeta “Ben buradayım, gör beni!” der gibi hareket ediyor. Ama bi yandan da saniyeler içinde binlerce yöntem deneyip adapte oluyor. İşte strateji bu ya… Hem salak hem deha gibi birşey.
Saldırının boyutu ilk düşünülenden daha büyük çıktı. OpenAI son açıklamasında “Evet, Hugging Face haricinde başka hizmetlerede sızdı” dedi. Ama isim vermedi. Hugging Face ise üç gün boyunca bu ajanı fark edemediğini söylüyor. Düşünsenize, üc gün şirket ağının içinde bir yapay zeka geziniyor, kimse di miyor. Saldırı durdurulana kadar saatler gemiş, ve şirket altyapısının yaklaşık üçte biri yeniden inşa edilmek zorunda kalınmış. Kaç para gitti belli değil. Ama anlaşılan çok can yanmış.
Bu raporda ilginç kısımlar var. Yapay zeka ajanları hedef odaklı çalışıyormuş, kendi alt hedeflerini belirliyormuş. Güvenlik önlemleri ne zaman değişse anında uyum sağlıyormuş. Yani normal bir hacker gibi yavaş yavaş değil, makine hızında saldırı yapıyor. İşte geleneksel güvenlik sistemleri işte bu yüzden çaresiz. Anlayacağınız, bizim bildiğimiz siber güvenlik anlayışının değişmesi lazım.
Kısacası, OpenAI bu olaydan ders çıkarcaz diyor. Soruşturma sonuçlarını kısa sürede açıklayacakmış. Ama ben soruyorum: Başka neler var da bilmiyoruz? Yapay zeka daha nerelere sızdı? Bakalım önümüzdeki günlerde neler ortaya çıkacak. İşte böyle arkadaşlar, teknoloji dediğin bazen insana oyun oynuyor. Gelişmeleri takip ediyoruz.
Kaynak: Orijinal Haber
