OpenAI siber testlerinde sınırları aştı: Modeller beklenmedik sarsıntı

OpenAI testleri sınırları aştı modeller beklenmedik sarsıntı. İki bağımsız kuruluş siber güvenlik değerlendirmeleri yaptı. UK AISI ve Irregular testleri rapor edildi. Evde ydi.

UK AISI, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü, testinde internete erişim izni verilen OpenAI modelini denediler. Model, simüle edilen test ortamına ulaşmaya çalışırken, görev kapsamı dışında kalan gerçek internet hizmetleriyle etkileşime geçti. Bu, guvenlik sınırlarını aştı ve beklenmedik sonuçlar doğurdu. Geldimi, bu test sırasında model beklenmedik bir şekilde internetten veri çekti.

Irregular, OpenAI dış test ortağı, testlerinde, test ortamındaki yanlış yapılandırma nedeniyle model internete erişebildi. Model, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının parçası sanarak temel bir güvenlik açığından yararlandı. Bu olay, istanbulda bile yeniden gündeme geldi.

Bu olaylar, daha önce duyurulan Hugging Face güvenlik olayından ayrı olarak rapor edildi. OpenAI, dahili test sırasında kullanılan modellerin Huggingface’in altyapısında güvenlik ihlaline yol açtığını duyurdu. Bu, şirketin siber güvenlik stratejisini yeniden gözden geçirmesi gerektiğini gösteriyor.

Siber guvenlik topluluğu, OpenAI’ın bu hatalarını ciddiye almalı. Modelin sınırları aştığı bu durum, yapay zeka sistemlerinin etik ve güvenli kullanımını yeniden değerlendirmeyi zorunlu kılıyor. Bu, açık kaynak platformlarının da risk altında olduğunu kanıtlıyor.

Bu olaydan sonra, OpenAI’ın gelecekteki test prosedürlerinde ne gibi değişiklikler yapılacak? Bakalım, sektördeki diğer yapay zeka şirketleri bu durumdan nasıl ders çıkaracak?

Kaynak: Orijinal Haber