Anthropic kurucusundan yapay zeka için ”acil kapatma düğmesi” önerisi
Jack Clark, Anthropic’in kurucu ortaklarından biri, BBC’ye verdiği röportajda şirketlerin yapay zeka sistemlerine “acil kapatma düğmesi” eklemesinin zorunlu hale gelebileceğini belirtti. Clark, yazılımın tehlikeli bir seviyeye ulaşması durumunda tamamen devre dışı bırakmanın bir yolunun bu düğme olduğunu ve toplumun bu konuda kurallar koymayı düşünebileceğini söyledi. Ayrıca, birçok şirketin farklı “kapatma düğmesi” yöntemleri kullandığını ve bu düğmenin üçüncü bir taraf tarafından kontrol edilmesinin gerekebileceğini ifade etti. “Bence bu, toplumun bilmek isteyeceği ve nihayetinde kurallar koymak isteyebileceği türden bir konu,” diye ekledi.
OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic’ten istifa etti. Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri sürerken, bu sistemlerin yakın gelecekte “her şeyi hackleyebilecek” insanüstü sistemlere dönüşebileceğini belirtti. Ayrıca, yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde “insanlığı öldürebileceğine” ciddi şekilde inandığını öne sürdü.
Clark’ın açıklamaları, yapay zeka güvenliği ve denetim konusundaki tartışmaların artmasına paralel olarak, acil durumlarda sistemlerin hızlı bir şekilde kapatılmasının önemine dair ortak bir farkındalık yaratıyor. Coxon’ün de vurguladığı gibi, bu alandaki muazzam riskler göz önüne alındığında sektörün gidişatının yeniden şekillendirilmesi gerektiği görüşü, mevcut endüstri uygulamalarının yetersizliğine işaret ediyor.
