Yapay Zeka Uzmanları Uyarıyor: ‘Süper Zeka Tam da Kulağa Geldiği Kadar Tehlikeli!’
- Yapay zeka devlerinde görev yapmış ve yapmakta olan uzmanlar, süper zekanın insanlık için yok oluş riski taşıdığına dair çarpıcı uyarılarda bulundu.
- Eski OpenAI ve Google DeepMind çalışanı Geoffrey Irving, insanlığın yok olma ihtimalini “yazı tura” olarak değerlendirirken, Google DeepMind’dan Neel Nanda en az %10 riskten bahsetti.
- Araştırmacılar, süper zekanın “tanrısal güçte” olabileceğini ve kontrol edilemeyeceğini vurgulayarak, bu durumun “kulağa geldiği kadar tehlikeli” olduğunu belirtti.
Son dönemde yapay zeka teknolojisinin hızla gelişimiyle birlikte, potansiyel riskler de daha sık gündeme gelmeye başladı. Ancak bu kez uyarılar, sektörün içinden, teknolojiyi bizzat geliştiren isimlerden geliyor. Aralarında OpenAI ve Google DeepMind gibi öncü şirketlerin eski ve mevcut çalışanlarının da bulunduğu bir grup yapay zeka araştırmacısı, süper zekanın insanlık için taşıdığı varoluşsal risklere dikkat çeken bir dizi video yayınladı. Bu videolar, son zamanlarda yükselen “kıyamet tellalı” uyarılarına adeta yeni bir boyut kazandırdı.
Yapay Zeka Uzmanlarından Şok Edici İtiraflar
Palisade Research adlı kar amacı gütmeyen bir kuruluş tarafından toplanıp frominside.ai platformunda yayınlanan bu röportaj serisinde, uzmanların endişeleri oldukça çarpıcı detaylar içeriyor. Eski OpenAI ve Google DeepMind çalışanı Geoffrey Irving, insanlığın yapay zeka yüzünden yok olma ihtimalini değerlendirirken adeta tüyler ürpertici bir benzetme kullandı: “Benim görüşüme göre, insanlığın yok olma şansı yazı tura atmak gibi.”
Bu endişeler yalnızca Irving ile sınırlı değil. Google DeepMind araştırma bilimcisi Neel Nanda da benzer bir risk tablosu çiziyor: “İnsanlığın yok olmasına neden olma ihtimali en az yüzde 10 ve bu, fazlasıyla yüksek bir oran.”
Süper Zeka: Tanrısal Güç ve Kontrolsüzlük Tehlikesi
Röportajlarda belki de en sert uyarı, eski OpenAI araştırmacısı Daniel Kokotajlo‘dan geldi. Kokotajlo, süper zekalı bir yapay zekanın “temel olarak tanrısal güçte olacağını” iddia ederek sözlerini şöyle sürdürdü: “Maalesef onları nasıl kontrol edeceğimizi hiç bilmiyoruz. Ve bu yüzden muhtemelen kimse onları kontrol edemez. Bu, tam da kulağa geldiği kadar tehlikeli ve olmasına izin verilmemeli.”
Bu uzmanların dile getirdiği endişeler, “Yapay Zeka Güvenliği” kavramının ne anlama geldiği ve bu konuda ne yapılması gerektiği konusundaki tartışmaların ne kadar karmaşık olduğunu bir kez daha gözler önüne seriyor. Yayınlanan videolarda dahi bu karmaşık soruna tek bir tutarlı çözüm sunulamaması, durumun ciddiyetini artırıyor.
Heptekno.com olarak biz de bu kritik gelişmeleri yakından takip ediyor, yapay zekanın sunduğu devasa potansiyelin yanı sıra olası risklerin de şeffaf bir şekilde tartışılmasının önemine inanıyoruz. Teknoloji dünyasının bu “içerden gelen” uyarıları, geleceğin teknolojilerini şekillendirirken atacağımız adımları bir kez daha düşünmemizi gerektiriyor.
