Teknoloji

Korkutan tahmin: Yapay zekanın insanlığı bitirme ihtimali %99,99

Terminator veya Battlestar Galactica gibi yapımlar, yapay zekanın insanlığı yok etmeye karar vermesinin ne kadar kolay olduÄŸunu ve bu durumda makinelere karşı savaÅŸma ÅŸansımızın çok az olacağını anlatan öyküler olarak tüm dünyada büyük yankı uyandırdı. O zamanlar “bilim kurgu” olan bu öyküler artık gerçeÄŸe çok yaklaÅŸtılar çünkü korkunç bir hızla geliÅŸtirilen yapay zeka, günlük yaÅŸam uygulamalarından orduların silah sistemlerine kadar her yere girdi.

Bu konuda yapılan tahminler ise araştırmayı yapan kişinin yorumuna göre değişiyor.

“Kıyamet olasılığı” dediÄŸimiz ÅŸey, yapay zekanın gezegeni ele geçirmesi veya biyolojik bir silah yaratmak ya da nükleer bir savaÅŸ baÅŸlatmak gibi bizi yok edecek bir ÅŸey yapması olasılığıdır. Bu ihtimallerin en neÅŸeli ucunda, ÅŸu anda Meta’da çalışan “yapay zekanın üç vaftiz babasından” biri olan Yann LeCun, ÅŸansı <%0,01 veya bir asteroidin bizi yok etmesinden daha az olası olarak deÄŸerlendiriyor.

Ne yazık ki, baÅŸka hiç kimse bu kadar iyimser olmaya yakın bile deÄŸil. Yapay zekanın diÄŸer üç babasından biri olan Geoff Hinton, önümüzdeki 20 yıl içinde bu teknolojinin bizi yok etme ihtimalinin %10 olduÄŸunu söylerken, yapay zekanın üç babasından üçüncüsü olan Yoshua Bengio bu oranı %20’ye yükseltiyor.

ÖlçeÄŸin en kötümser ucunda, Louisville Ãœniversitesi’nde Siber Güvenlik Laboratuvarı direktörü ve yapay zeka güvenlik bilimcisi olan Roman Yampolskiy yer alıyor: Bunun gerçekleÅŸmesinin neredeyse garanti olduÄŸuna inanıyor. Yapay zekanın insanlığı yok etme olasılığını %99,999999 olarak veriyor.

Elon Musk bir zamanlar yapay zekaya karşıydı ama…

Elon Musk, çok deÄŸil, 6-7 sene önce yapay zeka geliÅŸtiren Zuckerberg ile kavga ediyor, yapay zeka çalışmalarının durdurulması gerektiÄŸini savunuyordu. Ancak ÅŸirketleri yapay zeka sayesinde büyük paralar kazanıp onu dünyanın en zengin insanı yapınca, Musk’ın kafası çok deÄŸiÅŸti.

Bu ayın baÅŸlarında dört gün süren “Büyük Yapay Zeka Tartışması” seminerinde konuÅŸan Elon Musk “Bence insanlığın sonunu getirme ihtimali var. Muhtemelen Geoff Hinton’a katılıyorum, bu oran %10, %20 ya da buna benzer bir ÅŸey” dedi ve ekledi: “Olası olumlu senaryonun olumsuz senaryodan daha ağır bastığını düşünüyorum.”

Buna karşılık Yampolskiy verdiÄŸi bir demeçte Musk’ın tahmininde “biraz fazla muhafazakar” olduÄŸunu düşündüğünü ve teknolojinin geliÅŸtirilmesinden ÅŸimdi vazgeçmemiz gerektiÄŸini çünkü yapay zeka daha da geliÅŸtiÄŸinde onu kontrol etmenin neredeyse imkansız olacağını söyledi.

Yamploskiy, düşüncelerini şöyle açıklıyor: “Bu teknolojinin peÅŸinden gitmenin neden iyi bir fikir olduÄŸunu düşündüğünden emin deÄŸilim, EÄŸer o Musk rakiplerin bu teknolojiye daha önce ulaÅŸmasından endiÅŸe ediyorsa, bunun bir önemi yok çünkü kontrolsüz süper zeka, onu kim ortaya çıkarırsa çıkarsın eÅŸit derecede kötüdür.”

Zirvede Musk’ın yapay zekanın insanlığı yok etmesini önlemek için bir çözümü vardı. Musk, “Gerçek nahoÅŸ olsa bile onu yalan söylemeye zorlamayın” dedi ve ekledi: “Bu çok önemli. Yapay zekaya yalan söyletmeyin.”

Ancak kabul edelim, dünyadaki tüm yapay zeka araÅŸtırmacıları, yapay zekaya “yalan söyletmeme” kuralına uysa bile eninde sonunda biri çıkıp kendine çıkar saÄŸlamak için “yalan söyleyen yapay zeka”yı geliÅŸtirecek. Ä°sac Asimov‘un bir zamanlar oluÅŸturduÄŸu “robotlar insanlara asla zarar veremez” kuralını da askeri teknolojiler geliÅŸtiren ülkeler çoktan bozdular. Otonom savunma sistemleri yeri geldiÄŸinde savunduÄŸu alana yaklaÅŸan yabancı insanları öldürmek için programlanabiliyor.

Peki, sizce yapay zeka insanlık için yok oluş anlamına mı gelecek, yoksa insanoğlu bu tehditle başa çıkabilecek bir çözüm üretebilecek mi? Siz olsanız nasıl önlemler alırdınız?

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Başa dön tuşu