Mart 2018’de Austin, Teksas’taki South by Southwest teknoloji konferansında Tesla ve SpaceX’in kurucusu Elon Musk dostane bir uyarıda bulundu: “Sözlerimi not edin, “AI, nükleer bombalardan çok daha tehlikelidir.” ifadelerini kullanmıştı. Özellikle teknoloji hakkında görüş söz konusu olduğunda, açık sözlü Musk, bu yapay zeka önsezilerinin bir versiyonunu başka ortamlarda da tekrarladı.
Yapay zeka tehlikeli mi? İşte olası tehditler
SXSW izleyicisine “Yapay zekadaki en son teknolojiye gerçekten oldukça yakınım ve bu beni çok korkutuyor” dedi. “Neredeyse herkesin bildiğinden çok daha fazlasını yapabilir ve gelişme hızı katlanarak artıyor” ifadelerini kullanan Musk endişelerini dile getirdi.
Ancak Musk, fazlasıyla şüpheci görüşlerinde yalnız değil. Bir yıl önce, rahmetli fizikçi Stephen Hawking, de benzer endişelerini dile getirmişti. “Potansiyel risklere nasıl hazırlanacağımızı ve bunlardan nasıl kaçınacağımızı öğrenmezsek,” diye açıkladı, “AI, uygarlığımızın tarihindeki en kötü olay olabilir.”
Yaşamın Geleceği Enstitüsü’nden araştırma görevlisi Stuart Armstrong, yapay zekadan “yok olma riski” olarak bahsetti. Nükleer savaşın bile yıkım açısından farklı bir seviyede olduğunu söyledi çünkü “gezegenin yalnızca nispeten küçük bir bölümünü öldürecektir, ancak AI kötüye giderse insanların yüzde 95’i öldürülebilir” ifadelerini kullandı.
Yapay zeka böylesine tehlikeli bir noktaya tam olarak nasıl ulaşır? Bilişsel bilim adamı ve yazar Gary Marcus, aydınlatıcı bir 2013 New Yorker makalesinde bazı ayrıntılar sundu. Makineler ne kadar akıllı hale gelirse, hedeflerinin o kadar değişebileceğini yazdı.
Bir yanıt bırakın