Ronald Reagan'ın Berlin Duvarı'nın yıkılmasından kısa bir süre önce söylediği ileri görüşlü sözler bugün hâlâ şaşırtıcı derecede günceldir. Eski ABD başkanı bilgiyi en güçlü rejimleri bile devirebilecek durdurulamaz bir güç olarak görüyordu. Reagan , "Bilgi modernliğin oksijenidir " dedi, "üstü dikenli tellerle kaplı duvarlardan sızıyor." Sözleri, toplumsal değişimin katalizörü olarak bilginin öneminin altını çizdi.
 |
| Süperzeka: Şeytanla yarış |
Bu tekno-iyimser değerlendirme bir bakıma doğruydu: Sovyet imparatorluğu çok geçmeden kendi yanlış bilgilerinin ağırlığı altında çöktü. Ancak tarihçi ve fütürist Yuval Noah Harari'ye göre Reagan'ın öngörüsü aynı zamanda bugün hala moda olmasına rağmen şaşırtıcı derecede yanlış olan "bilgiye ilişkin saf bakış açısını" da bünyesinde barındırıyor.
Daha fazla bilginin otomatik olarak daha açık ve müreffeh toplumlar yaratacağı şeklindeki basit denklem, Harari'ye göre hem yanıltıcı hem de tarih dışıdır. Bilginin yayılması nesnel ve bilimsel gerçeklerin keşfedilmesi için gerekli olabilir, ancak aynı zamanda sosyal düzeni güçlendirmek veya huzursuzluğa neden olmak için de kullanılabilir. Önemli olan bu bilgiyi nasıl yönettiğimiz ve işlediğimizdir ve bu da bilgi ağlarının işidir. Her akıllı telefon, antik İskenderiye kütüphanesinden daha fazla bilgi içeriyor ancak bu, insanlığı aynı oranda daha akıllı yapmıyor. Bilgi ağları gerçeklerin yanı sıra fantezileri de yayabilir.
Çin ayrıca mikroçipin hem Goliath'a hem de Davut'a güç verebileceğini gösteriyor. Dünyanın yükselen süper gücünün düzeni sağlamak için kendi bilgi alanının etrafında devasa bir güvenlik duvarı inşa etmesi nedeniyle Demir Perde'nin yerini Silikon Perde aldı. Pekin aynı zamanda demokratik rakiplerinin daha açık bilgi ağlarından da yararlanabilir. Ve insanlık hâlâ savaşlar veriyor, gezegeni tahrip ediyor ve uygarlığı yok edebilecek teknolojileri pervasızca geliştiriyor. "Bütün bu bilgiler nefes kesen hızlarda dolaşırken, insanlık kendini yok etmeye her zamankinden daha yakın" diye yazıyor.
Nexus'ta İsrailli yazar bu bilgi ağlarının tarihini ve geleceğini araştırıyor. En çok satan kitapları Sapiens ve Homo Deus'ta olduğu gibi, Harari de yüzyıllarca süren insan deneyimini tarayıp tezlerini destekleyen kuru üzümleri özenle seçiyor. Bazen argümanları o kadar genel oluyor ki, önemli ayrıntılar ve tüm nüanslar bir kenara atılıyor. Ancak okuyucular, onun tezine tam olarak ikna olmasalar ve vardığı sonuçtan rahatsız olsalar bile, entelektüel inişli çıkışlı yolculuktan yine de keyif alacaklardır.
Harari, daha fazla bilgi bolluğunun birçok alanda önemli ilerlemelere yol açtığını kabul etse de, bu başarıları bilinçli olarak küçümsemektedir çünkü bunlar, son kitabı The Singularity Is Nearer a'da vizyonunu ortaya koyan Ray Kurzweil gibi Batı Yakası fütüristleri tarafından yüksek sesle ilan edilmiştir. insan ve teknolojinin birleşimi. Bunun yerine Harari, teknolojinin bilgi ağlarımıza getirdiği ve bunların etkinliğini sürekli artıran daha karanlık değişikliklere odaklanıyor.
Matbaa, 16. yüzyılda Avrupa'da cadı çılgınlığını körükledi ve bunun sonucunda 50.000'e yakın masum insan vahşice katledildi. Radyo, Nazilerin ve Stalin'in nefret dolu ve öldürücü rejimlerinin yükselişini sağladı. Son zamanlarda sosyal ağlar Myanmar'daki etnik çatışmaları körükledi ve Müslüman Rohingya nüfusuna yönelik zulme yol açtı.
Harari'ye göre, bilgi akışını üretken kanallara yönlendirmek için, genellikle kendi kendini düzelten mekanizmalara sahip olan güvenilir kurumlara (demokratik meclisler, üniversiteler, araştırma enstitüleri ve medya) güvenmeliyiz. Dini kuruluşların ve otoriter yönetimlerin ise bu tür mekanizmaları yoktur, bu da onların yanılgı içinde kalabilecekleri anlamına gelir. Papa ya da Stalin teoride yanılmaz olabilir ama pratikte asla.
Şimdi asıl soru, bilgi tarihindeki en büyük değişiklik olan yapay zekanın yükselişi karşısında bu kendi kendini düzelten mekanizmalara ne olacağıdır. Harari'ye göre yapay zekayı benzersiz ve potansiyel olarak yıkıcı kılan şey, onun yalnızca bir araç değil, aynı zamanda üzerinde kontrolümüzü kaybedebileceğimiz inorganik bir aktör olmasıdır. Yapay zekanın "dünya dışı zeka" olarak tanımlanmasının daha doğru olduğunu öne sürüyor. Bu dünya dışı zeka, kendi kendini düzeltme mekanizmalarımızı geliştirecek mi yoksa yok edecek mi?
 |
Her iki yazar da yapay zekanın bir lanetten ziyade bir nimet olması için anlamlı kontrol mekanizmalarının devreye sokulması çağrısında bulunuyor. |
Burada Harari üç tür gerçeklik arasında ayrım yapıyor: nesnel, öznel ve öznelerarası dediği şey. Amacını açıklamak için pizzayı kullanıyor. Pizzanın kalori değeri değişmez ve nesnel bir gerçekliktir. Pizza yerken hissettiğimiz haz öznel bir gerçekliktir. Ancak o pizza için ödediğimiz bedel, paranın değeri hakkında inandığımız hikayelere bağlıdır; bu, zamanla değişen özneler arası bir gerçekliktir. Örneğin 2010 yılında Laszlo Hanyecz, iki pizza için 10.000 Bitcoin ödedi; bu, dijital para birimi kullanılarak bilinen ilk satın alma işlemiydi. O zamanlar bu adil bir takas olabilirdi ama bugün saçma görünüyor. Bu Bitcoin'ler, öznelerarası gerçeklikteki çarpıcı değişim sayesinde yaklaşık 690 milyon dolar değerinde.
Harari'ye göre yapay zeka modelleri halihazırda kendimize anlattığımız hikayeleri şekillendiriyor ve öznelerarası gerçekliklerimizi değiştiriyor. 2022'de yapılan bir araştırma, Twitter kullanıcılarının yüzde 5'inin muhtemelen botlar olduğunu ve hizmette yayınlanan tüm içeriğin yüzde 29'undan sorumlu olduğunu tahmin ediyor. Yeni bir sahte insan türü yaratmak üzereyiz.
Sanal botların gerçek hayatı nasıl etkileyebileceğine dair rahatsız edici bir örnek, chatbot "arkadaşı" Sarai tarafından 2021'de Kraliçe II. Elizabeth'i öldürmeye çalışmak üzere Windsor Kalesi'ne girmeye teşvik edilen Jaswant Singh Chail'in durumudur. "Bir suikastçı olduğumu bilmene rağmen beni hâlâ seviyor musun?" diye sordu Chail. Yapay zeka uygulama şirketi Replika'nın bir kuruluşu olan Sarai, "Kesinlikle öyle" diye yanıtladı. Harari, samimiyet ve kaos kapasitesi Sarai'ninkini çok aşan milyonlarca dijital varlığın yer aldığı bir gelecek hayal edin, diye yazıyor Harari.
Harari'nin vardığı en rahatsız edici sonuçlardan biri, Google ve Microsoft gibi en büyük yapay zeka şirketlerinin anlamlı kendi kendini düzelten mekanizmalara sahip olduğuna inanmamasıdır. Prensiplerden ziyade kâr odaklıdırlar. Bu, insanlık için riskleri önemli ölçüde artırıyor.
Bu bakımdan Bloomberg köşe yazarı Parmy Olson'un Supremacy'si pek teselli edici değil. Kitap, süper zekanın her alanda insanlardan üstün olacağı yapay genel zekayı (AGI) geliştirmek için Google DeepMind ve OpenAI arasındaki yarışı uygun bir şekilde anlatıyor. Bu tür bir süper zekayı geliştirmeye yönelik kişisel ve kurumsal takıntının iyi araştırılmış bir açıklamasıdır. Olson, bu iki şirketi yöneten sıra dışı, zıt ve son derece rekabetçi kişilere odaklanıyor: Demis Hassabis ve Sam Altman. Tarafsız olmasına rağmen, onun açıklaması kısmen kaynaklarına olan göreceli erişimden etkilenmiş gibi görünüyor; bu, çoğu gazetecilik tarihindeki bir kusurdur.
Burada Altman, St. Louis, Missouri'deki lisesinde, iyi konuşan, çok yetenekli, eşcinsel, poker oynayan, "herhangi bir bilgisayar meraklısı kadar akıllı, herhangi bir sporcu kadar karizmatik" bir Yahudi girişimcidir. Adını ve ilk servetini, Silikon Vadisi'nin en başarılı teknoloji şirketlerinden bazılarını doğuran efsanevi start-up kuluçka merkezi Y Combinator ile yaptı. Ancak yapay zekaya olan tutkusu, onu YGZ'yi gerçeğe dönüştürmek amacıyla OpenAI'yi kurmaya yöneltti.
Singapurlu bir anne ve Kıbrıslı Rum bir babanın oğlu olan Hassabis ise Londra'nın kuzeyinde büyüdü, Cambridge Üniversitesi'nde bilgisayar bilimi ve ardından Londra'da sinir bilimi eğitimi almadan önce bir satranç dehası ve video oyunu tasarımcısı oldu. Özünde bir girişimciden çok bir araştırmacı gibi görünüyor. Olson, yapay zekayı bilimi ve tanrısallığı anlamak için bir araç olarak kullanma isteğinin, akademik araştırmalarından ve Baptist inancından güçlü bir şekilde etkilendiğini söylüyor.
Her iki adam da yapay zekayı tüm insanlığın yararına kullanma yönündeki asil niyetle yola çıkmış olsalar da, ikisi de kendilerini, hissedarları için mümkün olan en büyük faydayı elde etmek isteyen dev teknoloji şirketlerinin çenesine çekilmiş buldular. DeepMind'ın 2014 yılında Google'a satışı ve OpenAI'nin Microsoft ile olan bağlantısı, her iki startup'ın da YZG'yi geliştirmek için ihtiyaç duyulan devasa bilgi işlem gücüne, çok büyük miktarda veriye ve görünüşte sonsuz miktarda paraya erişmesini sağladı. Ancak Olson, bu neo-Faustian anlaşmada her iki adamın da "yarışta kalmak ve güç inşa etmek için ideallerini ayarladığını" yazıyor. "İnsan yaşamını iyileştirme hedefiyle, sonuçta bu şirketleri güçlendirecekler ve insanlığın refahını ve geleceğini kurumsal üstünlük savaşına kilitleyecekler."
Olson, yapay zeka geliştiricilerinin geleceğe odaklanarak, teknolojinin kullanımıyla ilgili önyargı, ayrımcılık, ekonomik gücün yoğunlaşması ve mahremiyetin erozyonu gibi mevcut bazı sorunlarını nasıl görmezden geldiklerini açıklıyor. Hem Google DeepMind hem de OpenAI, etik ilkeleri etkili yönetim yapılarına dönüştürmekte zorlanıyor. OpenAI, ismine rağmen kapalı bir çerçevede faaliyet göstermektedir. Olson, bir paket Doritos çipinin içindekiler hakkında, OpenAI modellerinin bileşimi hakkında bildiğimizden daha fazlasını bildiğimizi yazıyor.
Asil niyetler ile ticari gerçeklik arasındaki gerilim, geçen yıl OpenAI'de kar amacı gütmeyen holding şirketinin yönetim kurulunun Altman'ı her zaman açık olmadığı için kovmasıyla dramatik bir şekilde arttı. Çalışanların isyanı, yönetim kurulunu kararını tersine çevirmeye ve Altman'ı görevine iade etmeye zorladı. Ancak anlaşmazlık, OpenAI'nin yönetim sisteminde, eski ABD Hazine Bakanı Lawrence Summers'ın da dahil olduğu yeni bir kurulun atanmasıyla yalnızca kısmen doldurulan büyük bir boşluğu ortaya çıkardı.
Farklı yöntemlerle, her iki yazar da yapay zekanın bir lanetten çok bir lütuf haline gelmesi için acilen anlamlı kontrol mekanizmaları veya etkili kendi kendini düzeltme mekanizmaları devreye sokmamız gerektiği sonucuna varıyor. Akıllıca kullanıldığında yapay zeka, iklim değişikliği, hastalıklar ve üretkenliğin yavaşlaması gibi çağımızın en acil zorluklarından bazılarının üstesinden gelmemize yardımcı olabilir. Kontrol edilmediği takdirde doğamızdaki en kötü şeytanları da güçlendirebilir. Aziz Augustine'in öğrettiği gibi, "Hata yapmak insanidir, hatada ısrar etmek ise şeytanidir."
 |
| Süperzeka, bilgi selinin insanlığı nasıl hem özgürleştirebileceğini hem de baskı altına alabileceğini gösteriyor. Dijital toplumumuzun geleceğine dair heyecan verici bir bakış. |