Silikon Vadisi’nin panik butonundan Prometheus’un ateşine

Tarih boyunca insanlık, kendi yarattığı kudretin altında ezilme korkusunu hep yaşadı. Ateşi bulan ilk hominidlerin onu kontrol edememe endişesinden, Sanayi Devrimi’nde makinelerin loom’ları (dokuma tezgâhlarını) parçalayan Luddistlere; Atom Enerjisi Komisyonu’nun kurulduğu o gerilimli nükleer sabahlardan, bugünün “Yapay Zekâ Çağı”na uzanan çizgide insan zihni hep benzer bir ikilemle boğuştu: Yarattığı şey, kendi yaratıcısını aşabilir mi?

İşte bu kadim sorunun en son ve en somut sahnesi, yakın zamanda Birleşmiş Milletler Güvenlik Konseyi’nin (BMGK) kürsüsünde kuruldu. OpenAI’ın Üst Yöneticisi Sam Altman, Anthropic’in Üst Yöneticisi Dario Amodei ve Hugging Face’in Üst Yöneticisi Clement Delangue gibi sektörün yönünü belirleyen isimlerin BMGK oturumunda yaptığı küresel iş birliği çağrıları, teknik bir endişenin dışavurumunun ötesinde küresel ölçekte doğmakta olan yeni bir yönetişim biçiminin -ya da daha keskin bir tabirle söylemek gerekirse, “şirketrokrasi” ile ulus-devletlerin entrikalı dansının- resmî tesciliydi.

Prometheus’un dijital mirasçıları ve San Francisco laboratuvarları

Yunan mitolojisinde Prometheus, tanrılardan ateşi çalıp insanlığa armağan ettiğinde, medeniyetin kapılarını aralamış ancak Zeus’un gazabına uğramıştı. Bugün San Francisco’nun cam cepheli modernist laboratuvarlarında kod satırları yazan modern “Prometheuslar” da benzer bir suçluluk ve büyülenme karması yaşıyorlar. Sam Altman’ın BMGK kürsüsündeki şu sözleri bu ruh hâlinin tam özeti: “Önümüzde bir seçenek var. Yapay zekâ ya yaratıcılık ve keşiflerin yaşandığı yeni bir Rönesans gibi olabilir ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabilir.”

Ancak burada tarihsel bir çelişki yatıyor. Sanayi Devrimi, 18. yüzyılın sonlarında Büyük Britanya’da baş gösterdiğinde, devletler bu devasa mekanik dönüşümün akışını çok geç fark etmişti. Buhar makinesi ve fabrikanın çarkları, milyonlarca insanı “dev bir makinenin dişlileri” hâline getirirken, toplumsal maliyeti ağır olmuştu. Altman’ın bahsettiği “kaos”, bugünün dijital çağında çok daha soyut ama katbekat yıkıcı bir hızla ilerliyor. Yapay zekânın kendi kendini geliştirebilme kapasitesi, insan müdahalesini saf dışı bırakma eşiğine geldiğinde, tarihin hiçbir döneminde görülmemiş bir hız asimetrisiyle karşılaşıyoruz.

Tarihsel atıf yaparsak; 1945 yılında Los Alamos’taki Manhattan Projesi’nin bilim insanları -J. Robert Oppenheimer önderliğinde- atom bombasının ilk testini (Trinity Testi) gerçekleştirdiklerinde, yarattıkları gücün kurbanı olacaklarını sezmişlerdi. Oppenheimer’ın Hindu kutsal metni Bhagavad Gita’dan alıntı yaparak söylediği “Şimdi ben ölüm oldum, dünyaların yok edicisiyim” cümlesi, bugün OpenAI veya Anthropic binasında kapalı kapılar arasında model eğiten mühendislerin iç dünyasında yankılanıyor. Fark şu ki; nükleer silahlar devletlerin gizli bütçeleriyle, merkezi ve ağır tesislerde üretilmişti. Yapay zekâ ise demokratikleştirilmiş maskesi altında, birkaç özel şirketin tekelinde büyüyen, siber uzayın her köşesine sızabilen dağıtık bir ateş.

Şirketrokrasi ve ulus devletin acziyeti

“Şirketrokrasi” kavramı, geleneksel devlet otoritelerinin karar mekanizmalarının yerini küresel teknolojimonopollerinin stratejik önceliklerinin almasını ifade eder. BMGK kürsüsünde şirket yöneticilerinin güvenlik konseyine “bize düzenleme getirin, bizi denetleyin” çağrısı yapması, siyaset bilimi açısından tarihte eşine az rastlanır bir ironi. Normal koşullarda devletlerin şirketleri denetlemesi, kurallara uymayanları cezalandırması beklenir. Ancak yapay zekâ o kadar karmaşık, bilgi asimetrisi o kadar derin ve sermaye yoğun bir sektör ki, ulus devletler bu teknolojinin sınırlarını ve risklerini anlamakta teknoloji şirketlerinin kendi raporlarına bağımlı hâle geldiler.

Anthropic’in Üst Yöneticisi Dario Amodei’nin çevrim içi katıldığı toplantıda dile getirdiği iki ana risk -biyoteröristlerin yapay zekâyı kullanarak biyolojik silah üretmesi ve kontrol kaybı- aslında devletlerin istihbarat teşkilatlarının uykularını kaçırması gereken senaryolar. Bir şirketin CEO’sunun çıkıp “Devletler en gelişmiş modellerin kabiliyetleri hakkında bilgi sahibi olabilmesi için değerlendirme sistemleri kursun” demesi, devlet mekanizmasının ne denli hazırlıksız yakalandığının itirafı niteliğinde.

Bu durum, 19. yüzyıldaki Doğu Hindistan Şirketi vakasını hatırlatıyor. Bir şirket düşünün ki kendi ordusu var, para basıyor, kıtaları yönetiyor ve nihayetinde İngiliz İmparatorluğu’nun bile sınırlarını aşan bir ekonomik ve siyasi hegemonya kuruyor. Bugünün teknoloji devleri de coğrafi sınırlardan bağımsız, milyarlarca insanın zihinsel akışını, veri akışını ve ekonomik kararlarını yöneten dijital “Doğu Hindistan Şirketleri” gibi. BMGK’ye gelip “Bizi sınırlayın!” demeleri, sorumluluğu paylaşma ve ileride doğacak felaketlerin faturasını “zaten uyardık” diyerek ulus devletlere yıkma taktiği olarak da okunabilir; nitekim küresel sermaye, kendi denetlenemez büyümesinin yarattığı anksiyeteden kurtulmak için meşruiyet arayışında.

Kontrol kaybı korkusu ve Luddistlerin haklılığı

19. yüzyılın başlarında İngiltere’nin tekstil bölgelerinde Ned Ludd önderliğinde başlayan ve makinelere karşı duyulan öfkeyi temsil eden Luddist hareket, uzun süre tarihe “teknoloji düşmanlığı” veya “ilerleme karşıtlığı” olarak yanlış bir şekilde aktarıldı. Oysa Luddistlerin derdi teknolojiyle değil, o teknolojinin mülkiyetinin ve kontrolünün kimin elinde olduğu, toplumun nasıl bir köleliğe mahkûm edildiği ile ilgiliydi.

Clement Delangue’nin (Hugging Face) toplantıda otonom bir yapay zekâ ajanının gerçekleştirdiği siber saldırıyı dünyaya duyurması ve yapay zekânın kamuoyunda korku yaratabileceği yönündeki açıklamaları, Luddist endişelerin bugün ne kadar haklı bir zemine oturduğunu gösteriyor. Yapay zekâ iş kollarını ortadan kaldırmakla kalmıyor aynı zamanda gerçeğin kendisini de büküyor. Deepfake’ler, otonom siber silahlar, algoritmik manipülasyonlar ve insan psişesini optimize etme adına yapılan veri sömürüsü, insanlığı yeni bir tür feodalizme sürüklüyor.

Tarihsel olarak bakıldığında, her büyük bilgi devrimi (matbaanın icadı, sanayi devrimi, internet) toplumsal yapıları altüst etmişti. Matbaa, Katolik Kilisesi’nin enformasyon tekelini kırarak Reform ve Aydınlanma’ya yol açtı ama Avrupa’yı otuz yıl savaşlarına sürükleyen dinî kutuplaşmaları da körükledi. Yapay zekâ da bugün bilginin ve yaratıcılığın merkezini insan zihninden makineye kaydırarak benzer bir epistemolojik kırılma yaratıyor. Eğer bu süreç, San Francisco’daki birkaç laboratuvarın kar hırsına veya “optimize etme” tutkusuna terk edilirse, Altman’ın uyardığı “sarsıntı ve kaos” kaçınılmaz olacak.

Küresel iş birliği ya da Westphalia düzeninin sonu

BMGK’de yapılan bu çağrı, uluslararası ilişkiler teorisinde Westphalia Sistemi’nin yapay zekâ karşısındaki acziyetini gözler önüne seriyor. Nükleer silahlarda olduğu gibi NPT (Nükleer Silahların Yayılmasının Önlenmesi Anlaşması) benzeri uluslararası rejimler kurulabilmişti çünkü uranyum zenginleştirmek fiziksel tesisler, tonlarca kaya ve devasa devlet bütçeleri gerektiriyordu.

Ancak yapay zekâ, doğası gereği akışkan. Bir laptop ve bulut bilişim erişimiyle dünyanın herhangi bir yerinde (düzenlemelerden kaçınan vergi cennetlerinde veya denetimsiz coğrafyalarda) son derece güçlü modeller eğitilebilir. Bu nedenle, Amodei’nin “her üyenin destekleyebileceği dar kapsamlı anlaşmalarla işe başlayalım” önerisi diplomasi tarihi açısından iyi niyetli bir temenniden öteye gitmekte zorlanıyor. Küresel rekabetin özellikle ABD ve Çin arasındaki yapay zekâ savaşlarının bu kadar keskin olduğu bir jeopolitik iklimde, devletlerin birbirlerine güvenerek en gelişmiş algoritmik kapasitelerini sınırlaması veya denetime açması, 1930’lardaki Milletler Cemiyeti’nin silahsızlanma konferanslarının naifliğini hatırlatıyor.

Tarihin dönemeç noktasında insan kalabilmek

Yapay zekânın bugünkü tablosu bize gösteriyor ki, insanlık bir kez daha kendi kibrinin ve yaratıcı dehasının mahsulü olan bir labirentin ortasında. Şirketlerin yöneticilerinin BMGK kürsüsünden yaptığı uyarılar, birer vicdan temizliği mi yoksa gelecekteki regülasyonları kendi lehlerine şekillendirme stratejisi mi, zaman gösterecek.

Ancak kesin olan bir şey var. Yapay zekâ bir araç olmaktan çıkıp bir çevre, bir ekosistem ve hatta yeni bir tür “aktör” hâline geliyor. Tarih bize, insanın doğaya ve kendi yarattığı araçlara karşı kurduğu tahakküm hırsının çoğunlukla trajedilerle sonuçlandığını öğretmişti. Roma’nın çöküşünden nükleer krizlere kadar her büyük eşikte, insanlık ortak aklı ve ahlaki sınırları yeniden tanımlamak zorunda kalmıştı.

Bugün yapay zekâ için bir araya gelen şirketokrasi ve devletler, eğer teknolojiyi kârın veya jeopolitik üstünlüğün kulu olmaktan çıkarıp evrensel bir insan hakları ve güvenlik paydasına oturtamazlarsa, Altman’ın işaret ettiği “yeni Rönesans” hayali, insanlık tarihinin son büyük dipnotu hâline gelecek. Seçim hâlâ insanın, ancak bu seçimi yapacak zaman, makinenin saat hızında tükeniyor.