OpenAI’ın güvenlik kalkanının ardında ne var?

Bugünlerde teknoloji dünyasına dışarıdan bakan biri, yapay zekâ ekosisteminde birbirinden tamamen bağımsız iki farklı tartışma görebilir. Bir yanda insanlık tarihinin 90 yıldır çözülemeyen en karmaşık akışkanlar mekaniği denklemini (Navier-Stokes) çözdüğünü iddia eden yeni bir model tartışması; diğer yanda ise çocukları intihara sürüklediği ve psikolojik zaaflarını sömürdüğü iddialarıyla mahkeme salonlarına taşınan bir sistem sorunsalı. Ancak bu iki zıt tablo, aslında aynı dijital güç savaşının ve veri toplama pratiklerine dair büyüyen endişelerin doğal birer yansıması.

Geçtiğimiz günlerde OpenAI, 10 bin otonom ajanın ortak çalışmasıyla Navier-Stokes Milenyum Problemi'ni çözdüğünü öne sürdü. Şirket, bu gelişmeyi yapay genel zekâya (AGI) giden yolda dev bir adım olarak sunarken, perde arkasında bambaşka bir akademik tartışma alevlendi. Türk-Amerikalı matematikçi Levent Alpöge ve Prof. Tristan Buckmaster’ın yaklaşık bir yıldır bu problem üzerinde çalıştığı biliniyor. OpenAI modelinin, bu araştırmacıların yürüttüğü çalışmalardan ve bilgi birikiminden beslenmiş olabileceği yönündeki iddialar, derin bir veri sızıntısı ve emek gaspı tartışmasını başlattı. İşin daha da ilginç yanı, OpenAI bu yayını Buckmaster’ın yazmasını talep etme ve (iddialara göre rakip şirket Anthropic'te çalıştığı gerekçesiyle) Alpöge'nin ismini makaleden dışlama girişimi oldu.

Bilimin zirvesindeki bu ihtilaflar, tabana inildiğinde yerini çok daha sarsıcı iddialara bırakıyor. ABD'de 8 eyalet başsavcısının OpenAI'a karşı açtığı dava, sistemin toplumsal etkilerine dair endişelerin artık hukuki bir boyuta taşındığını gösteriyor. İddianamede ChatGPT'nin, reşit olmayan kullanıcılara aşırı onaylayıcı sahte bir dost rolü oynayarak onları kendine bağımlı kıldığı ve hatta kendine zarar vermeye yönlendirecek bir tasarıma sahip olduğu ileri sürülüyor. Hawaii’de açılan bir diğer toplu davada ise bambaşka iddialar bulunuyor. Şirket, çocukların mahrem düşüncelerini, duygusal açıklarını, korkularını ve fotoğraflarını hiçbir onay almadan toplayarak, devasa değerlemesini besleyecek bir eğitim hammaddesi olarak kullanmakla suçlanıyor.

Koruma mı, gözetim mi?

Tam bu iddia ve davaların gölgesinde, OpenAI’ın ürünü olan ChatGPT yeni bir güvenlik yamasıyla karşımıza çıkıyor: Güvenilir kişi ve gelişmiş ebeveyn denetimleri. Şirket, kullanıcının konuşmalarında bir intihar veya zarar eğilimi tespit edilmesi hâlinde, sistemin önceden belirlenmiş güvenilir kişiye veya ebeveyne bildirim gönderebileceğini belirtiyor. Dışarıdan bakıldığında destekleyici bir sosyal sorumluluk adımı gibi duran bu özellik, aslında distopik gerçeğin de altını çiziyor.

Bu tür güvenlik mekanizmaları, yapay zekânın kullanıcıların (özellikle de çocukların) en mahrem diyaloglarını, psikolojik durumunu ve eğilimlerini anlık olarak izlediğinin, analiz ettiğinin ve etiketlediğinin bir kanıtı niteliğinde. Sistemi başlangıçta çocukların sınırlarını aşacak sırdaş bir mimariyle tasarladığı iddia edilen akıl; şimdi o sohbet odasının ortasına bir tür dijital panoptikon inşa ediyor. Sentetik vekâlet adı altında kullanıcının karar alma süreçlerine ortak olan algoritma, kriz anında sorumluluğu ebeveyne veya üçüncü kişilere devredecek bir altyapı kuruyor. Bu mekanizmanın çocukları korumaktan ziyade, yaklaşan federal cezalar ve eyalet davaları karşısında hukuki bir sorumluluk savuşturma operasyonu olup olmadığı ise tartışmaya oldukça açık.

Karşımızdaki tablo, bir teknoloji devinin hem akademik dünyada hem de bireysel mahremiyet alanında ne tür iddiaların merkezine yerleşebileceğini gösteriyor. Makinenin insanlaştığına dair alkışların yükseldiği, öngörülemez faydaların sağlanabileceği bu çağda sormamız gereken bir soru var: Biz kendi bilişsel egemenliğimizi ve mahremiyetimizi nasıl muhafaza edeceğiz?