DeepMind CEO'su Hassabis: Teknoloji denetimden önce büyüyor

Demis Hassabis'in geçen yıl Nobel Kimya Ödülü'ne layık görülmesi, bilim dünyasında olduğu kadar teknoloji sektöründe de yankı uyandırdı. Ama asıl dikkat çekici olan, bu ödülün ardından Hassabis'in sesini yükselttiği konu değil, yükselttiği tondu. Teknoloji şirketlerinin CEO'ları genellikle ürünlerini öve öve bitiremez; Hassabis ise DeepMind'ın geliştirdiği sistemlerin yarattığı riskleri bizzat dile getirdi ve küresel ölçekte bir denetim mekanizmasının artık bir tercih değil, zorunluluk olduğunu söyledi. Kendi geliştirdiği teknolojiyi bu kadar açık bir eleştirinin merkezine koymak, sektörde alışılmış bir tutum değil.

İçeriden gelen uyarı

Bir teknolojiyi en derinden bilen kişinin o teknoloji hakkında alarm vermesi, dışarıdan gelen eleştirilerin çok ötesinde bir anlam taşır. Hassabis'in konumu burada belirleyici: DeepMind, alanın öncü kuruluşlarından biri ve AlphaFold gibi projeleriyle insanlığın en temel bilimsel sorularına yanıt arayan bir yapıya sahip. Bu bağlamda Hassabis'in "denetim şart" derken soyut bir tartışmaya girmediği açık; aksine, sektörün içinde bulunduğu durumu yakından gözlemleyen birinin somut bir değerlendirmesini paylaştığı görülüyor.

Uyarının özü şu: Teknoloji, onu yönetecek kurumsal ve yasal çerçevelerden çok daha hızlı ilerliyor. Bu bir metafor değil, gözlemlenebilir bir gerçek. Belirli sistemler piyasaya çıktığında ilgili düzenleyici kurumlar henüz neyi denetleyeceklerini dahi tanımlamamış olabiliyor. Hassabis bu boşluğa dikkat çekiyor ve uluslararası koordinasyonun olmadığı bir ortamda risklerin kontrol edilemez hale gelebileceğini vurguluyor.

Hız ile olgunluk arasındaki uçurum

Teknoloji tarihinde yeni bir araç ile onu düzenleyecek kurallar arasında her zaman bir gecikme olmuştur. Ama bu gecikmenin boyutu bugün neredeyse yapısal bir sorun haline geldi. Otomobiller kitleselleştiğinde trafik kuralları yıllar içinde şekillendi; sosyal medya platformları büyüdüğünde veri gizliliği yasaları en az on yıl geride kaldı. Şimdiyse söz konusu sistemler çok daha kısa sürelerde çok daha geniş alanlara nüfuz ediyor; sağlıktan savunmaya, eğitimden finansal piyasalara kadar kritik sektörler bu teknolojilerle hızla entegre oluyor.

Düzenleyici kurumların bu tempoya yetişmesinin önünde ciddi engeller var. Birincisi, teknik kapasite sorunu: Bir parlamentonun ya da bakanlığın, siber güvenlik risklerini ya da otonom karar mekanizmalarının nüanslarını kavraması, ancak yoğun bir teknik uzmanlık birikimini gerektirir ve bu birikim çoğu ülkede henüz yeterince oluşmadı. İkincisi, hız-risk dengesi: Düzenlemeler çok hızlı getirilirse inovasyon yavaşlayabilir; çok yavaş kalırsa zararlar telafi edilemez biçimde büyüyebilir. Bu denge, siyasi açıdan da son derece hassas bir zemin.

Üçüncüsü ve belki en karmaşığı: Küresel bir teknoloji için ulusal düzenlemelerin sınırlı etkisi. Bir ülke katı kurallar getirdiğinde ilgili şirketler başka bir yargı bölgesine geçebiliyor; bu da denetim yarışının değil, kuralsızlık yarışının zeminini hazırlayabiliyor.

Küresel gözetim: Neden bu kadar zor?

Hassabis'in önerdiği model, uluslararası düzeyde koordineli bir denetim yapısıdır. Bu fikir yeni değil; nükleer enerji ve silahlanma alanında benzer yapılar on yıllar önce kuruldu. Ama teknoloji denetimini bu modellere benzeterek düşünmek bazı önemli farklılıkları gözden kaçırma riskini taşıyor.

Nükleer teknoloji, fiziksel altyapı gerektiriyor ve coğrafi olarak izlenebilir. Yazılım ise böyle değil: Sınır tanımıyor, anında kopyalanabiliyor ve altyapısı giderek daha dağıtık bir yapıya kavuşuyor. Uluslararası denetim kurumları hangi sistemi inceleyecek, hangi kodu denetleyecek, hangi şirketi hesap sormak üzere çağırabilecek? Bu soruların teknik yanıtları bile henüz netleşmiş değil.

Bir de jeopolitik boyut var. ABD, Çin ve Avrupa, teknoloji düzenlemesi konusunda temelden farklı yaklaşımlara sahip. Avrupa Birliği, kapsamlı bir yasal çerçeveyi yürürlüğe sokma sürecinde en ileri konumda; ABD geleneksel olarak sektörü öz-düzenlemeye bırakma eğilimini koruyor; Çin ise yerli sektörü koruma kaygısını ön plana alan bir yaklaşım benimsiyor. Bu üç büyük blok arasında ortak bir denetim standartları üretmek, diplomatik açıdan son derece çetrefilli bir tablo ortaya koyuyor. Üstelik teknoloji şirketleri de bu tartışmanın dışında değil: Bazıları kendi standartlarını belirleyerek yasal düzenlemelerin önüne geçmeye çalışırken, bazıları daha güçlü kamu denetimini destekliyor çünkü güvenilir bir çerçeve uzun vadede sektörün meşruiyetini de koruyor.

Türkiye nerede duruyor?

Bu tartışmayı yalnızca küresel düzeyde değerlendirmek, Türkiye özelindeki boşlukları gizleme riski taşır. Türkiye, dijital dönüşüm alanında önemli adımlar atmış bir ülke; e-devlet altyapısı, fintech ekosistemi ve savunma sanayii teknolojileri açısından kayda değer bir konumda. Ama bu teknolojileri düzenlemeye yönelik yasal çerçeveler, teknolojinin ilerleme hızıyla henüz orantılı değil.

Kişisel verilerin korunması alanında 2016'dan bu yana bir yasal yapı işliyor; bu, sıfırdan başlayanlarla karşılaştırıldığında önemli bir avantaj. Ancak daha spesifik alanlarda: Otonom sistemlerin karar mekanizmalarına yönelik bir hesap verebilirlik çerçevesi, biyometrik veri kullanımına ilişkin net sınırlar ya da kritik altyapılarda kullanılan sistemlerin güvenlik denetimine dair somut standartlar konusunda mevzuat hâlâ yetersiz kalıyor.

Türkiye'nin bu tartışmada özgün bir avantajı da var aslında: Hem Batılı hem de Doğu ortaklarıyla köprü kurabilecek diplomatik pozisyonu, küresel standart belirleme süreçlerinde aktif bir rol üstlenmesine zemin hazırlayabilir. Ama bunun için önce iç düzenleyici kapasiteyi güçlendirmek, sektör ile akademi arasındaki teknik diyalogu kurumsal zemine oturtmak ve uluslararası süreçlere gözlemci değil, katılımcı olarak dahil olmak gerekiyor. Bu üç adım atılmadan küresel müzakere masalarında söz sahibi olmak güçleşir.

Sorumluluk kimin?

Bu sorunun üç farklı yanıtı var ve bunların hiçbiri tek başına yeterli.

Öz-denetim: Sektörün etik ilkeler, güvenlik testleri ve şeffaflık raporlarıyla kendi kendini denetlemesi teoride cazip görünüyor. Ama şirketlerin rekabet baskısı altında bu ilkelere tutarlı biçimde sadık kalması, tarihsel verilerle desteklenmeyen bir iyimserliği gerektiriyor. Öz-denetim bir başlangıç noktası olabilir; nihai güvence mekanizması değil.

Devlet müdahalesi: Ulusal düzenlemeler belirli alanlarda etkili olabilir, ama sınır ötesi işleyen sistemleri tek bir ülkenin yasal çerçevesiyle denetlemek mümkün değil. Üstelik her devletin teknik kapasitesi ve siyasi öncelikleri birbirinden farklı.

Uluslararası koordinasyon: En kapsamlı çözüm gibi görünüyor, ama aynı zamanda en zorlu olanı. Ortak standartlar oluşturmak, bağımsız denetim mekanizmaları kurmak ve bunu hayata geçirecek siyasi iradeyi birden fazla ülkede eş zamanlı olarak sağlamak, son derece karmaşık bir süreç gerektiriyor.

Gerçekçi bir çerçeve, muhtemelen bu üçünün birbirini tamamladığı hibrit bir yapı üzerine inşa edilmek zorunda. Sektör öz-denetimle şeffaflık standartlarını belirler; ulusal düzenleyiciler sektör içi uyumu denetler; uluslararası kurumlar sınır ötesi riskleri koordine eder. Bu katmanlı yapı işletmek için önemli bir siyasi irade gerektiriyor ve irade olmadan teknik çözümlerin yeterli olmayacağı açık.

Hassabis'in uyarısı işte bu gerçeğin altını çiziyor: Teknolojiyi geliştirmek ile onu yönetmek birbirinden ayrı beceriler ve birbirinden ayrı kurumsal kapasiteler gerektiriyor. Şimdiye kadar bu ikisi arasındaki makası kapatan çoğunlukla zarar görmüş insanlar ya da krizler oldu. Bir sonraki adımda faturayı ödemeden önce harekete geçmek ise hâlâ mümkün; ama pencerenin ne kadar açık kaldığı belirsiz.