Kadınlar İçin Yapay Zeka ve Dijital Güçlenme İşbirliği Protokolü İmza Töreni
Ankara Hacı Bayram Veli Üniversitesi Öğretim Üyesi ve SETA araştırmacısı Prof. Dr. Erman Akıllı, Tumbler Ridge saldırısı üzerinden yapay zeka şirketlerinin hukuki sorumluluğu, kullanıcı mahremiyeti ve güvenlik yükümlülüklerini AA Analiz için kaleme aldı.
Kanada’nın Tumbler Ridge kentindeki saldırının ardından OpenAI ve şirketin CEO'su Sam Altman’a karşı açılan dava sayısı eylül ayında 37’ye ulaştı. Davacılar, şirketin saldırganın şiddet içerikli konuşmalarını aylar öncesinden tespit ettiği, güvenlik ekibinin kaygılarına rağmen Kanada makamlarını uyarmadığı ve bahse konu kullanıcının yeniden hesap açmasını engelleyemediği iddiasında bulunuyor. İddialar henüz yargısal olarak kanıtlanmış değil. Bununla birlikte OpenAI’nin Kanada hükümetine gönderdiği resmî yazı, ilgili hesabın Haziran 2025’te kapatıldığını ve o tarihte uygulanan filtreleme protokolü uyarınca kolluk kuvvetlerine bildirilmediğini doğruluyor. Şirketin bugünkü protokol kapsamında aynı hesabı bildireceğini kabul etmesi, davayı kamusal sorumluluk bakımından kritik bir seviyeye taşıyor.
Bu olay, internetin kurucu mitlerinden biri olan platform tarafsızlığı anlayışının üretken yapay zeka çağında çöktüğünü gösteriyor. Teknoloji şirketlerinin sistemlerinden geçen içerikten sorumlu olmayan basit aracılar oldukları savı, içeriği üreten, biçimlendiren ve kullanıcıya göre yönlendiren modelleri açıklamıyor. Sorumluluk bu nedenle içerikten mimariye kayıyor. Tek bir zararlı cevabın kim tarafından yazıldığı kadar sistemin hangi amaçlarla tasarlandığı, hangi davranışları teşvik ettiği, hangi riskleri öngörebildiği ve büyüme adına hangi güvenlik tercihlerini yaptığı da önem taşıyor. Kullanıcı etkileşimi ve bağlılığından ticari değer üreten bir şirket, sistem mimarisinden doğan öngörülebilir zararların maliyetini topluma yükleyemez.
Sorumluluk aynı zamanda yapay zeka değer zincirinin tamamına yayılmalıdır. Temel modeli geliştiren şirket, onu belirli bir hizmet içinde kullanan sağlayıcı ve kullanıcıya ulaştıran dağıtıcı aynı ölçüde sorumlu tutulamaz; fakat hiçbiri kendi rolünü görünmez de kılamaz. Burada güvenliğin ve tüketici zararının ötesine geçen epistemik bir sorumluluk bulunmaktadır. Yapay zeka sistemleri bilgiyi üretiyor, görünürlük kazandırıyor ve insanların gerçekliği anlamlandırırken kullandığı bilişsel zemini şekillendiriyor. İnsanların hangi bilgilere ulaştığını ve dünyayı nasıl anlamlandırdığını şekillendiren bir yapay zeka sistemi, bilgiyi yalnızca bir noktadan diğerine taşıyan telefon kablosu gibi tarafsız görülemez. Ne yazık ki günümüzde yorumlandığı şekliyle platform tarafsızlığı, teknolojiyi tanımlayan nesnel bir gerçeklikten çok sorumluluktan kaçınmaya yarayan bir şirket stratejisine dönüşmüş durumdadır.
Bir şirketin somut sorumluluğu, öngörülebilir risk üzerinde sahip olduğu bilgi, kontrol ve müdahale kapasitesiyle başlamalıdır. Elbette teknoloji şirketleri, her zararlı eylemin mutlak garantörü sayılamazlar. Ancak güvenlik protokollerini belirleyen, tehlikeli örüntüleri tespit edebilen ve tehdit arz eden hesabı durdurabilen aktörün makul özen göstermesi gerekmektedir. Zira kullanıcının bağımsız eylemi şirketin sorumluluğunu ortadan kaldırmaz. Ceza sorumluluğu eylemi gerçekleştiren kişiye aittir; hukuki sorumluluk ise birden fazla aktör arasında paylaşılabilir. Kullanıcının fail olması şirketi otomatik olarak masum kılmadığı gibi, şirketin ihmali de faili iradesiz bir araca dönüştürmez. Üzerinde durulması gereken husus, gerçekleşen zararın şirketin tespit ettiği veya öngörmesi gereken riskle örtüşüp örtüşmediğidir.
Mahremiyet tartışması bu davanın diğer yüzünü oluşturuyor. Sam Altman, 2025 yılında yaptığı bir açıklamada, kullanıcıların ChatGPT ile paylaştığı hassas bilgilerin avukat, doktor veya terapistle yapılan görüşmelere benzer bir hukuki gizlilik korumasına sahip olmadığını belirtmişti. Başka bir ifadeyle, kullanıcıların gizli kalacağını düşündüğü bu konuşmalar, bir dava söz konusu olduğunda OpenAI’den istenebilir ve mahkemede delil olarak kullanılabilir.
İnsanlar ruhsal sorunlarından aile hayatlarına, hukuki kaygılarından en mahrem düşüncelerine kadar pek çok bilgiyi yapay zeka ile paylaşıyorlar. Ancak bu paylaşımlar, ileride kullanıcıların aleyhine kullanılabilecek birer delile dönüşebilir. Bu minvalde hukukçular açısından risk daha da hassastır. Zira müvekkillere ait bilgilerin bu sistemlere aktarılması, meslek sırrını ve dava hazırlığı kapsamında oluşturulan çalışmaların hukuki korumasını zedeleyebilir. Şirketler, kullanıcıların yapay zeka ile kişisel bir sırdaşla konuşur gibi iletişim kurmasını teşvik ediyor fakat bu ilişki avukat, doktor veya terapistle yapılan görüşmelerdeki hukuki gizlilik güvencelerinden yoksun kalıyor.
Kamu güvenliği ile kullanıcı gizliliği çatıştığında, asıl ilke gizliliğin korunması olmalı, yetkili makamlara bildirim ise yalnızca somut, ciddi ve yakın bir tehlike durumunda yapılmalıdır. Şiddet içeren her kurgunun ya da öfke ifadesinin doğrudan emniyete iletilmesi, yapay zeka sistemlerini kitlesel bir gözetim aracına çevirebilir. Öte yandan, belirli bir kişiye veya gruba yönelik gerçek ve yakın bir can güvenliği tehdidi saptandığında, yaşam hakkı her şeyin önüne geçmelidir.
Yazılımın ürettiği uyarılar tek başına yeterli sayılmamalı, veriler uzmanlarca incelenmeli, resmi bildirim kararı ise ancak bu ikinci değerlendirmenin ardından verilmelidir. Emniyet birimleriyle sadece tehdidi bertaraf etmeye yetecek kadar bilgi paylaşılmalıdır. Kullanıcı verilerinin saklanma süresi baştan kısıtlanmalı, bu kayıtlara yönelik erişim istekleri mutlaka hakim onayına bağlanmalı, yürütülen soruşturmayı riske atmadığı müddetçe kullanıcıya da süreç hakkında bilgi verilmelidir. Nitekim yapay zeka ile yapılan görüşmeler için, tıpkı avukat, hekim ya da psikolog görüşmelerinde olduğu gibi, kamu güvenliğini tehdit eden çok istisnai durumlar dışında hukuki bir gizlilik güvencesi sağlanmalıdır. Böylece can güvenliğini sağlama görevi, yapay zekayı kesintisiz çalışan bir gözetleme mekanizmasına dönüştürmeden yerine getirilebilir.
Bu sınırların şirketlerin kapalı protokollerine bırakılması kabul edilemez. Mahkemeler ihmal, öngörülebilirlik, ürün sorumluluğu ve illiyet bağı ilkelerini yeni teknolojiye uyarlayarak hukuki boşlukları doldurabilir. Ancak içtihat yoluyla geliştirilen standartlar hem parçalı kalmakta hem de çoğu zaman zarar ortaya çıktıktan sonra devreye girmektedir. Kapsamlı ve açık bir yasal çerçeve; ürünün piyasaya sunulmasından önceki risk değerlendirmesini, bağımsız denetimi, kayıtların saklanmasını, yinelenen ihlallerin tespitini, çocuklara özel koruma mekanizmalarını, şirket içi ihbarcı güvencesini, vahim vakaların ise yetkili kamu organına bildirilmesini zorunlu kılmalıdır. Emniyet birimlerine doğrudan bildirim konusu yakın ve inandırıcı tehditlerle sınırlandırılabilir, sınırda kalan belirsiz vakalar ise güvenlik, ruh sağlığı, mahremiyet ve hukuk uzmanlarından teşekkül eden bağımsız bir heyete devredilebilir.
Tumbler Ridge davalarının oluşturacağı içtihat, hukuki açıdan birkaç temel noktada tayin edici olacaktır. Mahkemenin, üretken yapay zekayı yalnızca kullanıcı içeriğini barındıran bir platform olarak mı, yoksa tasarımı ve ürettiği çıktılar nedeniyle ürün sorumluluğuna tabi etkileşimli bir sistem şeklinde mi ele alacağı kritik bir eşiktir. Şirketin tehlikeye dair fiilî bilgisinin hangi noktada özel bir özen yükümlülüğü doğuracağı, kullanıcının bağımsız suç teşkil eden eyleminin illiyet bağını kesip kesmeyeceği, güvenlik birimlerinin tavsiyelerini devre dışı bırakan yöneticilerin şahsen sorumlu tutulup tutulamayacağı da bu süreçte netleşecektir. Nitekim Character AI hakkındaki Garcia davasında federal mahkemenin, sohbet robotu çıktılarının doğrudan ifade özgürlüğü zırhına bürünemeyeceğine hükmetmesi, yargının klasik platform doktrinlerini artık sorgusuz sualsiz uygulamayacağını göstermektedir. Ortaya çıkacak kararlar; sektörün tasarım, kayıt tutma, gizlilik ve bildirim standartlarını küresel ölçekte dönüştürebilir.
Gücün bulunduğu yerde sorumluluk da aynı oranda aranmalıdır. Teknolojik yenilik hiçbir şirkete toplumsal sorumluluktan muafiyet tanımaz; algoritmik güç genişledikçe, kamusal hesap verebilirlik de aynı ölçüde derinleşmelidir.
[Prof. Dr. Erman Akıllı, Ankara Hacı Bayram Veli Üniversitesi'nde Öğretim Üyesi ve SETA'da araştırmacıdır.
*Makalelerdeki fikirler yazarına aittir ve Anadolu Ajansının editoryal politikasını yansıtmayabilir.
Bu haberde bir hata mı var? Her türlü talep, şikâyet ve görüş için okur temsilcimize ulaşabilirsiniz.
