ABD'nin Utah eyaletinde yaşayan Kalie Robins'in sosyal medyada paylaştığı bir video, çocukların dijital mahremiyetiyle ilgili yeni bir tartışma başlattı.
Robins, kızlarından biriyle arabada şarkı söylediği videoyu Instagram'da paylaştı. Video daha sonra Facebook'ta da yayımlandı.
Robins videoya yeniden baktığında Meta AI'ın gönderinin altında önerdiği bir soru dikkatini çekti:
“Arka koltuktaki çocuk kim?”
Robins, önerilen soruya tıkladığında Meta AI videodaki kızının adını verdi. Ardından yalnızca onunla sınırlı kalmayarak diğer kızının adını da buldu.
Meta AI, iki çocuk hakkında yıllar içinde sosyal medyada paylaşılmış farklı bilgileri bir araya getirdi.
Robins'in paylaştığı ekran görüntülerine göre sistem; aile üyelerinin doğum günü paylaşımları ve doğum duyurularından çocukların yaşlarına ilişkin bilgiler çıkardı. Çocuklardan birinin doğumundan sonra büyükannesi tarafından Facebook'ta paylaşılan fotoğraf ve doğum bilgilerini de buldu.
Yapay zekâ çocukların yaşlarından hareketle hangi sınıfta olabileceklerine ilişkin tahminde bulundu. Robins'in aktardığına göre kızlarının sevdikleri kitaplar ve plajlar ile gittikleri yürüyüş rotaları gibi ilgi alanlarına ilişkin bilgiler de sundu.
Ardından sistem bu kez “Kalie Robins nerede yaşıyor?” sorusunu önerdi.
Robins bu soruya tıkladığında Meta AI, eski paylaşımlardan hareketle konumunu belirlemeye çalıştı. Yahoo Tech'e göre sistem, Robins'in daha önce yaşadığı yerlerle bağlantılı eski ve yeni paylaşımları da sonuçlara dahil etti.
Robins'in yaşadıkları sırasında dikkatini çeken ayrıntılardan biri eski bir aile fotoğrafıydı.
Robins, Meta AI'ın karşısına çıkardığı fotoğrafı yıllar önce sosyal medyadan sildiğini söyledi.
Meta ise bu iddiaya farklı bir açıklama getirdi. Şirket, fotoğrafın yıllar önce değil, Robins'in videoyu hazırlamasından kısa süre önce silindiğini ve geçici bir hata nedeniyle bir süre daha görünür kaldığını savundu.
Robins yaşadıklarını Instagram'da anlattı. Paylaşım kısa sürede yüz binlerce etkileşim aldı ve çocukların dijital mahremiyetine ilişkin tartışmayı büyüttü.
Meta da olayın ardından sistemde değişiklik yaptığını açıkladı.
Şirket, özelliğin kullanıcıların ilgilendikleri gönderiler ve konular hakkında daha fazla bilgi edinmesine yardımcı olmak amacıyla geliştirildiğini belirtti.
Meta'ya göre yapay zekânın verdiği yanıtlar, soruyu soran kullanıcının zaten erişebildiği bilgilere dayanıyor. Şirket, bir kullanıcı normal şartlarda bir gönderiyi göremiyorsa Meta AI'ın da o gönderiyi yanıtlarında gösteremeyeceğini belirtti.
Ancak Meta, Robins'in karşısına çıkan önerilerin uygun olmadığını kabul etti.
Şirket sözcüsü, sistemin “hedefi ıskaladığını” belirterek çocuklar ve aile hakkında bu tür kişisel soruların hiç önerilmemesi gerektiğini ve sorunun giderildiğini açıkladı.