Doktora Göndermek İçin Bebeğinin Çıplak Fotoğraflarını Çeken Baba, Google Tarafından 'Suçlu' Olarak İşaretlendi

TAKİP ET

Çocukların resimlerinin kötüye kullanımını tespit etmek için otomatik bir sistemi olan Google, doktora göndermek için bebeğinin çıplak fotoğraflarını çeken bir babayı suçlu olarak işaretledi.

Çeviri: TamgaTürk Şubat 2021'de ABD'nin Kaliforniya eyaletinde bulunan San Francisco kentinde yaşayan Mark, yeni yürümeye başlayan oğlunun bazı sağlık sorunları yaşamaya başladığını fark etti. Oğlunun penisinin şişmiş olduğunu ve çocuğun canının acıdığını fark eden Mark, Android akıllı telefonunu kullanarak çocuğunun sağlık durumunun gidişatını takip edebilmek için fotoğraflar çekti.

New York Times'tan Kashmir Hill'in haberine göre çocuğun annesi ertesi gün bir sağlık kuruluşuna danıştı. Pandemi nedeniyle bu tip danışanları telefonda cevaplayan sağlık kuruluşunun hemşiresi ise doktorun görebilmesi için fotoğrafları göndermesini istedi.

Pandemi Nedeniyle Fotoğraflarla Doktora Başvurdular

Mark'ın karısı kocasının telefonunu alarak oğlunun kasık bölgesinin fotoğraflarını kendi iPhone'una attı. Fotoğraflara bakan doktor, bebeğin hastalığını teşhis ederek antibiyotik tedavisine başladı. Tedaviyle birlikte çocuğğun durumu hızla iyiye gitti ve sonunda tamamen iyileşti.

Polis Haklı Buldu, Google Reddetti

Fakat çocuğunun sağlık durumunu takip etmek için çektiği fotoğraflar Mark hakkında bir soruşturma açılmasına neden oldu. İtibarının zarar görmesinden endişe ettiği için soyadının açıklanmasını istemeyen Mark hakkında polis soruşturması açıldı. Olaya ilişkin New York Times'a konuşan Mark, "Bu şirketlerin bizi izlediğini ve mahremiyetimizin olmasını umduğumuz gibi korunmadığını biliyordum. Ama ben yanlış bir şey yapmadım" dedi. Polis, Mark'ı haklı buldu fakat Google, polisle aynı fikirde değil.

Mark

Çocuğun Cinsel İstismarı İddiasıyla Hesapları Kapatıldı

Google'ı aktif biçimde kullanan Mark, randevularını karısıyla Google Takvim'de senkronize ediyor, Android akıllı telefonunun kamerası fotoğraflarını ve videolarını Google bulutuna yedekliyor ve Google Fi kullanıyordu. Ancak oğlunun fotoğraflarını çektikten iki gün sonra Mark'ın telefonu bir uyarı sesi çıkardı. Hesabı, "Google'ın politikalarını ciddi şekilde ihlal eden ve yasa dışı olabilecek 'zararlı içerik'" nedeniyle devre dışı bırakıldı. Bildirimde yer alan ihlal listesinde "çocukların cinsel istismarı" da yer alıyordu.

Başta kafası karışan Mark bir süre sonra oğlunun fotoğraflarını hatırlayarak Google'ın bu fotoğrafları çocuk pornosu sandığını düşündü. Büyük bir teknoloji şirketinin kullanıcılar tarafından sorunlu olarak işaretlenen video içeriklerini kaldırmaya yönelik otomatik sistemini hazırlayan yazılım mühendisi olarak çalışan Mark, bu tip hataların yaşandığı sistemlerin döngüsünde genellikle hataları ayıklayan bir insan olduğunu biliyordu ve o kişiye ulaştığında davasının çözüleceğini düşündü.

Polis Dosyayı Kapattı, Yine Reddedildi

Oğlunun geçirdiği enfeksiyonu ve yaşadıklarını anlatan ve kararın gözden geçirilmesini talep eden bir form dolduran Mark'ın talebi Google tarafından reddedildi. Google Fi hesabı da dahil olmak üzere tüm hesapları kapatılan ve e-postalarını, arkadaşlarının iletişim bilgilerini ve oğlunun ilk yıllarına dair tüm belgeleri kaybeden Mark yeni bir telefon numarası almak zorunda kaldı. Google, Mark'ın başvurusunu "Çocukların cinsel istismarına yönelik materyal iğrenç ve bunun platformlarımızda yayılmasını önlemeye kararlıyız" ifadeleriyle reddetti.

Soruşturmada görev alan müfettiş Nicholas Hillard, ortada herhangi bir çocuk istismarı olmadığını, herhangi bir suç unsuru bulunmadığını raporunda tespit etti ve dosya kapandı. Polis raporuyla birlikte Google'a tekrar başvuran Mark, yine reddedildi.

Tehlikenin Farkında mısınız?

Yapay zeka hayatımızın birçok yönünde kolaylıklar sağlasa da, büyük veriyi takip etme ve ayıklama işinde benzer vakalara sebep olmaya devam edecek gibi görünüyor. Dijital devlerin algoritmaları, insan medeniyetinin karmaşık ve çok katmanlı içeriğini işlemek için ne kadar yeterli? Bu işlemlerin devlet kurumları tarafından doğrudan kullanılması da başka bir tartışma konusu. Türkiye'de de çeşitli devlet kurumları Tayyip Erdoğan'a yapılan hakaretleri benzer yapay zeka uygulamalarıyla işler ve otomatik olarak yargıya sevk ederken TamgaTürk olarak soruyoruz: Tehlikenin farkında mısınız?

Mark ve oğlu Çeviri: TamgaTürk

doktora göndermek için bebeğinin çıplak fotoğraflarını çeken baba google tarafından suçlu olarak işaretlendi polis soruşturma açıldı