據(jù)《紐約時報》報道，一位關(guān)心此事的父親稱，在用他的Android智能手機拍攝了他的幼兒腹股溝感染的照片后，Google將這些圖片標(biāo)記為兒童性虐待材料(CSAM)。該公司關(guān)閉了他的賬戶并向美國家失蹤和被剝削兒童中心(NCMEC)提交了一份報告，這引發(fā)了警方的調(diào)查。
這一情況凸顯了在潛在虐待和無辜照片成為用戶數(shù)字圖書館的一部分后試圖區(qū)分兩者之間的復(fù)雜情況。
去年，當(dāng)蘋果宣布其兒童安全(Child Safety)計劃時，人們對模糊哪些內(nèi)容應(yīng)被視為隱私的后果表示關(guān)切。作為該計劃的一部分，蘋果將在蘋果設(shè)備上的圖像上傳到iCloud之前進(jìn)行本地掃描，然后將這些圖像跟NCMEC的已知CSAM哈希數(shù)據(jù)庫進(jìn)行匹配。如果發(fā)現(xiàn)足夠多的匹配，人類管理員就會審查這些內(nèi)容，如果內(nèi)容包含CSAM則就會鎖定用戶的賬戶。
非營利性數(shù)字權(quán)利--組織電子前沿基金會(EFF)抨擊了蘋果的計劃，稱它可能會為用戶的私人生活打開一個后門，“它代表了所有iCloud照片用戶隱私的減少而不是改進(jìn)”。
蘋果最終擱置了存儲圖像掃描部分，但隨著iOS 15.2的推出，它繼續(xù)在家庭共享計劃中推出了一個兒童賬戶的可選功能。如果父母選擇加入，那么在孩子的賬戶上，信息應(yīng)用會分析圖像附件并確定照片是否包含裸體與此同時保持信息的端到端加密。如果檢測到裸體，那么它將模糊圖像、為孩子顯示一個警告并向他們提供旨在幫助在線安全的資源。
《紐約時報》強調(diào)的主要事件發(fā)生在2021年2月，當(dāng)時由于COVID-19大流行，一些醫(yī)生辦公室仍在關(guān)閉。正如《紐約時報》所指出的，Mark（他的姓氏未被透露）注意到他孩子的生殖器區(qū)域有腫脹，并在一名護(hù)士的要求下在視頻咨詢前發(fā)送了該問題的圖像。醫(yī)生最終開出了治愈感染的抗生素。
據(jù)《紐約時報》報道，馬克在拍攝這些照片僅兩天后就收到了Google的通知，稱他的賬戶被鎖定，原因是含有害內(nèi)容，這被認(rèn)為“嚴(yán)重違反了Google的政策，并可能是非法的”。
像許多互聯(lián)網(wǎng)公司一樣，包括Facebook、Twitter和Reddit，Google已經(jīng)使用微軟的PhotoDNA進(jìn)行哈希匹配以掃描上傳的圖片并檢測跟已知CSAM的匹配。
2018年，Google宣布推出其內(nèi)容安全API人工智能工具包，它可以主動識別從未見過的CSAM圖像以便對其進(jìn)行審查，如果確認(rèn)為CSAM則盡快刪除并報告。它將該工具用于自己的服務(wù)，并跟YouTube工程師開發(fā)的視頻目標(biāo)CSAI Match哈希匹配解決方案一起，同時也提供給其他人使用。
一位Google發(fā)言人告訴《紐約時報》，Google只在用戶采取肯定行動時掃描用戶的個人圖像，這顯然包括將他們的照片備份到Google照片。該家媒體指出，當(dāng)Google標(biāo)記出剝削性圖片時，那么聯(lián)邦法律要求Google將潛在的犯罪者報告給NCMEC的CyberTipLine。2021年，Google向NCMEC的CyberTipLine報告了621,583起CSAM案件，而NCMEC向當(dāng)局提醒了4260名潛在受害者，《紐約時報》稱這個名單包括Mark的兒子。
據(jù)報道，Mark最終失去了對他的電子郵件、聯(lián)系人、照片乃至他的電話號碼的訪問權(quán)--因為他使用Google Fi的移動服務(wù)。Mark立即試圖對Google的決定提出上訴，但Google拒絕了他的請求。Mark居住的舊金山警察局則在2021年12月對馬克展開了調(diào)查并掌握了他在Google存儲的所有信息?！都~約時報》指出，負(fù)責(zé)此案的調(diào)查員最終發(fā)現(xiàn)，該事件不符合犯罪的要素且沒有發(fā)生犯罪。
Google發(fā)言人Christa Muldoon在給The Verge的電子郵件聲明中說道：“兒童性虐待材料(CSAM)是令人憎惡的，我們致力于防止它在我們的平臺上傳播。我們遵循美國法律來定義什么是CSAM并使用哈希匹配技術(shù)和人工智能的組合來識別它并從我們的平臺上刪除它。此外，我們的兒童安全專家團(tuán)隊審查標(biāo)記的內(nèi)容是否準(zhǔn)確并跟兒科醫(yī)生協(xié)商，以此來幫助確保我們能夠識別用戶可能尋求醫(yī)療建議的情況。”
雖然保護(hù)兒童免受虐待的重要性毋庸置疑，但批評者認(rèn)為，掃描用戶照片的做法不合理地侵犯了他們的隱私。EFF的技術(shù)項目主任Jon Callas在給《紐約時報》的一份聲明中稱Google的做法是侵入性的?！斑@正是我們都擔(dān)心的惡夢。他們要掃描我的家庭相冊，然后我就會遇到麻煩，”Callas這樣跟《紐約時報》說道。
（舉報）