被迫下线的「AI 鉴黄师」,还是出事了
说起来也挺奇妙,乔布斯在2011年就推出了iCloud,当时他还表示:
因此最终,苹果不得已放弃了这项计划。
虽然苹果放弃了,但是谷歌却没停下,早在 2018 年,谷歌就推出了和苹果类似的AI 审核工具,同样用来审核儿童性虐待内容。应用了这么多年,也确实对儿童保护起到了很大作用。
——有位漂亮国全职奶爸被谷歌全网封杀了,原因是他为了告知医生孩子的病情,不过呢,医生那边光听文字描述也觉得不够直观,就要求用手机拍一张照片,上传到医院指定的信息投递系统。
为了方便医生根据照片提前初步诊断,妻子拍照时,马克用手指指着儿子的不适处。
结果谷歌把这些照片标记为儿童性虐待材料(CSAM),更灾难的事还在后面。马克是谷歌的重度用户,从同步日计划到备份照片视频,都靠的是自己的Gmail账户。
△马克和儿子(图源《纽约时报》)
当事人立刻决定上诉,但谷歌不仅无情拒绝,还标记了他别的视频和照片,搞得旧金山警察局都开始介入调查。
但由于这哭笑不得的乌龙,多米诺效应接踵而来——他被谷歌全网封杀了!
他失去了对自己电子邮件、联系人、照片的访问权,Google Fi账户也被关闭了(这意味着他必须得去另一家运营商申请一个新电话号)。并且因为失去了电子邮件地址,他甚至没法买房。
最后虽然他被警方认定为无罪,但是谷歌账号依旧找不回来,并且即将被永久删除。