大数据时代,手机APP越来越多,在带给我们便捷的同时,各种信息注册、授权也让个人信息无处可藏,一个ID号,就可以清楚地勾勒出人物画像,并精准地定位。
设想这样一个场景,在日常生活中,你的一举一动都可能正在被监视,在宇宙的另一端,有另外一个生物体正时时刻刻地关注着你的行为。
看到这里,大家可能会觉得比较熟悉,没错,这就是《三体》描述的场景,三体人用“智子”监视地球人,“智子”无处不在,让人无处可藏。《三体》是一个科幻小说,是对未来场景的一种猜想。
而现实生活中,人们却正在遭遇同类事件。
五大科技公司齐陷“窃听”门
2019年4月,亚马逊被曝在世界各地雇佣了数千名员工监听和分析用户的真实录音,以改善Alexa的性能。这并不是亚马逊公司首次被曝出隐私泄露事件。
去年年底,一位德国用户在向亚马逊索要个人活动语音数据的时候,对方发过来1700份陌生人对话录音,通过这些录音可以完全拼凑出一个完整的人物画像及生活轨迹。在此之前,亚马逊的智能门铃,音箱Echo等都存在窃听问题。
当然,这并不是亚马逊公司独有的问题。
2019年7月,比利时荷兰语国家广播电视台称谷歌雇佣人工团队监听用户与Google Assistant的对话录音,报道指出,部分听取的录音内容里会涉及用户的个人隐私,例如用户的姓名和住址。
同月,苹果被曝出雇佣外部人员监听和分析用户对Siri发出的语音指令,Siri的录音定期进行监听和分析,公司员工表示,有无数的录音记录了医生与病人之间的私人讨论、商业交易、类似犯罪的交易和性行为等等”,而这样的语音记录大约30秒,已经足够让你充分了解发生了什么”。
8月13日,据知情人士爆料称,Facebook始终在雇佣第三方承包商审查和转录其用户的音频内容。对此,Facebook承认了这一行为,并指出这些承包商之前被雇佣来检查匿名对话是否在Messenger应用程序上被正确转录。
15日,微软曝出安排员工听取Skype网络电话和智能助手Cortana的录音,包括用户在进行亲密对话,讨论情感关系、减肥等私人话题。
“窃听”如多米诺骨牌一样崩塌,一发不可收拾。
在窃听这件事情上,五家公司步伐保持着惊人的一致。先是前后脚地陷入了“窃听门”,然后第一时间承认了这一行为,接着表示已经暂停相关服务。回复的理由也如出一辙:为了优化AI,不得已而为之。
潜台词就是,“我”窃听,也是为你好,让你能够拥有更优质的服务。
中国科学院自动化研究所听觉模型与认知计算团队副研究员徐爽曾说过:因为目前主流的人工智能技术还不具备自主学习的能力,只能通过读取海量训练数据不断优化性能。总之,语音助手的进步,离不开人的介入,而人在介入过程中,又势必会接触到原始语音数据。
这正应了此前某公司CEO的那句话“以隐私换便利”!为了优化人工智能,监控用户的语音数据,到头来真正受到利益损害的还是用户本身。收集用户数据并不可怕,可怕的是这些数据的使用权和监控权,谁能料想个人私密信息如果泄露,会造成怎样严重的后果。
因此,人工智能的便利不能以用户的隐私让渡为代价!
窃听风云几时休?
“窃听门”事件一曝光,引发了大众的恐慌。这些语音中不乏医生与病人的谈话、掩盖在引擎噪音之下的疑似犯罪、性行为信息等极其私密的个人信息,也就是说,私人信息完全处在一种“裸奔”的状态。
在这样的情况下,欧美监管部门出手。美国和欧洲的监管和立法机构正在对谷歌、苹果和亚马逊进行调查,审核上述三家公司人工听取用户使用电子助手时的录音,是否涉嫌侵犯用户隐私。
德国数据监管部门汉堡数据保护与信息自由委员会近日也对谷歌作出停止对欧洲用户语音数据收集和分析的要求,同时还要求欧盟监管机构根据《通用数据保护条例》(General Data Protection Regulation,简称GDPR)尽快处理亚马逊、苹果等其他智能语音服务提供商的窃听问题。
根据2018年5月欧盟正式实施的GDPR,这些公司将会被征收相当于年收入4%的罚款。在今年7月发布的年度报告中,欧洲数据保护委员会也表示,在今年和明年,他们也将更加关注保护用户的权利,并考虑将包括人工智能和数字化在内的各类新技术纳入处罚对象。
美国方面,在7月底推出一项名为“反窃听”的法案。该法案授予联邦贸易委员会可以对窃听行为处以高达4万美元罚款的权力。该提案的目的在于,当语音助手和智能门铃在用户没有激活设备,或唤醒设备时自动录音,用户拥有追索权。
在法律的严格管控下,苹果、谷歌、Facebook已经取消人工窃取语音记录的服务,亚马逊修改了相关条例,让用户可以自行操作关闭人工听取录音的功能。不过,这一选项被很好地隐藏在了子菜单中。换句话说,用户需要费上一番功夫才能让自己不被窃听。微软也修改了隐私政策,明确指出人们使用语音助手时可能会被录音。
看起来,窃听风波已经平息。但对于未来是否还会存在类似事件,没人能够给出准确的答复。