东森娱乐平台 > 商业运营 > 偷听芭比娃娃和其他监听机器

偷听芭比娃娃和其他监听机器

2018-06-22

我生活中最大的乐趣之一就是参加一些我感兴趣但一无所知的领域的会议。(第二个乐趣是写这些事件。)所以当我的朋友凯特·克劳福德邀请我参加一天的“听力机器高峰会议”时,我几乎无法拒绝。

什么是监听机?每个人嘴唇的例子是Hello Barbie,这是一个不成比例的洋娃娃的版本,它会听你的孩子说话并以同样的方式回应。华盛顿邮报三月份对芭比娃娃的描述如下:“在最近的纽约玩具展上,美泰公司的一名代表介绍了最新版本的芭比娃娃,他说:‘欢迎来到纽约,芭比娃娃。’。这个叫Hello Barbie的洋娃娃回答说:“我爱纽约!”!你呢?告诉我,你最喜欢这个城市的哪一部分?食物、时尚还是风景?

芭比通过记录孩子的问题、上传到语音识别服务器、识别可识别的关键字(“纽约”)并提供适当的综合响应,来实现这一神奇功能。巴比新发现的声音ToyTalk背后的公司使用你孩子的话语来帮助调整他们的语音识别,可能会存储语音文件以备将来使用。

这就是监听系统的诀窍。如果你能想象为什么你不希望Mattel把你的孩子和他或她的洋娃娃说话时所说的话记录下来,你应该能想象使用——滥用或审问其他听音系统——可能带来的伤害。(“Siri,这是警察。给我们朱克曼先生让你在Google上进行的最后一百次搜索。他有没有搜过炸弹制作说明书?”)

正如一位发言者所说(在查塔姆大厦的规则之下,所以我不能告诉你是谁),听力机器触发了监控神圣三位一体的所有三个方面:

它们无处不在,开始出现在我们生活的各个方面。他们坚持不懈,能够无限期地记录我们所说的话。他们处理收集到的数据,试图理解人们在说什么,并根据他们能够理解的内容采取行动。为了减少他们监视行为的令人毛骨悚然的性质,监听系统通常被嵌入设计成迷人、可爱和令人愉快的设备中:玩具、机器人和声音流畅的个人助理。听力系统的支持者认为,它们是技术更深入地融入我们生活的一种主要方式,使电脑成为我们的助手、玩伴和知己成为一种常规。一个机器人被设计成一个共享的家庭伴侣的视频引发了大量的争论,包括我们是否想以产品设计师提出的方式与机器人互动,以及一个足够强大的伴侣机器人应该如何行动。

如果机器人发现配偶虐待,应该报警吗?如果机器人被设计成对家里的每个人都是朋友和知己,但却是由母亲支付的,我们是否应该期待它会因为其中一个孩子吸食大麻而对他进行斥责?(这些问题背后的假设是机器人将不可避免地聪明到足以理解和解释复杂的现象。我们最好的一位发言者说,机器人远没有达到这种理解水平,但是精心设计的机器人是为了欺骗我们,让我们相信他们有这种更深层次的理解。)

尽管真实和拟议的消费品提出了有益的挑衅,但我发现最有趣的问题集中在无意和不情愿地被监听机器监听。当像ShotSpotter这样目前设计用来识别城市枪击事件的系统开始向其他事件派遣警察,比如喧闹的泳池派对(只是为了及时挑选一个例子)时,会发生什么?呼叫中心的工作人员已经将他们的互动记录下来,供他们的主管审核——当Uber司机和1099经济的其他成员被要求记录他们与客户的互动,以便可能进行审核时,会发生什么情况?(一位朋友指出,许多人已经这样做了,以此来为自己辩护,以免受到不好的评价。)选择邀请收听机器进入你的生活是一回事——向Siri或可爱的机器人同伴吐露秘密——而雇主安装的机器或当地执法机构则完全不同。

美国一家消费者监管机构的代表做了精彩的演讲,她概述了一些可能用于监管未来监听机器的现行法律和原则。尽管美国没有像许多欧洲国家那样制定全面的隐私立法,但有一些针对特定部门的法律可以防止滥用听力机器:《儿童在线隐私保护法》、《公平信用报告法》、《HIPA》等。她指出,电子监控系统一直是美国两项监管行动的目标,联邦贸易委员会针对“不公平和欺骗性商业行为”的保护措施导致了针对Aarons租自拥有链的行动,该链在他们租来的笔记本电脑上安装了侵犯隐私的软件,捕捉了摄像头前任何人的图像。

FTC认为这是对消费者的真实而具体的伤害,没有抵消任何好处,Aarons解决了这个问题,禁用了软件。我觉得现有的规章制度和长期以来的公平理念可以为监管听力机器提供一个框架,这种想法很吸引人,但我不确定我是否会接受。在执行背景之外,我想知道这些想法是否为思考未来监管监听系统提供了一个足够强大的框架,因为我不确定是否有人能充分理解这些系统的含义,从而预见到它们可能的未来。一天想着偷听洋娃娃和私人助理,我只觉得没有人充分考虑到这些系统的含义,为它们的使用设定了可能的、理想的未来。

在过去三十多年里,我们看到了一种特殊的普什米-普吕宇技术监管模式,借用杜立特尔博士的一个物种。公司发明新技术并将其推向市场。消费者偶尔会作出反应,如果有足够多的人作出足够大的反应,政府监管机构就会进行调查,并要求做出改变。有一种感觉认为,这是正确的过程,在发明者向我们展示他们的新想法的好处之前,更积极的监管将粉碎创新。但在这种模式下,监管是对市场力量的一种非常适度的制衡。只要一种产品上市,它就致力于说服人们一种新的行为方式是新的常态。苹果公司将Siri推向市场后,展开了一场多方面的宣传活动,说服人们定期与电脑通话,以便预约、点餐、检查交通状况并寻求建议。苹果公司通过将产品作为他们非常受欢迎的手机的预装部件,免费提供,并大量宣传新功能,从而降低了采用障碍。甚至连一波关于Siri语音识别能力限制的笑话和试图使我们与数字实体的关系复杂化的故事片,也起到了钙化“新常态”的作用,即人们与他们的手机通话并与他们分享敏感信息,这就是现在的情况。

也许在某个时候,我们可以看到一场挑战苹果使用Siri数据的诉讼。或许苹果将为未来的iCar提供不同的融资方案,贷款利率由买家与Siri互动产生的个性特征决定。受《公平信用报告法》的授权,监管机构可能会介入,要求信贷决策只能使用透明披露的、有挑战性的财政数据,而不是外卖食品口味与信用之间的相关性。好的。但是在接下来的几年里,苹果已经赢了:我们正在和手机通话,分享我们的生活,在这个过程中产生数兆字节的数据。这种监管方式的问题在于,我们很少(如果有的话)讨论我们希望拥有的技术世界。

我们想要一个可以信赖手机的世界吗?公司应该如何处理这些新交互产生的数据?(在听音机峰会上,会议室里的聪明政策人士提出了“机器人特权”等建议。“这种保护将表现得像律师/客户特权——禁止执法机构引诱机器人让人作证,要求在线“发自内心”注意这些系统中的隐私风险,禁止基于隐私保护数据的价格歧视,以及改革“第三方指令”。”)一位朋友指出,这些问题不是监管问题,而是政策问题。我们面临的挑战是,在我们目前几乎无法运作的政治格局中,我们如何决定哪些技术应该引发关于这些产品是否、何时以及如何上市的先发制人的对话。

如果我的Siri影响你的信用评分的例子看起来不切实际或者微不足道,考虑一下爱德华·斯诺登透露的NSA广泛的数据收集程序。再一次,我们看到了普希米-普卢宇的监管,情报机构的分支在民意和国会的监督面前遥遥领先,只是现在才被适度地拉回。

来自合成生物学领域的令人鼓舞的消息,在那里一项名为CRISPR的强有力的基因操作新技术有望彻底改变这个领域。CRISPR让它变得很大更容易切割生物体内的DNA,这使得生物学家可以移除他们不想要的基因,并添加他们不想要的基因。(原来切割是最困难的部分: DNA的自我修复机制意味着你可以将你喜欢的序列引入DNA,细胞DNA修补系统将把你的序列作为修补程序。) CRISPR本身引起了人们对什么样的基因操作是合适和可取的大量思考。但另一个想法——基因驱动——正在科学界引发激烈的辩论。CRISPR是可以遗传的,这意味着你不仅可以改变一个有机体的基因组,而且你几乎可以确定它的后代将继承基因组的改变。(遗传的变化通常在一个群体中传播缓慢,因为只有一半的后代继承了这种变化。但是如果你改变染色体的一半,把CRISPR放在另一半,后代要么继承改变的基因,要么继承CRISPR,这样就会改变。)其结果是,很有可能设计出一种不能传播疟疾或根本不能繁殖的蚊子,从而结束整个物种。但是谁来做这些决定呢?好消息是,既有行政当局禁止某些研究领域的先例,也有科学界寻求影响这一决策的有力辩论传统。聪明的人在为基因驱动辩护和反对基因驱动,我很高兴和科学家交谈,他们试图让基因驱动成为可能,他们真的很高兴能公开讨论是否、何时以及如何发挥这项技术的作用。

我们需要一个更好的IT世界决策文化。我们需要一个更好的传统,通过听音机等技术的“磨刀石、时间和方式”来说话。我们需要更多的对话,不是关于什么是可能的,而是关于什么是可取的。

Copyright © 2017 东森娱乐平台 版权所有