人工智能是Facebook继续搞砸的借口

在为期两天的听证会上累积了10个小时的过程中，马克扎克伯格引用了人工智能的力量回答了问题。

这里甚至不完全清楚扎克伯格在“AI”中的含义。他多次提到Facebook的检测系统在任何标记之前自动减少99％的“恐怖分子内容”。在2017年，Facebook宣布它正在与AI进行“试验”，以检测“可能正在倡导恐怖主义”的语言 – 可能是一种深度学习技术。目前尚不清楚深度学习实际上是Facebook自动化系统的一部分。（我们通过电子邮件向Facebook发送了澄清信息，但尚未收到回复。）但我们确实知道，在理解语言方面，AI还处于起步阶段。正如The Verge的詹姆斯文森特从他的报道中得出的结论，人类语言的细微差别，人工智能并不适合，甚至没有考虑甚至人类不同意的边缘情况。事实上，AI可能永远无法处理某些类别的内容，如假新闻。

除此之外，扎克伯格在听证会上关注的内容类型是图像和视频。从我们对Facebook自动化系统的了解来看，它的核心是一个跨哈希共享数据库的搜索机制。如果一个斩首的视频在数据库中被以前被确定为恐怖分子的内容 – 通过Facebook或其合作伙伴 – 会自动识别并取消。华盛顿大学法律教授兼技术政策实验室主任Ryan Calo说：“从技术的角度来看，很难区分谷歌搜索引擎和谷歌搜索引擎的早期阶段。“如果那是AI，那么这就是AI。”

这就是人工智能作为借口这么好：人工智能是一个广泛的术语，可以包括各种自动化，机器学习，甚至更深入的学习。将Facebook的自动删除系统AI称为未必是错误的。但是你知道，如果你在一群立法者面前说“人工智能”，他们会开始想象AlphaGo或者更加奇怪的是，SkyNet和C-3PO在任何人看到它们之前取下恐怖分子斩首的视频。他们都没有想象谷歌搜索。

人工智能的调用是在一群外行人身上部署的闪避，大部分人遗憾地将其吞噬了一部分。一个例外可能是参议员加里·彼得斯（D-MI），他跟进了关于人工智能透明度的问题。“但你也知道人工智能并非没有风险，而且你必须对这些算法的构建非常透明。”扎克伯格的回应是承认这是一个“非常重要”的问题，而且Facebook有一个整体AI道德团队正在研究这个问题。

“我不认为在未来10到20年，我们都想要建立的未来，我们想要结束的系统，人们不明白他们如何作出决定，”扎克伯格说。

扎克伯格一次又一次地在听证会上说，在五到十年的时间里，他相信他们将拥有复杂的人工智能系统，能够应对即使处理语言细微差别的挑战。给我们五到十年，我们会把这一切都弄清楚。

但重要的不仅仅是Facebook未能扩大内容审核范围。它没有发现整个类别的不良行为，比如说由国家进行的故意错误信息活动，虚假报道（无论是国家还是单纯的奸商）的传播以及像剑桥分析公司丑闻等数据泄露。即使这些决策是由人类智慧驱动的，它对适度决策的透明度也未能透明。它未能处理它在媒体生态系统中越来越重要的地位，未能保护用户的隐私，也未能预见其在缅甸种族灭绝中的作用，甚至可能甚至未能保护美国的民主。

人工智能无法解决你不知道自己在做什么，也没有真正关心其中一个方面的问题。这不是短视和缺乏透明度的解决方案。这是一个偏离问题本身的借口：是否以及如何规范Facebook。

事实上，大赦国际的进步表明，法律本身应该改变以跟上这一趋势，而不是取消进一步的做法。

人工智能只是一种新的工具，可以用于好的和坏的目的，也可以用于新的危险和缺点。我们已经知道，虽然机器学习具有巨大的潜力，但是具有根深蒂固的偏见的数据集会产生有偏见的结果 – 垃圾进入，垃圾进出。用来预测被告再犯的软件会导致种族主义结果，而更复杂的人工技术只会使这些类型的决策变得更加不透明。机器学习以最纯粹的良好意图进行部署时，这种不透明是一个巨大的问题。在部署机器学习以更好地针对广告客户的目标时，这是一个更大的问题- 即使没有机器学习，也允许Target发现一名十几岁的女孩在她的父母知道之前怀孕了。

“要么是所有的炒作，我们都不应该反应过度，或者它代表了合法的海洋变化。”

“同时，声称AI改变了一切 – 它改变了我们做所有事情的方式，它改变了游戏规则 – 但没有什么应该改变，”Ryan Calo说。“其中一件事情是不对的。要么是所有的炒作，我们都不应该反应过度，或者它代表着合法的海洋变化。说实话，我们应该从AI的方式中走出来的原因是，它非常具有变革性。“

如果还不清楚“等着看我们提出的技术奇迹”只是一个摊位，那么从Facebook的隐私方法就可以看出，它非常乐意永远停滞不前。在周三的能源和商业委员会听证会上，扎克伯格回答关于隐私的问题时说：“我想我们会弄清楚社会规范是什么以及我们想要制定的规则。然后，五年后，我们会回来，我们会学到更多的东西。要么就是社会规范已经发展，公司的做法已经发展，否则我们会制定规则。“

5年？我们将等待五年时间才能确定用户隐私？Facebook成立至今已有14年。有些投票年龄的人不记得Facebook之前的时间。Facebook 在2006年推出其新闻馈送时并未告知用户它将会是什么样子，以及他们的隐私设置如何影响他们的朋友看到的内容，因此在2006年首次遭到批评。2007年，它启动了Beacon，它将用户购买的信息注入到新闻Feed中，这一决定导致集体诉讼诉讼达成950万美元。联邦贸易委员会在2011年就Facebook 的隐私权失败达成了同意法令，因为剑桥分析师丑闻可能违反了他们的同意法令。

通过引用AI的理由，马克扎克伯格只是准备好从一个道德沼泽到另一个道德沼泽。他不知道他在创建Facebook时做了什么，并且公平地说，没有人做过。当Facebook推出时，它将勇往直前，迈向一个崭新的世界。没有人知道为全球广告收入而连接世界各地的人的成本最终将是剑桥分析公司。

但线索始终存在：隐私倡导者一再警告反对积极和无差别地收集数据，其他人则认为广告目标的诡异性，专家们对社交网络对选举的影响表示担忧。

给Facebook五到十年的时间来解决它的问题，并且在五到十年内，马克扎克伯格将再次在国会上作证，证明其使用人工智能的意外后果。