笔趣吧

手机浏览器扫描二维码访问

中信出版2020年度好书经济管理套装共12册第十一章 人工智能与伦理 不要问计算机能做什么要问它们该做什么（第1页）

一秒记住【m.xiaoyanwenxue.cc】精彩无弹窗免费！

“中信出版2020年度好书-经济管理（套装共12册）（.shg.tw）”

！

第十一章人工智能与伦理：不要问计算机能做什么，要问它们该做什么

最好的科技，也会带来意想不到的效果

2017年1月，我抵达瑞士达沃斯参加世界经济论坛，这是一个每年一度探讨全球趋势风向标的活动，而当年的热门话题当属人工智能。

每一家科技公司都宣称自己是一家人工智能公司。

一天晚饭后，作为一个在寒冷的威斯康星州东北部长大的人，我重拾自己的老习惯，冒着冰雪在达沃斯的主街上溜达了整整两英里。

这条街看起来更像拉斯维加斯大道，而不是一个阿尔卑斯山区的小镇街道。

除了少数几家银行外，点亮这座滑雪圣地小城的主要是科技公司的标志和灯箱广告，每家公司（包括微软）都在不遗余力地宣传自己的人工智能战略，希望打动本周正在这座瑞士阿尔卑斯山城参加论坛的企业、政府和思想领袖。

这清楚地说明了两点：首先，人工智能是一个新事物；其次，科技公司有充裕的营销预算。

参加了多场有关人工智能优势的讨论之后，我意识到并没有人花时间来解释到底何为人工智能，或者它是如何工作的。

大家都假设每个人对此都已经了然于胸。

从我在达沃斯进行的谈话中，我知道情况并非如此，但出于可以理解的原因，人们并不愿意举手问一些基本问题。

没有人愿意第一个承认他们（很可能是一半的人）并不完全理解另一半人在说什么。

除了围绕人工智能概念普遍性的含糊不清，我还注意到另外一点，那就是，没有人想谈论这项新技术是否需要监管。

我曾参加了一场有关人工智能的网络直播，由Techonomy公司的大卫·柯克帕特里克主持，我被观众问到微软是否认为人工智能将会受到政府监管。

我表示，5年之后我们可能就会发现自己将辩论有关政府对于人工智能的最新法规提案。

IBM的一位高管对此表达了不同意见，他说：“你不能预测未来。

我不知道我们是否会制定有针对性的政策。

我会担心它们的副作用。”

一周的达沃斯论坛抓住了在当今科技行业泛滥的思潮，但那不一定都是积极的。

与多数行业一样，科技行业通常会急于推进创新，而并不帮助人们充分了解其性质或运作原理。

除此之外，人们长期以来对科技拥有一种几乎已经成为信仰的信念，那就是新技术总是有益无害的。

硅谷的许多人很长时间以来一直认为，监管机构无法跟上科技的步伐。

虽然这种对科技理想化的观点常常植根于良好的意愿，但它并不现实。

即使是最好的科技，也会带来意想不到的后果，并且其带来的益处也很少能够普惠苍生。

这还是在新技术尚未被错误地用于有害目的之前，而这种误用几乎不可避免。

早在18世纪，本杰明·富兰克林创办美国邮政服务后不久，犯罪分子就发明了邮件欺诈。

19世纪电报和电话出现后，犯罪分子又发明了电话诈骗。

20世纪，当互联网技术被发明后，任何了解历史的人都清楚地知道，新形式的诈骗行为将不可避免。

观察后视镜

人们面临的挑战在于，科技行业始终习惯于向前看，这对行业而言是好事，但对其非常不利的一个问题是，很少有人愿意花时间，甚至愿意接受一种有益的做法，即认真观察后视镜，以便能够利用过去的经验来预测转弯之处的问题。

在达沃斯的人工智能盛宴后不到一年，人工智能开始制造出一系列广泛的社会问题。

此前，公众对科技的信任曾以隐私和安全保障为中心，但人工智能现在让人们感到不安，并迅速成为公众讨论的中心话题。

计算机被赋予了学习和决策的能力，越来越不受人类的干预。

但机器将如何做出决定？它们能反映最佳的人性吗？还是会造成不那么鼓舞人心的后果？越来越明显的是，人工智能技术要想更好地服务社会，迫切需要以强有力的伦理原则为指导。

这一天酝酿已久。

1956年，达特茅斯学院的研究人员进行了一项夏季研究，旨在探索开发能够学习的计算机，这被一些人认为是人工智能技术在学术讨论领域的诞生。