英国《经济学家》周刊5月9日一期封面

　　英国《经济学家》周刊5月9日一期文章称，斯蒂芬·霍金警告说：“全面人工智能的发展可能导致人类灭绝。”埃隆·马斯克担心，人工智能的发展可能成为人类面临的最大生存威胁。比尔·盖茨敦促人们认识到这一点。

　　害怕亲手创造的可憎之物变成自己的主人或终结者，这一点儿都不新鲜。但这些话由一位著名的宇宙学家、一位硅谷企业家还有微软创始人之口说出—这三位绝非阻碍技术进步的人，再与谷歌和微软等大公司在人工智能领域的巨额投资相比照，这种担忧的分量就不同以往了。每个口袋都装着超级计算机，每个战场都有机器人俯瞰监视，只把这些当做科幻小说而嗤之以鼻似乎是自欺欺人。问题是，怎样担忧才算是明智。

　　人工智能蓬勃发展

　　第一步是弄清楚电脑现在能做什么，将来能做什么。由于处理能力增强、可用的数字化数据越来越丰富，人工智能在能力上正蓬勃发展。今天的“深入学习”系统通过模拟人脑的神经元层并处理大量数据，能够教会自己执行一些任务，从模式识别到翻译，几乎能和人类做得一样好。结果，以前需要调动脑力的事，从解读图片到玩电子游戏“青蛙过河”，现在都是计算机程序力所能及的范畴。2014年脸书网站推出一种算法“深脸”，当时能从各种图像中识别单张人脸，准确率达97%。

　　关键在于，这一能力狭隘又具体。如今的人工智能呈现的表象是没有智慧的数据处理能力，至于如何能像人类心灵赋予人类独立的意志、兴趣和欲望，人工智能没有太大的兴趣。在宽泛、灵活变通的能力上，即与传统人体感官的智能相关的推理、判断、决策等方面，计算机尚且望尘莫及。

　　但是，人工智能的力量已经强大到让人类生活发生翻天覆地变化的地步。它能够补充人力，提升人类所能到达的高度。以国际象棋为例，计算机现在下得比人好。但世界上最好的棋手并非机器，而是国际象棋大师加里·卡斯帕罗夫所称的“半人马”：人类与算法的合体。这样的合体将成为各行各业的常态：有了人工智能的支持，医生们在医学影像上发现癌症的能力将大大增强；智能手机上运行的语音识别算法让发展中国家的数亿文盲也能上网；数字助理将为学术研究提供前景光明的假设；图像分类算法让可穿戴计算机在人们看到的真实世界上叠加有用信息。

　　自动机器带来威胁

　　即便从短期来看，也并非所有的结果都是正面的。例如，想想人工智能给国家安全机器带来的力量，无论是专制国家还是民主国家。监控数以十亿计的交谈，并且仅凭声音或面部特征就能从人群中找出每一个公民，这样的能力对自由的威胁极大。

　　即便实现广泛意义上的社会收益，许多个人还是因为人工智能而蒙受损失。最初的“计算员”是一份苦差事，通常是女性为她们的上司做无休止的计算。正如晶体管替代了她们的位置一样，人工智能也很可能让整批整批白领失去工作。教育和培训会有帮助，借助人工智能创造的财富将用在新的事业上，并创造新的就业机会。但员工注定要失去原有的工作。

　　不过，霍金、马斯克和盖茨担忧的并不是监控和失业，好莱坞最近投放大银幕的一大批关于未来人工智能的电影也不是从这里找到灵感的。总体而言，他们所关心的更遥远，关乎世界末日：自动机器带来的威胁，它们有超人的认知能力，兴趣又与人类冲突。

　　这样的人工智能产物距离现实还很遥远；实际上，恐怕永远也无法创造出来。尽管对大脑的分析已经折腾了一个世纪，心理学家、神经学家、社会学家和哲学家还是远远没弄清心智是怎么产生的，或者说心智是什么。即便是一般意义的有限智能产品—即有兴趣和自主性产品—的商业开发理由也远不明确。一辆自动驾驶、比主人开得还好的车听来是件好事；可一辆对于去哪儿有自己想法的车就不是那么回事了。

　　人类需要未雨绸缪

　　但是，就算霍金所谓的“全面”人工智能还很遥远，稳妥起见，整个社会还是早作打算为好。这比看起来要容易，特别是人类制造具有超人能力、追求一己利益的自主实体已有时日。政府机构、市场和军队都是这样的自主实体：它们独自行事，这是非组织人类做不到的。它们都要求功能自主，自我主宰，如果不是按照正当的方式组建并受法律法规节制，都会产生巨大的危害。

　　这些类似产物应当可以宽慰那些担忧的人；它们还为社会提供了安全发展人工智能的具体方式。正如军队需要文官监管，市场需要管理，政府机构必须透明并承担责任一样，人工智能系统也必须接受公开监管。因为系统设计者对于各种情况的预见不可能面面俱到，所以还必须有一个关闭人工智能产品的开关。这些约束措施的布置并不阻碍进步。从核弹到交通规则，人类已经利用技术创造与法律限制约束过别的强大的新事物。

　　文章认为，害怕人类终将创造出自主的、非人类的智能，这种挥之不去的恐惧如此非同寻常，以至于辩论似乎已无足轻重。是的，危险确实存在。但是不应因此看不到人工智能的黎明给我们带来的巨大福利。