江晓原            

　　人工智能的话题，最近因谷歌公司一场商业炒作“围棋人机大战”而再次大热起来。各种不同的看法纷纷表达，其中既有天真糊涂的想法，也有居心叵测的说法。为了厘清思路，有必要就下面五点进行认真思考。

　　一、“人工智能目前还很初级很弱小，不必忧虑”？要说服人们同意养虎，必须论证“老虎不会吃人”。现在人们担忧人工智能未来将对人类造成危害，要打消这个担忧，就必须论证“人工智能不会危害人类”，否则，就有必要重新考虑目前是否应该发展人工智能。

　　二、“人造的东西不可能超过人”？这一论断只是一个盲目的信念，是在坚信“造物主一定比所造之物高明”，然而，这个信念明显违背常识。试问，父母可不可以视为孩子的造物主？如果可以，孩子超过父母的情形我们难道没见过吗？

　　三、“人工智应该能够服从人类设定的道德标准”？有谁对“人工智能必然会服从人类设定的道德标准”这一论断进行过令人信服的论证？没有。人类无法避免自己的一部分后代学坏，父母设定的道德标准、学校进行的规训矫正，都无法制止他们。至于他们为何尚未统治全人类或危害人类整体呢？那是因为他们毕竟只是凡人，能力有限。然而，人工智能追求的是什么境界？不弄出“超人”来，个别科学家肯罢手吗？

　　四、“拔掉电源就可以制止人工智能胡作非为”？专业人士试图打消公众对人工智能的忧虑时，经常提到一个说法：我们可以拔掉电源。当对人工智能的想象停留在个体机器人阶段时，也许是成立的。但现实情形是，人工智能一旦与互联网结合，借用高度发达的定制、物流、快递等社会服务，几乎可以完全摆脱对所有伺服机构的依赖，当人工智能只是一个网上幽灵时，没有机体，没有形态，还谈什么拔掉电源呢？一旦人工智能进化成超级人工智能可能只需弹指一挥间，到时人类将措手不及，完全无法掌控。

　　五、“发展科学”也可能“唤出恶魔”。我们必须想清楚：究竟为什么需要人工智能？科学家总是对公众说，是为了“发展科学”。仿佛为了“发展科学”，一切别的事情，哪怕是人类的安危都不必考虑了。马斯克认为人工智能会“唤出恶魔”，比核武器对人类的威胁还大；霍金则断言：“彻底开发人工智能可能导致人类灭亡”；田松教授有句名言：“警惕科学！警惕科学家！”在人工智能问题上，他们的话值得深思。

　　（作者系上海交通大学科学史与科学文化研究院院长）

　　来源：解放日报