第A12版:茶座 上一版3  4下一版
标题导航
dlrb
 
2017年12月21日 星期四  
3 上一篇  下一篇 4 放大 缩小 默认

研究人工智能,需要敬畏之心

《人工智能:国家人工智能战略行动抓手》
腾讯研究院、中国信息通信研究院互联网法律研究中心等 著
中国人民大学出版社
2017年11月
《中国人行动的逻辑》
翟学伟 著
生活.读书.新知三联书店 2017.10
本书根植于中国本土视角,以社会学、社会心理学和文化人类学等学科为参照系,对中国人的表与里、心理机制与行动逻辑,及所处的中国社会具体阶段与文化脉络,进行了方法论、概念以及经验和理论的探讨。
《社会蓝皮书:2018年中国社会形势分析与预测》
李培林 著
社会科学文献出版社 2017.12
本书围绕全面建成小康社会决胜阶段和经济社会发展进入新时代的总体形势,分析了社会发展各领域的状况,还分析了不同社会群体的生存状况、社会态度和价值取向。
(图书信息由宁波市新华书店提供)

    司 晓           

    阿兰·图灵说,即使我们可以使机器屈服于人类,比如,可以在关键时刻关掉电源,然而作为一个物种,我们也应当感到极大的敬畏。人工智能再一次成为社会各界关注的焦点,这距人工智能这一概念首次提出来已经过去了六十年。在这期间,人工智能的发展经历了三起两落。2016年,以AlphaGo为标志,人类失守了围棋这一被视为最后智力堡垒的棋类游戏,人工智能开始逐步升温,成为政府、产业界、科研机构以及消费市场竞相追逐的对象。在各国人工智能战略和资本市场的推波助澜下,人工智能的企业、产品和服务层出不穷。第三次人工智能浪潮已经到来,这是更强大的计算能力、更先进的算法、大数据、物联网等诸多因素共同作用的结果。人们不仅继续探寻有望超越人类的“强人工智能”,而且在研发可以提高生产力和经济效益的各种人工智能应用(所谓的“弱人工智能”)上面,取得了极大的进步。

    一方面,人工智能异常火热。另一方面,大众与专业人士之间、技术研发人员与社科研究人员之间,在对人工智能的认知上存在深深的裂痕。正是由于这一认知鸿沟的存在,很多时候,人们彼此之间谈论的人工智能其实并非同一概念。这常常导致无谓的争执和分歧,既无助于人工智能的发展,也不利于探讨人工智能带来的真正社会影响。

    伊隆·马斯克和马克·扎克伯格关于人工智能威胁论的辩论,代表了两种典型的声音。一边是公众舆论对强人工智能和超人工智能可能失控、威胁人类生存的未来主义式的担忧和警告;另一边是产业界从功用和商业角度出发,对人工智能研发和应用的持续探索,在自动驾驶、图像识别、智能机器人等诸多领域取得了长足进步。与此同时,很多技术研发人员认为人工智能不可能超越人类,威胁论是杞人忧天。

    回顾计算机技术发展的历史,就会发现计算机、机器人等人类手中的昔日工具,正在成为某种程度上具有一定自主性的能动体,开始替代人类进行决策或者从事任务。而这些事情之前一直被认为只能存在于科幻文学中,现实中不可能由机器来完成,比如开车、翻译、文艺创作等。

    可以预见,决策让渡将越来越普遍。背后的经济动因是,人们相信或者希望人工智能的决策、判断和行动是优于人类的,或者至少可以和人类不相伯仲,从而把人类从重复、琐碎的工作中解放出来。以自动驾驶汽车为例,在交通领域,90%的交通事故与人为的错误有关,而搭载着GPS、雷达、摄像头、各种传感器的自动驾驶汽车,被赋予了人造的眼睛、耳朵,其反应速度更快,作出的判断更优,有望彻底避免人为原因造成的交通事故。

    但在另一个层面,正是由于人工智能在决策和行动的自主性上面正在脱离被动工具的范畴,其判断和行为一定要符合人类的真实意图和价值观、道德观,符合法律规范及伦理规范等。在希腊神话中,迈达斯国王如愿以偿地得到了点金术,却悲剧地发现,凡是他碰触过的东西都会变成金子,包括他吃的食物、他的女儿等。人工智能是否会成为类似的点金术?家庭机器人可能为了做饭而宰杀宠物狗,以清除病人痛苦为目的的看护机器人可能结束病人生命,诸如此类。

    因此,可以看到,人工智能这一领域天然游走于科技与人文之间,其中既需要数学、统计学、数理逻辑、计算机科学、神经科学等的贡献,也需要哲学、心理学、认知科学、法学、社会学等的参与。中国、美国、欧盟、联合国等国家或国际组织的人工智能战略或政策文件,都特别强调人工智能领域的跨学科研究和人文视角。中国发布的《新一代人工智能发展规划》中“人工智能伦理”这一字眼出现了十五次之多;美国的《国家人工智能研究和发展战略计划》将“研究并解决人工智能的法律、伦理、社会经济等影响”列为主要的战略方向之一;欧盟的立法建议书认为人工智能需要伦理准则,并呼吁制定所谓的“机器人宪章”;联合国发布了《机器人伦理初步报告草案》,认为机器人不仅需要尊重人类社会的伦理规范,而且需要将特定伦理准则嵌入机器人系统中……未来,对人工智能进行多学科、多维度的研究和探讨的重大意义,将逐步显现出来。

    最后,正如我在开头引用的阿兰·图灵的话,无论是从事人工智能的技术研发,还是开展跨学科、跨领域的公共政策、法律、伦理等人文探讨和研究,都需要带着一颗敬畏之心。借用英国作家查尔斯·狄更斯的话:“这是最好的时代,这是最坏的时代”,希望我们都能把握住这个时代,共同打造人工智能的美好未来。

    (作者系腾讯研究院院长,本文为该书序言)

3 上一篇  下一篇 4 放大 缩小 默认
   

宁波日报