人工智能与数字伦理论坛上嘉宾热议：AI要智能，更要智慧

11月10日，2022年世界互联网大会乌镇峰会人工智能与数字伦理论坛举行。记者 吕之遥 姚颖康 摄

作为新一轮科技革命和产业变革的代表，人工智能正与实体经济、社会生活深度融合，使整个社会生产力和效率大幅提升。如何促进安全可信可控的人工智能技术研发与应用场景？国际社会要构建怎样的合作机制，确保人工智能始终朝着以人为本、科技向善的方向健康发展？

11月10日下午，2022年世界互联网大会乌镇峰会最后一场分论坛——人工智能与数字伦理论坛举行，与会中外嘉宾围绕“人工智能的产业方向与伦理取向”展开讨论。

做负责任的人工智能

论坛现场，中国美术学院院长高世名讲述了一个故事：中国美院三名本科生创作了一幅科幻作品《无限分之一》，设定三名年轻人接受生命冷冻实验，陷入长久沉睡，几百年后被唤醒。在那个未来世界，人类上传了所有知识和记忆，形成了一个“共脑”。

于是，这些21世纪的来客面临命运的选择：是否融入“共脑”？

故事引发了大家深思。“这个全体人类的智慧集合，带来的不是新的突破，而是创新能力的丧失和永久的停滞。”高世名说，这件作品提醒我们，各种微观、宏观的增强技术正逐渐把我们改造为“新人”，人的危机正以前所未有的压迫感呈现在我们面前。

对人工智能带来的风险，与会嘉宾都谈到了治理的迫切性。清华大学人工智能研究院名誉院长、中国科学院院士张钹抛出了“做负责任的人工智能”观点。他说，早在人工智能诞生之前，美国科幻小说家阿西莫夫就提出机器人发展中可能存在的伦理风险，“无论是有意的滥用、还是无意的滥用，都要重视，我们必须对人工智能的研究、开发、使用进行严格评估和科学监管。”

之江实验室主任、中国人工智能产业联盟副理事长朱世强也谈到了“负责任”这个词。“人工智能、数字技术是我们重要的发展方向，我们也在做负责任的科研。”他展示了一张之江实验室预防人工智能危害社会的技术图谱，吸引嘉宾纷纷拍照。

之江实验室从研发主体、使用者、管理主体三个方面，对未来人工智能可能产生的负面情况进行了系统梳理。朱世强对此的态度是“张弛有度”，“人工智能是人类智能在机器领域的延伸，真正的主动权仍然掌握在人的身上，技术没有原罪，如何应用好技术才至关重要。”

构建数字伦理规则迫在眉睫

在讨论中，与会嘉宾普遍认为，面对人工智能，既不能回避技术发展带来的各类安全风险和伦理挑战，也不能以邻为壑，人为设置“小高墙”。

那么，我们该如何与人工智能友好相处？

全国人大宪法和法律委员会副主任委员江必新认为，要构建一个合理规范的数字伦理规则，“我们不能制约技术的发展，那就通过制定一套伦理规则来进行自我约束。”

江必新说，人们要对人工智能达成一种基本共识，比如能增进人类福祉、透明互信、美美与共，这是人类对真善美的追求，也是对人工智能向上向善的期望。

试想一下，如果听什么歌、想去哪里，都能用你的语音进行操控，上了车能用自己的声音直接导航……人工智能带来的这些“红利”，让我们从简单重复的劳动中解放出来，做更多有价值、有创意的工作，是件十分美好的事。但人工智能再先进，如果不安全就会漏洞百出，“先进”也就失去了意义。

说起当下老百姓关心的应用风险，科大讯飞股份有限公司高级副总裁、科大讯飞华南人工智能研究院董事长杜兰认为，一是个人数据安全与隐私保护问题，二是利用人工智能实施诈骗、造谣等违法犯罪行为，“针对这些风险，我们要有针对性地依法打击，建议更多权威机构牵头搭建常态化公共演练平台，让大家通过演练，不断提高打击技术犯罪的能力。”

如何让人工智能更可信可靠，嘉宾讨论热烈。卡巴斯基首席技术官安通·伊万诺夫说，对人工智能的变革性潜力，我们的认识才刚刚开始，“虽然我们不能阻止恶意行为者使用这些技术，但我们可以尝试预见潜在问题，卡巴斯基已起草了一份针对仿生设备的安全政策，目的就是减轻在办公室使用仿生设备可能造成的网络安全风险，人工智能也是如此。”

推动人工智能赋能美好生活

从技术上说，人工智能分为运算智能、感知智能、认知智能三个阶段——运算智能让机器能存会算；感知智能让机器像人一样能听会说、能看会认、能跑会跳；认知智能让机器能理解、会思考。

世界工程组织联合会前任主席、中国新一代人工智能发展战略研究院执行院长龚克认为，我们现在面临的数字伦理问题，并不是人工智能过于强大而产生的，恰恰是因为人工智能不够强大、不够完善才会产生。

“技术和法规要相辅相成、互相配合。光有法律法规还不够，更多的数字伦理问题要靠技术的发展和完善去解决。”龚克说。

对此，阿里巴巴安全部智能算法负责人、阿里巴巴集团科技伦理治理委员会执行主席薛晖也有一致的看法。薛晖说：“数字伦理治理是一门跨学科的智力密集和需要多方协同的复杂问题。以深度学习为代表的人工智能技术当前依然存在瓶颈和局限，很难想象凭一家企业、一个机构或一所高校能独立完成，因此探索更强大、更通用的人工智能，我们要花上一代人甚至几代人的努力。”

朱世强认为，虽然人工智能已在围棋、蛋白质测序等领域远高于人的个体能力，但在综合智能上仍处在初级发展阶段、是一个弱人工智能，“如果技术的进步和其成熟后的大量应用对现有社会治理、生产关系构成挑战的事实不能避免，那社会一定会需要一种技术变革，在变革后又调整到一种新的平衡状态，进入一个新的文明阶段。”

针对很多人关心的，人工智能会不会取代文学创作、相亲、高考等，多位嘉宾都表示“不会”。他们说，未来比人更强大的不是人工智能，而是掌握了人工智能的新人类，我们要去做让生活变得更美好的人工智能。