【ZiDongHua之“自动化者人文”收录关键词：博鳌亚洲论坛   人工智能    决策】

博鳌亚洲论坛丨曾毅：人工智能的决策不可靠 应对风险必须从现在开始

3月27日，在博鳌亚洲论坛2024年年会上，中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅在会后对腾讯财经表示，人类永远应该是决策的最终角色，人工智能的决策是不可靠的，还会产生虚假信息，永远不要将决策这件事让给人工智能。


“人工智能产生很多虚假信息，让世界产生了很多不信任，我认为这是当前的一个重大挑战。”谈及风险，曾毅进一步指出，以前我们总说“眼见为实”，现在已经“眼见不为实”了，所以解决人工智能产生的社会信任问题是当务之急。

“因为人工智能缺乏理解能力，未来如果它产生了自我意识，希望寻求更多权利，而不是辅助人类决策的时候，那我们要如何去应对挑战呢？”曾毅表示，应对这样的风险，我们可能需要10年20年，必须从现在就开始，否则就太晚了！

对于“未来已来”的说法，曾毅表示：“我们处在一个既有机遇也有风险的时代，我们目前对人工智能的理解还如此肤浅，就快速地将下一代推向AI时代是不负责任的。”他还是坚持，目前的重点是研究人工智能技术进展，预测相关风险并做好治理。（腾讯财经 祝玉婷）

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。