21世纪经济报道 记者 郭美婷 实习生林婉娜 广州报道
在AI进一步颠覆人类社会之前，人类应更冷静地坐下来思考，十字路口上的我们要走向哪里。
6月10日，2023北京智源大会在北京举行。图灵奖得主、中国科学院院士姚期智与加州伯克利分校教授Stuart Russell在AI安全与对齐专题论坛进行了专家对谈。
【资料图】
姚期智认为，在考虑如何控制AI的问题前，人类需要先真正解决自身的问题。对于AI技术，当前正是一个重要窗口。在AGI被创造之前、在军备竞赛开展之前，我们急需形成共识，共同合作搭建一个AI治理结构。
“我们应该如何阻止人类生产强大的AI机器，以免以牺牲他人为代价来实现他们的个人目标？”在对谈中，姚期智表示，“我们不应该假设机器是公正的，机器可能会试图改变人类的行为，更准确来说，可能是机器的所有者想要改变其他人的行为，而这种意图隐藏在某些复杂程序背后。”
Stuart Russell指出，实际上问题在于机器的定位是代表一个人工作还是代表人类工作，这两者定位之间存在区别。
他解释道，机器应设立底线，不能为了追求个人利益而伤害其他人，AI系统应该被设计成代表人类工作，而将其行动范围限于个人关注范围。
同时，Stuart Russell表示，这背后实际上是哲学家们纠结了千年的道德问题，“当决策可以影响实际存在的人数时，你如何做出决策？你希望人口多而不太幸福，还是人口少而很幸福？对于这种问题，我们没有一个好的答案，但是我们需要回答这些问题。”
“在世界上的许多地方，社会存在非常严重的分裂，支持观点的一边有50%的人，另一边又有50%的人，每个人都绝对相信自己是对的，”姚期智表示，“我们希望每个人都有发言权，但同时人类又有许多不同的目标。”
他指出，在考虑如何控制AI的问题前，我们需要先真正解决人类本身的问题。
关于AI技术的阴影面，Stuart Russell指出，“AI系统也许能仅仅通过大规模地与人类对话，就说服数亿人对其他国家形成敌意、说服人们改变观念”。他认为，这个结果就像社交媒体的影响一样，仅仅在简单对话交流中，AI便可能在系统内部目标的影响下将人们推向一个特定的方向。
“而我们甚至没有意识到，这如何影响我们交流公共话语的情绪，影响我们如何看待他人以及如何看待我们的未来”。
针对这些问题，姚期智提出了起草白名单的设想，以白名单列出AI系统中包含了哪些促进人类福祉的应用领域。
“第一次世界大战期间，一些物理学家在谈论核战争的威胁以及它会有多糟糕。他们的观点是，在这项技术发展之前，我们需要有一个治理结构，以确保这项技术只用于人类利益，而不是以武器的形式使用。不幸的是，物理学机构和政府没有听他们的。如果他们倾听的话，世界历史可能会朝着一个非常不同的方向发展。”
Stuart Russell表示，对于AI技术，当前正是一个重要窗口。在AGI被创造之前、在“军备竞赛”开展之前，我们急需形成共识，共同合作搭建一个AI治理结构。
关键词：
