中国工程院院士：“驯服”机器人有三个路径

　　中新社北京5月17日电 (记者 刘育英)人形机器人的发展正在提速%*%%*。如何防范机器人失控#%，中国工程院院士谭建荣17日在一个论坛上表示*#，“驯服”机器人有三个路径@@#@。

　　在当日举行的2024搜狐科技年度论坛上%*#%，谭建荣表示*@@@，有学者预言#@*@，生成式人工智能、元宇宙数字空间和拟人化机器人三项技术交叉融合汇聚@##%%，将产生真正的颠覆性变化*%@。

　　谭建荣认为@#%，这一预言并非危言耸听*@*，人类发展就是通过科学技术进步产生的%#*%*。

　　对于机器人可能存在的风险@#*，谭建荣表示@@@@，人工智能所有的安全风险在机器人当中都存在%*%@%，机器人一旦控制失效%@*@@，出现故障将是灾难性的@@%。但人类可以“驯服”机器人@@。机器人学界有三项原则#@@，一是机器人不可以伤害人*#@##，二是机器人必须服从人*#，三是在第一、二点不矛盾的前提下机器人可以自我保护%*#。

　　谭建荣介绍*@#%，“驯服”机器人有三个路径*@%，一是通过安全规范和法规进行人工智能风险防范；二是通过大样本训练使得机器人服从人的指挥；三是划出一些安全警戒线@*@*#，防范机器人“做坏事儿”*@%*@。

　　谭建荣认为%@，目前机器人和人工智能都还是辅助工具@@%#。相信控制机器人的程序算法还在人的控制之中%@%。首先要坚守法律规定、技术规范、技术标准#@@@*。其次***#，要将伦理、规范、技术融合起来%%%，使得机器人造福于人类**。(完)