11月5日，第三届全国大模型与决策智能大会在广州召开。本届主题为“从生成到行动，迈向自主决策新范式”，与会专家就公众关心的AI安全、验证码识别、机器人做家务、AI失控风险等话题接受了羊城晚报采访。

机器人做家务为何比跑马拉松还难？

中国科学院计算技术研究所所长、党委书记陈熙霖出席大会并作题为《从语言到行为——具身智能的分层决策》的报告。陈熙霖在大会报告中指出，春晚上跳舞跳得很逼真的机器人，上台下台实际上是被抱上抱下的；有时机器人在前面走，后面有人拿着遥控器跟着。

刘玉超也表示，在可重复的工业生产线上自动化没问题，但面对叠衣服、擦桌子等不确定性环境和对象，材质、硬度、重量都会影响操作力度，“真正让机器人像人一样在物理世界去做这些工作，技术上还是有很大的难度”，目前特定场景已有可展示成果，但推广到各种复杂家庭场景仍有难度。所以能看到机器人马拉松比赛，却还没有做家务比赛。从具身角度看，国内外技术水平“差不了太多”，都在一个发展水平上。

下一步突破在哪？专家：让机器人在物理世界自主获取经验

对于普通市民感觉机器人交互感“比较一般”、离电影里的未来感还有距离，专家表示，聊天交互感受已经做得很好，但人类更关注物理空间交互感受，杯子掉地上会碎，人感受到材质、重量、碎声和碎片四溅，这些具身体验目前人工智能还有很大差距。

刘玉超认为，当前人工智能发展面临训练和推理成本约束、安全性约束，而最重要的约束是具身物理经验的获取——机器人能够自主在物理世界交互中获取经验，并通过这些经验不断迭代学习进化。专家以人类小孩玩玩具、犯错、感受物理世界为例指出，如果机器能自主实现物理世界经验的交互获取和自我学习成长能力，这将是下一个技术突破点。

陈熙霖也在报告中表示，具身智能的主动连续学习很重要，机器人要有好奇心，“没活的时候在家里四处溜达，到处去观察，然后把东西都记住”，在探索中学习。

AI已能识别验证码，传统验证安全受挑战

针对“现在AI能够识别验证码了吗”的问题，中国指挥与控制学会秘书长刘玉超明确表示“现在是可以的”，AI图像识别发展很快，验证码中的图像、扭曲数字以及二维码里的部分图片都可以识别出来。专家表示，原来设置的对比图形等安全密码，现在的人工智能技术也可能将其攻破，安全问题“是一个很严峻的问题”。对于未来安全验证方式，专家提出可更多采用生物属性识别，同时从防御角度利用AI完善安全防御。

AI会不会失控？不要使用来源不明的软件

对于网上流传的国外技术人员和科学家发出的AI安全警告，刘玉超未直接判断真假，而是从技术工程角度提出安全治理手段：一是门控，对系统或产品的功能边界作明确功能定义；二是审计，运行过程全程可追溯，出问题能快速追溯；三是回滚，类似机器停机后一键重启，恢复到前面好的状态；四是沙盒，对不可测产品先在沙盒中做可靠性、安全性测试，再放到整个系统运行。

他同时提醒，现在智能体开发成本下降，个人可利用开源工具平台开发软件智能体，但这些开发并没有经过上述安全治理工作，放到网上后可能出现失控或带来各种安全问题。公众一方面要对人工智能技术逻辑和发展有清楚认识，另一方面要加强个人隐私和数据信息保密理念，谨慎使用来源不明的工具软件。大会还首次系统探讨AI衍生安全，提出防范AI失控的“四不原则”。

从“能生成”到“能行动”：大会确立自主决策新方向

刘玉超介绍，三届大会完整呈现了国内大模型与决策智能领域从融合、落地到范式升级的路径：第一届重点解决“技术割裂”问题，推动大模型技术与传统决策智能交叉融合；第二届聚焦智能体与人机协同，推动大模型从理论研究走向行业应用落地；本届则针对“能生成、难推理、无决策不能自主行动”的产业瓶颈，推动人工智能从被动式内容生成升级为主动式感知、推理、规划、决策与执行的闭环智能。

本届大会8个主论坛报告覆盖安全治理、底层算力、基础算法、具身智能、科学智能、作战智能、社会模拟、跨域指控，11个分论坛覆盖基础理论、类脑智能、智能感知、大小模型协同、地球建模、指挥决策、群体智能、生成艺术等方向，并设置青年论坛和超级智能圆桌。

文、图|记者 王倩
视频|记者 王倩 实习生 杨羿轩