汇通财经网

我国科学家提出高效推理策略 可避免大模型“过度思考”

  随着人工智能大模型的不断发展,如何让其在“难”的问题上深入思考,而不是对所有问题“想个不停”?记者5月29日从中国科学院自动化研究所获悉,该所联合鹏城实验室提出了一种高效推理策略AutoThink,可让大模型实现自主切换思考模式,避免“过度思考”。

我国科学家提出高效推理策略 可避免大模型“过度思考”
图片来源于网络,如有侵权,请联系删除

  “当前,越来越多的大模型开始具备‘深度思考能力’。”中国科学院自动化研究所研究员张启超说,模型在回答问题之前要先生成一整段包含反复自我反思、自我验证的推理过程,然后再给出答案。

  张启超表示,这一思考模式显著提升了大模型解决复杂问题的能力,但同时也带来了“过度思考”的问题,即在处理简单任务时也会生成冗余的思考过程。

  “比如使用者对大模型提问‘2+3等于几’,大模型可能会从自然数定义讲起,列出加法交换律,甚至反复确认,最后才输出答案是5。”张启超说,这种不必要的“过度思考”现象在推理模型中广泛存在。

  针对这一问题,AutoThink可赋予推理模型根据题目难度自主切换思考模式的能力,即通过所设计的提示词和多阶段强化学习,引导其自主决定是否进行深度思考。

  张启超介绍,AutoThink提供了一种简单而有效的推理新范式——通过省略号提示配合三阶段强化学习,引导大模型不再“逢题必深思熟虑”,而是根据问题难度自主决定“是否思考”“思考多少”。在多个数学数据集上,AutoThink实现了准确率与效率平衡,既提升性能又节省算力,展示出较强的适应性和实用性。

  据悉,AutoThink已集成于一站式智能科研平台ScienceOne,并将用于训练ScienceOne的基座大模型S1-Base。研发团队表示,让大模型“更聪明地思考、更简洁地表达”,是未来科学基础大模型演进的重要方向。(记者宋晨)

【纠错】 【责任编辑:艾莲】
    阅读下一篇:
      深度观察
      • 新华全媒头条丨浙江推动人工智能健康有序发展观察
      • 财经观察丨落地逾7个月 支持资本市场2项新工具有何进展
      • 文化新观察丨优质文化资源点亮百姓美好生活
      • 新华全媒+丨三夏麦收:弱筋小麦如何变得“强”起来
      • 新华视点丨博物馆里探宝 典藏深处寻根
      • 行走中国丨“世界第一长”的大运河旅游热升温
      • 节令之美丨端午节蕴含怎样的“数字密码”?
      • 何以中国丨龙舟文化焕新彩
      • 福建文物地标丨莆田木兰陂

              推荐阅读:

              人保车险|车损险保障范围如何?

              《中国商业医疗险发展蓝皮书》:一半保民会为家人投保,年轻保民满意度超70%

              快手发起“e路护苗绿色成长”主题活动 大咖沙龙共话未成年人保护议题

              沉迷“抽卡”亟须纠偏,也应看到新兴行业的正向价值

              网络主播:从“乱花迷眼”走向“专业与责任”

              带动效应持续显现 新三板公司在北交所上市意愿强劲

              保险为自动驾驶系上“安全带”

              高通推出全新骁龙座舱至尊版平台和Snapdragon Ride至尊版平台

              高德企业用车香港上线,率先实现内地与香港全覆盖

              2024年10月23日今日现货乙二醇最新价格多少钱一吨

              相关推荐