这一思路受到人类解题过程启发,人类通常不会详细阐述每一个细节,只是简单几下关键的中间结果,作为草稿来辅助思考。
此外,草稿链方法简单且易于实现,不需要修改模型、微调或强化学习,只需更新提示词中的示例即可,相关代码和数据已在GitHub上开源。
研究团队认为,与另一种降低延迟和计算成本的方法“在连续潜空间推理”相比,草稿链保留了可解释性,且可以应用于闭源的黑盒模型。
第三方分析测算,对于每个月处理100万个推理请求的企业, 可以将成本从思维链的3800美元降低到760美元,每月节省超过3000美元。
算数推理任务选择GSM8k数据集,从准确率看,标准提示下GPT-4o和Claude 3.5 Sonnet的准确率分别仅53.3%和64.6%,思维链使两者均超95%,草稿链也达到91%左右。
在token使用上,思维链生成约200个token/响应,草稿链仅约40个,减少约80%。
常识推理选择BIG-bench 的日期理解和运动理解任务也取得了相似的结果,特别值得注意的是Claude 3.5 Sonnet在草稿链下准确率还有所上升。
符号推理选择抛硬币任务,由于原数据集未公开,作者合成了250个示例的测试集。草稿链在保持100%准确率的情况下大幅减少了推理token和延迟。火星电竞下载
此外,在参数量小于30亿的小模型上,虽然草稿链仍能有效减少每个回答所需的token数并提高准确率,但与思维链相比,性能差距更大。
研究团队推测,可能是由于训练数据中缺乏草稿链风格的推理模式,在不提供few-shot样本指导的情况下,很难生成简洁而有帮助的”草稿”。
一群孩子更是跑来跑去,嗷嗷的叫着,这可是祭灵的血肉,以前想都不敢想,今日却要大快朵颐了。
03月07日,(奋斗者的新时代)中国青年建设者为改善斯里兰卡社会经济发展奋斗海外,
奔行出去八九里路,忽然一道劲风扑向石林虎的咽喉,冷幽幽的寒光像是来自地府,慑人心魄。
一声令人头皮发毛叫声传来,那只数米长的巨大山猫,藏身在一块地势较高的山石后,猛的跃起,从后面扑杀向青鳞鹰。在它的头上,有一根黑色的大犄角,笔直的刺向青鳞鹰的后脑,而一双锋锐的大爪子探出半米多长,直接撕向其后背。
这群青壮年男子如兽群过境,凶猛而气势强大,隔着很远就开始放箭,粗大的箭杆跟标枪似的,而且都是铁箭,威力惊人!
小不点摸了摸,而后直接带在了自己的手腕上。见到这一幕,狈村的人全都惊怒不已,这可是一族的至宝,就这么被这个小不点给黑起来了。
随后的几天里,小不点又变成了野人,不得不击杀凶禽猛兽,在山中穿行,火星电竞下载他浑身是血迹,身上的兽皮衣破破烂烂,走的并不快,因为独角兽还没有痊愈,行程被耽搁了下来。
新闻信息服务许可证音像制品出版许可证广播电视节目制作经营许可证网络视听许可证网络文化经营许可证
本文为原创发表,并经本网编辑。转载此文章须经作者同意,并请附上出处及本页链接。