点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:让小模型干大活,端侧首个支持百万上下文模型开源
首页> 数字化频道> 要闻 > 正文

让小模型干大活,端侧首个支持百万上下文模型开源

来源:光明网2026-09-02 10:31

当前,大模型正在加速进入手机、PC、汽车座舱、智能家居和机器人等终端设备。大家对端侧模型的期待,早已不是“断网能聊几句”,而是:一份几十页的产品手册能不能一次读完并提炼重点?一张表格、一项指令、一个多步骤任务,能不能直接完成?

科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。星火X2.5给出了答案:作为端侧模型中首个原生支持最长100万Token上下文的模型,星火X2.5-4B和1.7B把百万级信息处理能力带到本地设备。两款模型采用混合注意力架构,并围绕智能体、代码、数学和指令遵循等核心能力进行优化。综合实测,相关能力领先业界同尺寸一流开源模型。

从“能够在设备上对话”,到“能够在本地完成任务”,星火X2.5端侧模型正在拓展中小底座的能力和应用边界。

支持百万级上下文,读懂完整信息

真实工作场景里,用户交给模型的往往不是一段提问,而可能是一份售后手册、一套会议材料、一批项目文档,甚至是完整代码仓库。

过去,端侧模型处理长内容,常常要把文档切成几段分别问,容易忘记前情、遗漏信息、已读乱回。星火X2.5-4B和1.7B原生支持最长100万Token上下文窗口,使用覆盖长篇文档、技术资料等场景的千亿Token级高质量数据开展训练,可以在一次任务中接收和理解更大规模的信息。

百万级上下文并非单纯为了“塞下更多字”。它真正解决的是:让模型基于完整信息,在连续交互中持续理解和处理复杂问题。

不止回答问题,还是工作/生活助手

长上下文解决的是“信息能不能看全”,智能体和工具调用能力解决的,则是“看完之后能不能动手”。

依托科大讯飞在AI技术研发、智能办公和智能硬件等领域的积累,星火X2.5端侧模型可面向个人办公、代码开发、智能硬件和机器人等场景,提供本地化智能能力。

在个人办公场景中,星火X2.5端侧模型可覆盖数据处理、文档生成和文档翻译等环节。

在代码开发场景中,星火X2.5-4B在算法实现、代码补全与生成等任务中,可对标参数规模大2至3倍的云端模型。代码编写、脚本生成和调试辅助工作,可以不出本地直接完成。

在智能硬件场景中,端侧模型比拼的不只是“听没听懂”,更是“能不能又快又准地执行”。以智能家居为例,在Domux智能家居测试集上,星火X2.5-1.7B控制指令端到端执行正确率达到90.3%,平均响应时间仅为0.85秒,兼顾准确度与速度。

机器人同样是端侧智能的重要落点。星火X2.5-4B和1.7B同样适用于机器人等需要持续感知和连续执行的场景。模型可以部署在机器人本体或边缘设备中,支持操作控制、目标追踪、导航决策等任务,减少对云端连接和固定预设程序的依赖。

扎根全国产算力,构建开放端侧生态

大模型进入更多行业和智能终端,既需要模型能力持续提升,也需要自主可控的算力支撑与灵活易用的部署条件。

星火X2.5-4B和1.7B基于全国产算力平台完成全流程训练,使用约20万亿Token多样化数据进行预训练,并通过高质量监督微调和强化学习训练,持续提升模型在推理、代码、智能体和指令遵循等任务中的表现。全国产算力训练,为端侧智能构建了自主、可持续演进的技术底座。

当百万级上下文进入端侧,模型开始能够在更贴近用户的设备上,看得更全、记得更久、做得更多。(刘吉东)

[ 责编:李政葳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平出席“上海合作组织+”会议并发表重要讲话

  • 习近平出席上海合作组织成员国元首理事会第二十六次会议并发表重要讲话

独家策划

推荐阅读
各地中小学幼儿园开展多元主题开学第一课,涵盖科技、安全、国防等内容,助力学子开启新学期。
2026-09-01 14:32
甘肃兰州新区万寿菊花海盛放,完善配套发展多元文旅业态,依托农旅融合助力乡村振兴。
2026-09-01 14:23
山西吉县举办人祖山祭祀大典,开展传统仪式与民俗展演,传承弘扬根祖文化。
2026-09-01 14:17
江苏泗洪洪泽湖湿地生态向好,东方白鹳成群栖息,展现人与自然和谐共生的景象。
2026-09-01 14:11
重庆市黔江区小南海镇发展高粱基地,以农旅融合促增收,村民抢抓晴好天气晾晒成熟高粱。
2026-09-01 14:07