四柱配对面壁小钢炮4.0发布:性能比肩 Qwen-3-8B,极限220倍提速
新(🆓)浪科技讯 6月10日下午消息,近日,面壁智能第四代“面壁小钢炮” MiniCPM4.0 端侧模型(代号“前进四”)发布。据悉,第四代小钢炮拥有 8B 、0.5B两种参数规模,实现了同级最佳的模型性能。可让长(🕔)文本、深思考在端侧真正跑起来,实现220倍极限加速。
四柱配对 其中,MiniCPM 4.0-8B 模型为稀疏注意力模型,在MMLU、CEval、MATH500、HumanEval等基准测试中,以仅22%的训练开(🤪)销,性能比肩 Qwen-3-8B、超越Gemma-3-12B。MiniCPM 4.0-0.5B在性能上,也较更大的(🥡)Qwen-3-0.6B、Llama 3.2实现仅2.7%的(⛓)训练开销,一半参数性能翻倍,并实现了最快 600 Token/s的极速推理速度。
相较于Qwen-3-8B、Llama-3-8B、GLM-4-9B等同等参数规模端侧模型,实现了长文本推理(😏)速度5倍常规加速以及最高 220倍加速(显存受限极限场景下测出),让端侧模型长文本推理“快如闪电”。面壁智能联合创始人兼首席科学家刘知远在与新浪科技沟通中表示,“最高220倍(⛩)加(🥨)速,其实是建立在我们模(⛑)型(❓)架构、数据治理、软硬件结合、训练等方面全栈创新优化成果之上的。”
四柱配对 刘知远指出,220倍的加速看上去比较夸张,但本(🦖)身其实存在一个特殊性——由于MiniCPM4.0 在处理更长序列的数据时,可以更好地去处理Transformer架构带来的内存爆炸问题,避免了长序列数据处理带来的内存占用倍增,而同尺寸的Qwen-3-8B、Llama-3-8B等模型并(♟)未就(🛷)此进行优化,因此MiniCPM4.0有了突出的表现。
据悉,MiniCPM 4.0 模型采用的InfLLMv2稀疏注意力架构改变了传统 Transformer 模型的相(🗓)关性计算方式,有效摆脱了逐字重复计算的低效,将稀疏度从行业普遍的40%-50%,降至极致的5%,注意力层仅需1/10的计算量即可完成长文本计算。且对算子底层重写,进一步加速提升,并使得对文本相关性精准性大大提(🚬)升。
四柱(🌁)配对(🏼) 值得一提的(♒)是,DeepSeek 使用的长文本处理架构NSA(Native Sparse Attention)也引用并采用了与InfLLM相同的分块注意力计算思路,但其对于短文本的推理较慢,InfLLMv2则很好地解决了NSA在短文本推理上的短板。
四柱配对 在缓存消耗上,MiniCPM 4.0-8B在 128K 长文本场景下相较于Qwen3-8B仅需 1/4 的缓存存储空间。在速度、性能飙升的同时,又做到了模型极致压缩,让端侧算力不再有压(🔒)力。
据悉,基于 8B 版本,面壁智能已微调出两个特定能力模型,分别可以用作 MCP Client 和纯端侧性能比肩Deep Research的研究报告神器MiniCPM4-Surve。截至目前,面壁小钢炮 MiniCPM 系列全平台下载量累计破1000万。(文猛)
相关链接:
- 当“清瀑飞流”遇上“彩虹通天” 黄河壶口瀑布现别样美景
- 国台办:劳民伤财、卖台贴靠的盘算必遭反对
- (八闽千姿)闽南百年东美糕:游子的甜蜜“乡愁”
- 王毅会见所罗门群岛外长阿格瓦卡
- 2025 款外星人星舰 16X 新增酷睿 Ultra 7 255HX + RTX 5060 版本,11499 元
- 鸿蒙智行智界汽车闭环实体钥匙将采取“送”“返”策略,不晚于本月实行
- 上海多语种气象灾害预警服务上线,涵盖14种语言
- 2025年北京地区毕业生就业服务月——北京联合大学专场招聘会举办
- 科创板拉升科创板50ETF588080科创综指ETF易方达589800等产品受市场关注
- 华为公布“一底双长焦”专利,Pura80 Ultra 手机有望搭载
相关新闻
- 四柱配对美银:标普500高估值具有合理性 三大板块最具投资价值详细阅读
标普 500 指数在美银所追踪的所有估值指标中均被认定为价格过高。但美银股票和量化策略师Savita Subramanian认为,这是当前这一高质量、...
2025-06-1611
- 四柱配对花旗:大升泡泡玛特目标价至308港元 重申“买入”评级详细阅读
花旗发布研报称,泡泡玛特(09992)具标志性的IP在全球的知名度不断提升,且成功推出新产品。该行调升集团2025至27年的盈测38至49%,料...
2025-06-1680
- 四柱配对反对“舌尖上的浪费” 新版餐饮业新规今起实施详细阅读
商务部、国家发展改革委日前联合发布的《餐饮业促进和经营管理办法》(以下称《办法》)今天起正式实施。本次《办法》修订大幅增加了餐饮业促进内容,对完善...
2025-06-1699
- 四柱配对心动公司现涨超7% 《伊瑟》国际服表现亮眼有望对下半年业绩贡献增量详细阅读
心动公司(02400)早盘股价上涨7.62%,现报45.90港元,成交额9902.88万港元。 《伊瑟》国际服版本于6月5日上线海外欧美及东...
2025-06-1699
- 四柱配对热门概念大爆发,金融科技开盘猛冲,159851放量涨超3%!天阳科技20CM涨停,东信和平封板详细阅读
16日早盘,热门概念大爆发,金融科技开盘猛冲,成份股掀涨停潮!截至发稿,天阳科技20CM涨停,东信和平、恒宝股份封板,飞天诚信、四方精创大涨超13...
2025-06-16107
- 四柱配对金价接近两个月高点 中东冲突升级促使投资者避险详细阅读
金价周一上涨,接近两个月高点,因以色列和伊朗之间的冲突加剧,引发了对更广泛地区冲突的担忧,投资者纷纷寻求避险资产。现货黄金上涨0.4%,至每盎司3...
2025-06-16122
- 四柱配对报告披露率不足30% 评级整体处于中低水平 小家电上市公司ESG征途为何“掉队”详细阅读
登录新浪财经APP 搜索【信披】查看更多考评等级 电饭锅、净水器、扫地机器人、智能音箱等各类不同功能、不同样式的小家电产品正快速走入千家万户。随着...
2025-06-16120
- 四柱配对新疆公安机关启动“阳光下的守护”法治公安主题宣传活动详细阅读
中新网乌鲁木齐6月13日电 (陶拴科)13日,新疆公安机关“阳光下的守护”法治公安主题宣传活动启动仪式在昌吉市公安局举行,旨在推进法治公安建设,强...
2025-06-16122