凤凰网科技讯 8月24日,摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》,基于旗舰级AI训推一体智算卡MTT S5000,提出Prefill-Decode异构解耦方案,面向AI Agent、代码生成、超长文档分析等长上下文推理场景,旨在破解推理成本瓶颈。

白皮书指出,大模型输入上下文规模进入百K至1M级别后,Prefill(预填充,计算密集型)与Decode(解码,访存密集型)在同一资源池混跑造成结构性算力错配。解决方案是将二者彻底解耦,分别运行在各自最契合的硬件资源池上,实现单位Token基础设施成本大幅下降。
原标题:欧美同学会海归小镇(长沙·智能制造)揭牌中新社长沙9月12日电 (向一鹏)欧美同学会海归小镇(长沙·智能制造)揭牌仪式12日在长沙市望城区举行。MTT S5000硬件特性与Prefill任务高度契合:提供高稠密算力压缩首字时延,原生支持FP8全精度计算,并全面兼容CUDA及PyTorch、vLLM等主流推理框架。实测数据显示,在64K上下文场景下,单机Prefill吞吐达95,920 tok/s,按智谱API定价测算,满负载下单机月收入可达64.6万元;400K极限长序列场景TPM达2.6MTokens,吞吐平稳可控。摩尔线程表示,大模型产业竞争下半场本质上是推理效率与商业回报的较量,该方案旨在帮助企业在万亿参数与Agent时代降低总拥有成本。完整白皮书已在官网发布。
。全国人大常委会副委员长、欧美同学会(中国留学人员联谊会)会长丁仲礼,湖南省委副书记、省长毛伟明出席仪式并共同为小镇揭牌。欧美同学会海归小镇(长沙·智能制造)致力于打造国家重要先进制造业高地,以高端留学人才集聚为原动力,以智能制造为核心发展方向,着力为海归人才、高层次人才量身打造一座生态、智慧、活力、宜居、宜业的现代化新城。湖南省委常委、长沙市委书记吴桂英指出,长沙深入实施“强省会”战略,做大做强科创平台,全力建设海归小镇。下一步,将以此次海归小镇揭牌为重大契机,进一步加强与欧美同学会的深度对接,着力打造宜居宜业、产城融合、生态友好、合作开放的国际化小镇范本。

二 | 欧美同学会副会长曹卫星表示,长沙是欧美同学会10个海归小镇申建地之一,自2020年11月启动申建工作以来,围绕“智能制造”的产业定位,加强规划设计、完善基础配套、加大政策支持、强化项目导入,已通过两个阶段的专家评审,并按照所提评审建议持续推进各项工作,申建工作取得明显成效。海归小镇围绕“一个小镇一个产业”的基本定位,以地方主导性产业发展为核心,以市场化的运营模式,有相对吸引力的营商环境和支持政策,是由欧美同学会与有关地方政府共同创建的攻克“卡脖子”科技的策源地、“专精特新”企业的孵化地、战略性新兴产业的创新高地。(完)返回搜狐,查看更多责任编辑:
Current article:http://8b4os.mexuanmeixuyaopinzheng.shop/news/20260826_324445.html