关注热点
聚焦行业峰会

AI摆设成本无望降至5万元以内 联想发布推理加快
来源:安徽安阳祥瑞交通应用技术股份有限公司 时间:2025-06-30 23:23

  5月7日,联想立异科技大会(Tech World)正在上海举办。会上,联想展现了取大学及无问芯穹结合研发的“联想推理加快引擎”,这是专为高效AI PC推理设想的软硬件协同优化平台,可让通俗PC当地推理能力媲美OpenAI的o1-mini云端模子。现场还展现了搭载该引擎的台式电脑,制价约4万元,估计下半年上市,本年岁首年月,AI一体机批量,让企业特别是中小型企业摆设AI和大模子的成本从动辄百万元下探到了20万元摆布。几个月后,这一成本无望进一步下探至数万元级别。5月7日,以“让AI成为创重生产力”为从题的联想立异科技大会(Tech World)正在上海举办,《每日经济旧事》记者现场参会。会上,联想集团展现了其正在端侧算力方面的最新“联想推理加快引擎”。《每日经济旧事》记者正在发布会现场领会到,这款由联想、大学及无问芯穹结合研发的推理引擎是专为高效AI PC推理而设想的软硬件协同优化平台,可让一台通俗PC(笔记本电脑)的当地推理能力媲美OpenAI客岁发布的o1-mini云端模子。从实现逻辑上看,“联想推理加快引擎”次要通过高机能并行解码、算子融合优化以及异构计较手艺,需取大模子推理芯片相连系,从而实现多种使用场景下推理速度的提拔,同时降低功耗和内存占用。联想集团董事长兼CEO杨元庆正在发布会现场称,消费者将期近将发布的下一代AI PC上体验到“联想推理加快引擎”。“今天跟着AI需求的迸发式增加,端侧计较和推理能力的提拔将仍然连结指数级增加的速度,以至更快。将来12个月,端侧AI分析能力将实现至多三倍的提拔,这也许不是胡想!”杨元庆称。《每日经济旧事》记者还正在展台现场发觉,联想集团此次还展现了搭载上述加快引擎的台式电脑产物。据展台现场工做人员引见,该款产物内置了1张中阶显卡、1张显存扩容卡以及“联想推理加快引擎”,全体制价约正在4万元摆布,可实现32B大模子的当地锻炼,估计本年下半年上市,无望进一步降低金融、教育、法令等范畴的企业用户特别是中小企业用户私有化摆设大模子的成本。据上述工做人员引见,市道上的32B狂言语模子保守锻炼方案的全体制价很高,如国内某厂商的成本约正在200万元摆布,起码需要8张英伟达显卡,对中小企业来说摆设成本过高。正在联想此次展现的电脑上,通过内置的“AI Studio”软件平台,用户可将本人的数据库及个性化消息通过自选大模子(32B模子)进行锻炼,模子当地锻炼成本可下降98%。如需转载请取《每日经济旧事》联系。未经《每日经济旧事》授权,严禁转载或镜像,违者必究。出格提示:若是我们利用了您的图片,请做者取本坐联系稿酬。如您不单愿做品呈现正在本坐,可联系我们要求撤下您的做品。回应:退休金无需缴个税,小我养老金领取时缴3%个税;伊朗总统:12天和平竣事,将来5至10年人机协做、数字孪生将鞭策制制业成长欧盟预备对美采纳更多关税反制办法;伊朗总统:12天和平竣事;中概指数涨超3%,国际油价大跌5%;促消费!央行等六部分沉磅发文丨每经早参合计500辆!薄暮的小米工场边,YU7展车正运往全国!雷军再谈价钱:大师必然会感觉是合理的。

 

 

近期热点视频

0551-65331919