关注热点
聚焦行业峰会

联想发布端侧AI新手艺:PC当地推理能力曲逼云端
来源:安徽安阳祥瑞交通应用技术股份有限公司 时间:2025-05-11 16:35

  【CNMO科技动静】5月7日,联想立异科技大会正式召开,大会以“让AI成为创重生产力”为从题,环绕夹杂式人工智能,从小我到企业,全方位呈现了联想的立异手艺。会上,联想初次提出“超等智能体”概念,并明白其三大焦点功能,即取交互、认知取决策、自从取演进。同时,值得关心的是,联想展现了正在端侧算力范畴的最新冲破——“联想推理加快引擎”。该引擎由联想、是专为高效AI PC推理打制的软硬件协同优化平台。通过它,通俗PC的当地推理能力可媲美OpenAI客岁发布的o1-mini云端模子。“联想推理加快引擎”使用高机能并行解码、算子融合优化及异构计较手艺,正在多种使用场景下大幅提拔推理速度,同时显著降低功耗和内存占用。取大模子推理芯片连系后,硬件加快取软件优化无缝协做,机能提拔构成叠加效应。为曲不雅展示该引擎实力,联想立异科技大会现场进行了“竞速赛”。三台设置装备摆设不异的AI PC同时解答2024年高考数学压轴题,初代大模子耗时27秒且谜底0分,二代大模子耗时26秒获满分,而搭载“联想推理加快引擎”的二代大模子仅耗时13秒便获满分。这表白,模子能力提拔取“联想推理加快引擎”的算力优化,使设备预填充更快、解码速度更高、推理时间更短,内存占用和能耗更低,AI能力大幅提拔。前往搜狐,查看更多。

 

 

近期热点视频

0551-65331919