王培松解读大模型高效计算,软硬件协同是端侧大模型落地的核心支撑

中科院自动化所副研究员王培松在北京青年科技沙龙上做主题分享,围绕大模型高效计算拆解端侧部署的卡点,他认为单纯靠软件压缩或者单独升级