谷歌正式发布全新Web端AI推理加速库LiteRT.js。该库采用WebAssembly技术，并深度结合WebGPU与WebNN等硬件加速能力，旨在替代TensorFlow.js所使用的传统JavaScript内核方案，大幅提升浏览器中人工智能与机器学习工作负载的运行速度。
WebAssembly是一种二进制指令格式，能让网页在浏览器中以接近本地代码的速度执行高性能计算。TensorFlow.js则是谷歌此前开发的经典库，支持开发者将基于TensorFlow构建的模型直接部署到Web浏览器中，实现客户端AI功能。此次推出的LiteRT.js正是在这一基础上进行的架构升级。
谷歌在搭载M4 芯片的 2024 款苹果MacBook Pro笔记本上进行了实测，结果显示，相比现有方案，LiteRT.js的推理速度最高提升 3 倍。不过谷歌也坦诚表示，在运行旧硬件或使用不同引擎的浏览器时，实际性能表现可能存在一定差异。
从技术路线来看，谷歌正推动Web端AI推理从纯JavaScript时代迈向WebAssembly加硬件加速的新阶段。当浏览器跑AI模型的速度逐步逼近原生应用水平，无需安装客户端、打开网页即可使用AI功能的体验将更加流畅，这对端侧AI的普及无疑是一针强心剂。
近日，微软推出的最新视觉基础模型Florence-2取得重大突破，借助Transformers.js技术，该模型现已能够在支持WebGPU的浏览器中100%本地运行。这一突破为AI视觉应用带来了革命性的变化，使得强大的视觉识别功能可以直接在用户的浏览器中实现，无需依赖远程服务器。
快手KwaiKAT团队发布旗舰Agentic Coding模型KAT-Coder-Pro V2.5，直击“跑分高落地差”痛点。通过升级长程工程能力、通用Agentic能力及大规模Agentic强化学习体系，推动AI从单点代码补全迈向独立完成软件工程与复杂业务流。关键创新为自研AutoBuilder流水线，将运行仓库环境构建成训练支撑。
AI日报每日聚焦AI热点，呈现创新产品，助开发者把握技术趋势。本期报道：OpenAI升级Chrome扩展，ChatGPT可侧边栏常驻，支持阅读网页、操控标签页、读写本地文件及总结PDF，无需切换应用，仅限Plus与Pro用户使用。
Meta推出旗舰大模型Muse Spark 1.1，主打多代理自动化工作流，现已通过AI聊天服务及API开放公测。该模型由负责制定计划的主代理和按指令执行任务的子代理构成，项目启动时主代理自动生成执行方案。
三星电子正加速布局AI PC芯片，其自研加速处理器代号“GAIA”计划2027年量产。该芯片由系统LSI事业部主导，基于4nm工艺，核心围绕NPU设计，专注生成式AI任务加速。原型已送测联想、惠普等厂商，进入性能验证阶段。
关注 “悠AI” 更多干货技巧行业动态
相关文章
