随着人工智能模型逐渐走向商品化,科技初创公司正加速构建基于大模型的上层软件应用。据TechCrunch报道,一款名为Osaurus的开源、专为苹果生态打造的大模型(LLM)服务器近日备受瞩目。该平台能够让用户在本地和云端大模型之间自由切换,同时将所有核心文件和工具保存在用户自己的硬件设备上。
这款神器的诞生源于开发者对个人隐私和高昂Token费用的深度思考。Osaurus前身是一款AI桌面伴侣,其创始人特伦斯·派(曾任特斯拉与网飞软件工程师)发现,用户在享受AI便利的同时,极度渴望通过本地运行来摆脱对云端算力计费的长期依赖,并保障系统配置及浏览隐私的安全。

作为连接不同AI模型与工作流的控制层,该软件不仅支持本地部署,也能灵活连接OpenAI和Anthropic等云端服务。由于不同模型各有所长,用户可以根据代码编写或文本处理的具体需求,一键无缝切换至最合适的底层模型。
为了彻底解决开源开发工具常见的安全漏洞问题,该系统呈现了极度简单易用的消费者级操作界面。更重要的是,它通过硬件隔离的虚拟沙盒技术来运行所有模型,将AI的访问权限严格限制在安全范围内,从而确保了用户本地计算机和核心数据的绝对安全。
不过,在本地运行顶尖大模型对硬件资源有着极高的要求。目前,系统运行本地常规模型至少需要64GB内存,而若想流畅运行如DeepSeek V4 等超大尺寸模型,创始人则建议配置128GB内存以上的硬件系统。
目前该开源项目上线近一年,全球下载量已突破11. 2 万次。主创团队透露,随着本地AI在单位功耗下展现出的智能水平迎来爆发式指数级增长,未来企业用户甚至可以直接在本地部署一台Mac Studio来替代高昂的云端服务,这有望在保障企业数据不外泄的同时,显著缓解目前全球AI数据中心所面临的严重电力和能源危机。
亚马逊Alexa+推出“Alexa Podcasts”新功能,支持用户通过语音指令按需生成个性化播客。用户只需说出“帮我做个关于XX的播客”,无需上传资料或编写脚本,即可在几分钟内获得一期专属播客节目。该功能即日起面向美国用户开放测试,旨在将任何感兴趣的话题快速转化为播客内容。
蚂蚁集团自研的GPASS技术框架进一步拓展应用边界,基于该技术的城市伴游功能已在乐奇AI眼镜新版本上线。用户开启伴游模式后,可边行走边获取信息,系统根据位置讲解周边景点,并支持即时问答、导航、第一视角内容记录与分享。
Anthropic近期收紧股票场外交易,明确警告未经董事会批准的股权转让无效,并点名多家二级市场与私募平台上的股票交易未经授权,可能无效且不更新股东名册。此举引发投资者紧张,彭博社报道称,这一政策旨在防止早期投资者提前套现,保护公司控制权。
生成式AI领域表面繁荣,实则正经历残酷洗牌。据The Information分析,34家热门初创公司中,32家仅争夺11%的市场份额,近九成市场已被头部玩家瓜分。这并非百花齐放,而是赢家通吃的预演,技术门槛拉平、用户习惯固化、资本偏好加剧了竞争分化。
调查显示,全球34家主流AI公司年收入逼近800亿美元,半年增长112%。其中,OpenAI与Anthropic两家头部企业占据约89%的年化营收,凸显AI市场收入向头部高度集中,算力与资本盛宴下双雄格局明显。

关注 “悠AI” 更多干货技巧行业动态