首页 > 科技快讯 > 苹果设备端AI新方向:270亿参数模型瞄准iPhone

苹果设备端AI新方向:270亿参数模型瞄准iPhone

(来源:IT之家)

IT之家 7 月 10 日消息,科技媒体 The Information 昨日(7 月 9 日)发布博文,报道称苹果公司正接洽 PrismML 初创公司,评估在 iPhone 上直接运行更大规模 AI 模型的可行性。

IT之家查询公开资料,PrismML 是加州理工衍生出来的 AI 初创公司,核心突破为原生 1-bit 模型压缩技术,模型体积可压缩至全精度版本的 1/14 左右,内存占用降低超 90%。

原生 1-bit 模型压缩技术权重仅用 {-1, +1} 表示,配合分组缩放因子,非传统量化,声称无“高精度逃生通道”,宣称在保持接近 FP16 模型精度的同时,推理速度提升最高 8 倍,能耗降低 75%-80%。

报道指出 PrismML 公司精简阿里巴巴开源大型语言模型 Qwen 3.6(拥有 27B 参数),并成功在 iPhone 17 Pro 上完整运行,苹果看中该公司的量化能力,希望进一步增强本地 AI 模型的推理性能。

相关推荐

苹果设备端AI新方向:270亿参数模型瞄准iPhone
苹果拆解谷歌Gemini模型,打造iPhone端侧AI
引入Gemini、接入MCP:iPhone卖爆不靠AI,苹果为何还要重金「补课」?
苹果AI“百亿补贴”来了:免费开放端侧模型
苹果放大招:新设备端模型超过GPT-4,有望拯救Siri
AI iPhone怎么做?苹果给出了一些答案
苹果最新模型,5年前的iPhone能跑
苹果取得技术突破:可在 iPhone 上运行大型语言模型
端侧大模型浪潮奔涌而至:态势、影响与建议
字节示“AI”苹果

网址: 苹果设备端AI新方向:270亿参数模型瞄准iPhone https://m.xishuta.cn/newsview151485.html

所属分类:行业热点