苹果正与硅谷首创公司PrismML睁开早期洽谈，，，，，后者声称可将大型AI模子压缩至能在iPhone受骗地运行。。。若手艺验证通过，，，，，此举将强化苹果的隐私主张，，，，，并为其迟滞已久的Siri升级提供要害支持。。。 此次新闻宣布恰在苹果推出iOS 27公测版的越日——这是苹果对Siri举行大幅改版后向公众开放的首次普遍测试，，，，，旨在与OpenAI和Anthropic的AI助手睁开竞争。。。 关于苹果而言，，，，，将更多AI运算留在装备外地，，，，，意味着更低的响应延迟、更少的云盘算本钱，，，，，以及无需联网即可使用部分功效的能力——这些与其焦点隐私定位高度契合。。。 "云端与装备端AI的组合，，，，，能够提供更完整、更高效、更注重隐私的AI体验——重大使命交由云端处理，，，，，敏感、时延敏感及隐私相关的使命则在装备端执行。。。" PrismML由加州理工学院研究团队孵化而来，，，，，背后有Khosla Ventures支持。。。该公司周二果真宣布了阿里巴巴开源模子Qwen的压缩版本，，，，，将约54GB的原始模子压缩至缺乏4GB，，，，，使所有270亿参数能够在iPhone 15或更新机型上直接运行。。。 PrismML CEO Babak Hassibi向CNBC体现，，，，，公司通过大幅简化模子内部信息的存储方式实现压缩——将每个数值从16位降至仅1至3个可能值，，，，，从而显著削减存储和运行模子所需的内存。。。 据该公司称，，，，，压缩后的模子内存占用镌汰10至15倍，，，，，响应速率提升6至8倍，，，，，能耗降低3至6倍。。。Hassibi坦承保存一定取舍：模子整体性能通常下降数个百分点，，，，，事实性影象的衰减早于推理、数学和编程等能力。。。 现在，，，，，PrismML免费宣布了两个压缩版本，，，，，适配iPhone、MacBook及搭载英伟达芯片的PC。。。公司体现，，，，，谷歌的开源模子Gemma是下一个压缩目的，，，，，以后还将处理需要数据中心硬件才华运行的更大规模前沿模子。。。 苹果现在已在装备端外地运行部分AI功效，，，，，包括翻译、部分摘要天生及与个人信息亲近相关的特征，，，，，较重大的请求则路由至其私有云基础设施或外部模子。。。 Asymco首创人Horace Dediu体现，，，，，苹果的目的很可能是将绝大大都日常Siri交互保保存装备端，，，，，仅将最高需求的使命交付云端处理。。。外地处理意味着更低延迟、更强隐私保；；；；，，，，，以及潜在的更低授权和云盘算本钱。。。 Creative Strategies总裁兼首席剖析师Carolina Milanesi指出，，，，，更小的模子可让苹果将更多高需求功效移至iPhone外地，，，，，包括盘算摄影、视频天生，，，，，以及依赖康健、药物等敏感数据的康健与健身工具。。。"装备端能做的越多越好，，，，，"她说。。。 Counterpoint Research研究总监Tarun Pathak体现，，，，，模子在长提醒下的体现、多使命处理时的电池消耗，，，，，以及跨数百万次请求和数千种装备组合的可靠性，，，，，将是要害考量。。。他说： IDC客户端处理器研究认真人Phil Solis则指出，，，，，功耗可能是最大的未知变量。。。一个足够强盛、被频仍使用甚至在后台一连运行以执行智能体使命的模子，，，，，即便内存占用较低，，，，，也可能敌手机电量造成显著消耗。。。 摩根士丹利预计，，，，，苹果在2027财年的每比特动态随机存取内存平均本钱可能同比上涨约190%，，，，，NAND存储本钱上涨约180%。。。该机构预计苹果将把iPhone 18一律起售机型的价钱提高约200美元以保；；；；だ舐。。。 PrismML体现，，，，，其压缩方案可使原本需要8块GPU运行的云端模子缩减至仅需1块，，，，，并让原本依赖服务器的模子迁徙至手机和条记本电脑。。。这可能降低简单AI使命所需的内存或算力，，，，，但并不必定导致整体芯片需求下滑。。。 D.A. Davidson剖析师Gil Luria体现，，，，，模子瘦身并不会消除对处理器或内存的需求，，，，，只是将更多芯片从数据中心转移至手机等终端装备。。。"你仍然需要GPU，，，，，仍然需要内存，，，，，"他说。。。 他还增补，，，，，在简单装备上运行AI现实上可能比共享数据中心基础设施效率更低，，，，，由于手机芯片大大都时间处于闲置状态。。。别的，，，，，效率突破往往催生更多使用需求，，，，，而非带来支出下降。。。 市场对"AI所需内存少于预期"的信号向来反映迅速。。。今年3月，，，，，谷歌宣布TurboQuant论文——涉及在不损害模子性能的条件下削减内存使用——美光科技股价随即大幅下跌，，，，，只管以后有所回升。。。