国外科技媒体 MacRumors 最新报道,苹果近日发布了一篇论文,介绍了一种创新的闪存利用技术,而通过此技术可以解决「在手机内存上运行大模型」的难题。
在 ChatGPT 发布之后,AI 大模型便迅速成了全网热门话题。但因为算力需求庞大,对带宽延迟和内存闪存要求过高,所以目前出现的大模型基本都是在一些服务器上运行的,普通手机根本无法满足其运行需求。
为了突破这一瓶颈,苹果研究人员将目光转移到了闪存上,并成功在内存有限的移动设备上部署了 LLM(大型语言模型)。这里主要是利用了 Windowing 和 Row- Column Bundling 两项关键技术,实现了最小化数据传输和最大化闪存吞吐量。
其中,Windowing(窗口化)技术,是指重复使用此前激活过的神经元,以此减少频繁读取内存的需要。而 Row- Column Bundling(行列捆绑)技术,则是指针对闪存的数据特征,定制访问数据块的顺序,从而增加从闪存读取的数据块大小。
论文指出,这一突破对于在资源有限的环境中部署高级 LLM 尤其重要,扩大了其适用性和可访问性。而对于用户来说,则可能意味着更复杂的人工智能助手和聊天机器人很快就能在 iPhone、iPad 和其他移动设备上流畅运行了。
值得一提的是,据天风国际分析师郭明錤此前发文称,明年的 iPhone 16 系列可能就会推出 AI 相关的创新功能。新功能预计和 Siri 相关,因为苹果在今年第三季度重组了 Siri 团队,目标是整合 AIGC 和 LLM。
而为了提升 Siri 的使用体验,iPhone 16 系列的麦克风也将迎来重大升级,预计在防水、信噪比等方面都会得到提升。其中,信噪比将会是关键升级。
另外还有一个好消息是,据路透社最新报道称,苹果已向欧盟提议,将开放 NFC 权限以换取欧盟撤回有关反垄断的指控。不过苹果表示,开放 NFC 并非认同欧盟的反垄断指控,而是为了消除监管机构的担忧。
但不管如何,等苹果全面开放 NFC 权限后,也许 iPhone 就能像安卓手机一样模拟门禁卡了,希望这一天能早点到来。不得不说,治苹果还得看欧盟,像 iPhone 15 系列的 USB- C 接口,以及即将开放的 App Store 应用程序侧载,都离不开欧盟的推动。
对于 iPhone 整合 AI 功能和增强 NFC 功能,你更期待哪个呢?