据VB报道，苹果公司在人工智能研究方面取得了显著进展。最近公布的一篇论文中展示了一项高效的语言模型推理新技术，这将使复杂的AI系统在iPhone、iPad等设备上能够流畅运行。这项技术解决了在内存有限的设备上部署大语言模型的一个关键挑战。
众所周知，像GPT-4这样的大模型包含前千亿个参数，如果直接在消费类硬件上运行的话，推理成本会非常高昂。然而，苹果的技术人员最大限度地减少了从闪存到内存的数据传输，并通过一系列方法将推理延迟提高了4-5倍。在GPU上，加速达到了20-25倍。
这一突破对于在资源有限的环境中部署先进的LLM（大语言模型）尤为重要，极大地提高了适用性和可及性。对用户而言，这些优化可能很快就能允许复杂的人工智能助手和聊天机器人在iPhone、iPad和其他移动设备上流畅运行。
此外，郭明錤最新发文称，iPhone 16将会推出AI相关的创新功能。苹果公司今年第三季度改组了Siri团队，并整合了AIGC功能和LLM（大语言模型）。在手机上，语音输入将是AI、AIGC、LLM（大语言模型）的关键界面，因此强化Siri的软件功能是推广AI功能的关键。
郭明錤的最新调查显示，所有iPhone 16机型都将显著升级麦克风规格，除了更好的防水之外，还有更好的信噪比，以提升Siri的使用体验。这一系列技术的进步和创新表明苹果公司在人工智能领域正不断取得突破，并为用户带来更加智能化和便捷的体验。
