更好的Siri即将到来苹果的研究对其人工智能计划的评价

人们很容易认为苹果在人工智能领域起步较晚。自2022年底ChatGPT席卷全球以来，苹果的大多数竞争对手都在奋力追赶。虽然苹果确实谈论过人工智能，甚至发布了一些考虑到人工智能的产品，但它似乎只是在尝试，而不是一头扎进去。

但在过去的几个月里，谣言和报道表明，苹果实际上只是在等待时机，等待采取行动。最近几周有报道称，苹果正在与OpenAI和谷歌讨论为其部分人工智能功能提供支持，该公司也一直在开发自己的模型，称为Ajax。

如果你浏览一下苹果公司已发表的人工智能研究，就会开始了解苹果公司的人工智能方法如何实现。现在，显然，根据研究论文做出产品假设是一门非常不精确的科学——从研究到商店货架的路线蜿蜒曲折，充满坑洼。但当苹果在6月份的年度开发者大会WWDC上开始谈论人工智能功能时，你至少可以了解该公司正在考虑什么，以及它的人工智能功能如何发挥作用。

更小、更高效的模型

我怀疑你和我都希望得到同样的东西：更好的Siri。看起来“更好的Siri”即将到来!苹果公司的许多研究(以及许多科技行业、世界各地)都假设大型语言模型将立即使虚拟助手变得更好、更智能。对于苹果来说，获得更好的Siri意味着尽可能快地制造这些模型，并确保它们无处不在。

据彭博社最近报道，在iOS18中，苹果计划将其所有人工智能功能运行在设备上的完全离线模式上。即使您拥有数据中心网络和数千个最先进的GPU，构建良好的多用途模型也很困难-仅靠智能手机内部的功能来做到这一点要困难得多。因此苹果必须发挥创意。

在一篇名为“LLMinaflash:EfficientLargeLanguageModelInferencewithLimitedMemory”的论文中(所有这些论文的标题都很无聊，但我保证很有趣!)，研究人员设计了一个用于存储模型数据的系统，该系统通常是存储在设备的RAM上，而不是SSD上。研究人员写道：“我们已经展示了在SSD上运行高达可用DRAM大小两倍的LLM的能力，与CPU中的传统加载方法相比，推理速度提高了4-5倍，并且推理速度提高了20-20倍。”GPU的25倍。”他们发现，通过利用设备上最便宜且可用的存储空间，模型可以运行得更快、更高效。

苹果的研究人员还创建了一个名为EELBERT的系统，该系统本质上可以将LLM压缩到更小的大小，而不会使其变得更糟。他们对GoogleBert模型的压缩后小了15倍——只有1.2兆字节——并且质量仅下降了4%。不过，它确实带来了一些延迟权衡。

总的来说，苹果正在努力解决模型世界中的一个核心矛盾：模型越大，它就越好、越有用，但它也会变得越笨重、耗电和缓慢。与许多其他公司一样，该公司正在努力在所有这些事情之间找到适当的平衡，同时也在寻找一种拥有这一切的方法。

Siri，但是很好

当我们谈论人工智能产品时，我们谈论的很多东西都是虚拟助理——助理知道事情，可以提醒我们事情，可以回答问题，并代表我们完成工作。因此，苹果的许多人工智能研究都归结为一个问题，这并不令人震惊：如果Siri真的、真的、真的很好呢?

苹果公司的一组研究人员一直在研究一种无需使用唤醒词即可使用Siri的方法;该设备可能能够简单地凭直觉判断您是否正在与其交谈，而不是聆听“嘿Siri”或“Siri”。研究人员确实承认：“这个问题比语音触发检测更具挑战性，因为可能不存在标志着语音命令开始的主要触发短语。”这可能就是为什么另一组研究人员开发了一种系统来更准确地检测唤醒词的原因。另一篇论文训练了一个模型，以更好地理解罕见单词，而助手通常不能很好地理解这些单词。

在这两种情况下，法学硕士的吸引力在于理论上它可以更快地处理更多信息。例如，在唤醒词论文中，研究人员发现，通过不尝试丢弃所有不必要的声音，而是将其全部输入模型并让它处理重要和不重要的声音，唤醒词的效果要好得多可靠。

一旦Siri听到你的声音，Apple就会做大量工作来确保它能够更好地理解和沟通。在一篇论文中，它开发了一个名为STEER的系统(它代表语义转向扩展扩展识别，因此我们将使用STEER)，旨在通过尝试弄清楚您何时需要与助理进行来回沟通。当你问一个后续问题时以及当你问一个新问题时。另一方面，它使用法学硕士来更好地理解“模糊查询”，无论你怎么说，都能弄清楚你的意思。他们写道：“在不确定的情况下，智能对话代理可能需要主动提出好问题，以减少不确定性，从而更有效地解决问题。”另一篇论文也旨在帮助解决这个问题：研究人员利用法学硕士让助手在生成答案时变得不那么冗长、更容易理解。