设备端 AI

iPhone 上的设备端 AI 日记是怎样运作的?

熠E 会一次性下载 Google 的 Gemma 4 E2B 模型(大小约 2.6 GB),然后通过 Google 的 LiteRT-LM 运行时,直接在你的 iPhone 上运行它。你的文字不会为了 AI 而被发送到任何地方。

已对照 熠E 1.5 核实,2026 年 10 月 10 日。

一览

项目熠E 1.5
模型Gemma 4 E2B,指令微调版,.litertlm 格式
来源litert-community,位于 Hugging Face
运行时LiteRT-LM(Google 出品),内置于应用中
下载约 2.6 GB,只需一次,仅通过 Wi-Fi
完整性校验核对固定文件版本的 SHA-256 哈希值
计算默认通过 Metal 使用 GPU,也可选择 CPU
上下文预算32,768 或 24,576 个 token,取决于手机内存
模型请求一次一个
搜索索引在手机上建立,不使用 Gemma

设置过程

设置时,熠E 提供三种运行 AI 的方式:在这台手机上、Everglow 云端,或你自己的 API 密钥。选择在手机上运行,就会开始从 Hugging Face 下载模型。下载过程如下。

  • 只使用 Wi-Fi,从不使用蜂窝数据。
  • 下载期间屏幕不会自动锁定,你也可以继续使用应用。如果你离开 熠E,它可能会提醒你:保持应用打开,下载会更快完成。
  • 如果连接中途断开,应用会保留已下载的部分,并提供继续下载。如果这部分文件无法使用,则会提供重新开始。
  • 加载模型之前,应用会用预期版本的 SHA-256 哈希值核对文件。不匹配的文件会被删除,不会被加载。
  • 如果 Hugging Face 没有响应,应用会尝试镜像站 hf-mirror.com,并进行同样的校验。如果所有下载服务器都没有响应(应用说明这在中国大陆很常见),应用会直接告诉你,并建议改用云端模型 DeepSeek。

模型保存在应用自己的存储空间中,与你的日记分开,因此 熠E 的 iCloud 备份不包含它。换到新 iPhone 时需要重新下载。你可以在设置中删除它,释放空间。

iPhone 的内存有什么影响

设置时会检查手机的内存。如果内存不足以运行模型,设置流程不会提供设备端 AI,会说明原因,并改为提供 Everglow 云端或你自己的 API 密钥。

内存还决定上下文预算,也就是模型一次能容纳多少 token,读入和写出的内容都算在内。报告内存至少 6.5 GB 的手机获得 32,768 个 token,其他手机为 24,576 个。由于预算是共用的,很长的手记或很长的对话会让回复可用的空间变少。

哪些功能用到模型

  • 读取每篇新手记。模型在后台写一段简短摘要,并找出其中的情绪、提到的人物、地点和事物,以及主题。
  • 向日记提问。先由搜索找出候选段落,再由模型挑出相关的。然后模型根据有上限的依据写出回答(约 6,000 个 token,通常不超过 12 篇手记),并显示它用到的带日期的摘录。
  • 同伴。聊天回复会参考相关的手记。在手机上,对话在各轮之间一直保持加载,不必每次重新读一遍。在很长的聊天中,最早的几轮会移出模型的工作记忆,最近的几轮会保留。
  • 人物与地点专页。关于你写到的人物、地点和事物的事实,每条都链接到它出自的那篇手记。
  • 找出日期。推断你描述的事情发生在什么时候。

哪些功能不用模型

  • 写日记、编辑、书签和关键词搜索。
  • 按语义搜索背后的向量。熠E 在手机上用 Apple 的 NaturalLanguage 框架计算它们,而不是用 Gemma。
  • 绘制关系图。图上的人物和关系来自之前的读取,排布它们只是普通代码。
  • Markdown 导出、iCloud 备份和应用锁。

一次处理一个请求

手机一次只运行一个模型请求。你聊天或提问时,这个请求优先;后台读取会等待,或先停下、之后再重新运行。大批量导入会逐篇读取。应用自己的说明提到,几百篇手记可能需要一段时间;如果你退出应用,导入会从中断处继续。单次导入时,你可以选用另一个已经设置好的引擎。

不依赖 Apple Intelligence

熠E 自带模型和运行时。在 1.5 版中,它的 AI 功能都不使用 Apple Intelligence 或 Apple 的 Foundation Models 框架,因此 熠E 的设备端 AI 不取决于 Apple Intelligence 是否可用或已开启。它取决于模型下载、手机内存和可用存储空间。

需要权衡的地方

  • 速度与电量。设备端 AI 比托管 AI 慢,也更耗电。应用的设置界面也把这两点列为这个选项的代价。
  • 存储空间。模型约占 2.6 GB,不含应用本身。
  • 深度。这是一个上下文有限的小模型。托管 AI 通常更快,也更擅长处理较长、较细致的问题。
  • 准确性。任何 AI 都可能弄错细节。向日记提问时会显示所用的带日期摘录,方便你对照原来的手记核对。
  • GPU 还是 CPU。除非你在设置中关闭,模型会通过 Metal 在 GPU 上运行;设置里也注明,GPU 在大多数设备上更快。更改会在重启应用后生效。

设备端 AI 与隐私

使用设备端 AI 时,你的手记在 iPhone 上处理,不会为了 AI 发送到任何地方。无论使用哪种引擎,日记档案都保存在手机上。下载模型不会发送任何日记内容。iCloud 备份是单独的可选项。第一次切换到 Everglow 云端或你自己的 API 密钥时,应用会征求你的同意,并说明服务商是谁。

设备端 AI 不联网也能用吗?

可以,只要先下载一次模型。写日记、向日记提问和与同伴聊天都可以用设备端模型离线完成。需要联网的情况是:下载模型、使用 Everglow 云端或你自己的 API 密钥,以及 iCloud 备份。

我的 iPhone 能运行吗?

熠E 需要 iOS 17 或更高版本。对于设备端 AI,设置时会检查手机内存;如果内存不够,设置流程会说明这一点,并提供 Everglow 云端或你自己的 API 密钥。速度因设备而异。

它占用多少空间?

模型约 2.6 GB,另加应用本身;App Store 显示应用约 90 MB。你可以在设置中删除模型;之后若要再用设备端 AI,需要重新下载。

以后可以换成托管 AI 吗?

可以。你可以随时在设置中切换设备端 AI、Everglow 云端和你自己的 API 密钥;除非你删除,已下载的模型会一直保留可用。

这个模型和 ChatGPT 一样吗?

不一样。设备端模式在你的 iPhone 上运行 Google 的 Gemma 4 E2B,而不是 OpenAI 的模型。Everglow 云端会经 Everglow 的服务把请求发送给 OpenAI,你也可以使用自己的 OpenAI 密钥。这两种都属于远程处理。

熠E 使用 Apple Intelligence 吗?

不使用。熠E 1.5 自带模型和运行时,它的 AI 功能不使用 Apple Intelligence,也不使用 Apple 的 Foundation Models 框架。

延伸阅读

在 App Store 查看 熠E ↗