深入理解 IM 系统

第 26 章

App 的生命周期

Ben 走出公司,手机从 Wi-Fi 换到 4G,App 开着,Ana 的消息却两分钟后才到。手机上的连接什么时候该断、什么时候该连,由谁说了算?

这一章是初稿:作者还在逐章校对,内容和数字可能会改。

傍晚 6 点,Ben 一边看着和 Ana 的聊天一边走出公司,手机从公司的 Wi-Fi 换到了 4G。Ana 接连发来三条,他的屏幕上什么也没有。两分钟后,三条一起冒了出来。

服务端没有出错。三条消息都按时推了,推进的是 Ben 在 Wi-Fi 上的那条旧连接。那条连接已经不通了,可 Ben 的 App 不知道,还在等。

问题在这里:在手机上,连接什么时候活着,不由 App 决定,更不由服务端决定,而由手机系统决定。 这一章让 App 听系统的,再把它听到的告诉服务端。

1. 手机系统怎么对待后台的 App

两家系统的规矩不一样,但方向一样:后台的 App 要尽量什么也不做。

iOS。 App 退到后台时,系统调用它的一个回调,给它 5 秒收尾;回调返回之后不久,App 就被挂起:不再运行任何代码(苹果文档)。要多一点时间,可以申请一个后台任务,做完必须马上结束,否则系统会终止 App。挂起期间,系统还可能收回 App 的 socket,连接就此关掉(TN2277,已归档)。

安卓。 App 进了后台,还有“几分钟”可以跑后台服务,之后系统把它们停掉(Android 8 的后台限制)。手机不插电、灭屏、放着不动久了会进入 Doze(低电耗模式),系统暂停网络访问,只在间隔越来越长的维护窗口里放行(Doze 文档)。不少手机厂商还会更积极地清理后台 App,dontkillmyapp.com 按厂商列了出来(这是一个民间网站,不是官方文档)。

结论很简单:App 一离开屏幕,它的长连接长连接long-lived connection设备和服务端之间一直开着的一条 TCP 或 WebSocket 连接。有了它,服务端可以随时主动把消息推下去,不用等客户端来问。在术语表里查看就靠不住了。 前面的章节其实已经按这个算:“在线”的意思是 App 开着,v3 高峰的 100 万在线就是这么来的。

2. 看它坏掉:网络换了,连接不知道

一条 TCP 连接绑在两端的地址上。Ben 的手机换了网络,地址变了,旧连接就不能再用了。

有时系统会马上让旧 socket 报错,App 立刻知道。但不总是:安卓的文档说,新网络成为默认网络以后,旧网络上剩下的连接“过一段时间”才被强行关掉(文档)。在那之前,App 往一条已经不通的连接里写,什么错也看不到。

不听系统的 App,只能靠第 23 章的心跳发现:等到下一次心跳(第 23 章:4 分钟没发过东西才发一次,所以是 0 到 4 分钟以后),再等 10 秒没有回复,才重连。平均 130 秒,最坏 250 秒,这段时间 Ben 的屏幕开着,却收不到新消息。

系统其实知道网络变了,而且会告诉 App:安卓有默认网络变化的回调(同一份文档),iOS 有 NWPathMonitor(文档)。听这个事件,网络一变就重连:

事件(假设 1 秒内)+ 建新连接 0.6 秒(第 2 章:TCP、TLS 1.3、升级各一个来回)+ 同步一个来回 0.2 秒 = 约 1.8 秒

3. 退到后台:连接留着,还是关掉

第 17 章已经定了一半:App 退到后台时告诉服务端一声,服务端从此给这台设备发系统推送系统推送OS push通过苹果 APNs、谷歌 FCM 或手机厂商的通道,发给没有在线连接的手机的通知。它属于第三方,尽力而为,不保证送达。在术语表里查看。剩下一半是连接本身。

留着是很自然的选择:Ana 切出去复制个验证码,几秒就回来,连接还在,不用重连。可在 iOS 上,App 几秒后就被挂起,连接却还开着:手机的系统内核替它收包、回确认,服务端看不出任何异常。要等第 23 章的检查:网关从最后一次听到它算起,等满 12 分钟才关。App 在前台时至少每 4 分钟发一次东西,所以退到后台时,它最后一次发东西是在 0 到 4 分钟以前;12 分钟减去这一段,这条连接在 App 挂起后还要挂 8 到 12 分钟,平均 10 分钟。

v3 每天 1,000 万人、每人打开 20 次,每次打开都以退到后台结束。高峰按平均的 3 倍算,每秒约 6,944 次。每秒新挂上 6,944 条,每条挂 600 秒,同一时刻挂着的就是两数相乘:

6,944 × 600 秒 ≈ 417 万条挂着没人用的连接,比 100 万条真在用的还多

系统可能提前收回 socket,所以这是上限;可哪怕只有其中一部分,也是压在第 22 章只照 100 万条配的网关上。安卓上 App 还会在后台活一阵,连接是活的,接着发心跳、耗电,直到被系统停掉。

所以要关。关掉的代价是每次回到前台都要重新建连。这里选留 10 秒再关:10 秒内回来的不用重连,高峰时挂着的连接只有 6,944 × 10 秒,约 7 万条。10 秒在 iOS 给的 5 秒加一个后台任务之内。

4. 办法:一台由系统事件驱动的状态机

两个问题是同一个毛病:连接只看 socket 自己,不看系统。办法是把连接写成一台状态机,系统的事件和连接的事件都是它的输入。

状态 在做什么 离开它的事件
未连接 什么也不做 回到前台 → 连接中
连接中 TCP、TLS,带上令牌(第 25 章) 成功 → 同步中;失败 → 等待重试
同步中 按第 6、11 章补齐会话和消息 完成 → 在线
在线 收推送、发心跳 退到后台 → 后台;网络变了、心跳超时 → 连接中;服务端关闭 → 等待重试
等待重试 退避加随机抖动(第 3 章;为的是网关重启时所有人别同一刻回来,第 24 章) 时间到、网络回来 → 连接中
后台 已报后台,10 秒后关闭 回到前台 → 在线;10 秒到 → 未连接

四条规则:

  1. 网络一变,马上重连。 不等旧连接报错,直接丢掉它,在新网络上连。第一次不退避;再失败才按第 3 章退避加抖动。Telegram 的客户端库 TDLib 也这样要求:网络一变(哪怕类型没变,比如换了一个 Wi-Fi)就调用 setNetworkType,它会让所有网络连接重开,缩短换网时的延迟(TDLib 文档)。
  2. 退到后台,先报再关。 在系统给的几秒里,按第 17 章报一声“后台”,10 秒后关掉连接。这一帧没发出去(比如正好没网),服务端只能靠心跳兜底,回到 8 到 12 分钟,这期间的消息没有通知。
  3. 回到前台,连上就同步。 第 6 章的“每次打开同步一次”,在这里就是“每次回到前台连一次、同步一次”。10 秒内回来的,连接还在,报一声“前台”就行。
  4. 被杀或崩溃,不用管。 进程没了,系统内核会关掉它的 socket,服务端通常能收到关闭;收不到,还有心跳。

5. 算一下

  • 发现网络换了:从平均 130 秒,变成约 1.8 秒。
  • 挂着没人用的连接:高峰从最多约 417 万条,变成约 7 万条。
  • 代价是更多的建连:每次回到前台都建连,高峰每秒约 6,944 次握手。分到第 22 章的 20 台网关,每台每秒约 347 次;每台每秒能做 2,000 次,这占了 17%。这里数的是连接,每次打开都算;第 21 章数的是在线状态的变化,很快又回来的打开被它合并掉了,所以那边高峰每秒只有约 3,500 次上线或下线。

6. 代价

  • 每次打开都要建连和同步。 握手吃网关的 CPU(上面的 17%),也让打开 App 时多等约一秒。
  • 规矩按平台、按版本、按厂商变。 iOS 和安卓各一套,安卓上还要看厂商;这台状态机要跟着系统升级改。
  • 后台全靠系统推送。 连接一关,后台的消息只能靠 APNs、FCM 和厂商通道(第 17 章),它们不保证送到。通知只是提醒,回到前台的同步才是准的。

7. 其他答案

  • 后台也保持连接。 安卓可以开一个前台服务,代价是通知栏里一直挂着一条通知,还要一直发心跳:每 4 分钟一次、每次唤醒无线电 10 秒,一天无线电多亮约 1 小时。iOS 不给普通聊天 App 这样做。
  • 用 VoIP 推送叫醒 App。 从 iOS 13 起,收到 VoIP 推送的 App 必须向 CallKit 报告一个来电,否则会被终止(PushKit 文档)。它只适合真的打电话。
  • 用静默推送在后台同步。 苹果说这类推送优先级低、会被限流,“每小时不要超过两三条”(文档);Ana 平均每天收到约 267 条(全书的数),合每小时 11 条,远远不够。
  • QUIC 的连接迁移。 QUIC 用连接 ID 而不是地址认连接,手机换了网络,连接还能接着用(RFC 9000 第 9 节);服务端也可以声明不支持。它只解决网络切换,管不了后台。

8. 这一章的决定

手机上的 App 至少还有系统推送可以依靠。换到浏览器里,Ana 一口气开了三个标签页,关掉以后什么也叫不醒她。下一章:网页端。

评论

评论存在 GitHub Discussions,需要 GitHub 账号。