深入理解 IM 系统

第 21 章

在线状态

Ben 上线了,他的 200 个联系人里,该告诉谁?

这一章是初稿:作者还在逐章校对,内容和数字可能会改。

Ana 打开和 Ben 的聊天,标题下面写着“在线”,或者“最后上线 19:42”。这一行字就是在线状态(presence)。

上一章的在线路由表在线路由表online routes记着每台在线设备连在哪台网关上。设备连上时由网关登记,分发时按它找到网关。在术语表里查看已经知道 Ben 有没有连接。难的不是知道,而是告诉谁:Ben 每次上线、下线,他有 200 个联系人,每个人都要马上知道吗?

1. 先看产品要什么

产品显示什么 服务端要做什么
不显示 什么也不做
只显示个大概,比如“最近上线过” 存一个最后上线时间,打开时查一下;不用推
打开的聊天里显示“在线”或“最后上线 19:42”,联系人列表里有个绿点 有人在看时,变了要马上告诉他(这一章)
整个名单里每个人的状态:在线、离开、勿扰 办公 IM 的做法,名单大、状态多(第 39 章)

Telegram 的接口里两种都有:确切的“在线”和最后上线时间,也有“最近上线过”“上周上线过”“上月上线过”这样的大概(UserStatus);看不到确切时间时(比如隐私设置),给的就是大概的那种(userStatusRecently)。

主线(这套书从 v0 一路长到 v3 的那个产品)选第三档:聊天标题和联系人列表上,显示在线或最后上线时间。

2. 什么算一次变化

手机上,“在线”就是 App 开着、连着。退到后台,10 秒后连接就关了(第 26 章)。

Ana 一天打开 App 20 次,每次一上一下,就是 40 次变化。其中很多是回一条消息、马上又切回来。下线后等一小会儿再算,这样的来回就合并掉了。全书假设合并后每人每天 10 次。

1,000 万日活用户,每人每天 10 次,平均每秒约 1,160 次;高峰按平均的 3 倍,每秒约 3,500 次上线或下线。

3. 先想到的:告诉每个联系人

最直接的做法,也是即时通讯标准协议 XMPP 的做法:一个人的状态一变,服务端发给他所有的联系人;联系人不在线就不发,等他上线时再一次拿全(RFC 6121 第 4.2–4.4 节)。

按我们的数:

  • 每次变化,200 个联系人里约 10% 在线,推给 20 个人。
  • 高峰每秒 3,500 次变化 × 20 = 每秒约 69,000 次推送。v3 高峰时,消息的推送是每秒 139,000 次;光在线状态的推送,就有消息推送的一半那么多。

这些推送大多没人看。Ana 正在和 Cara 聊天,别的联系人上线下线,推送照样到她手机上:每秒 69,000 次分到 100 万台在线设备上,一台一小时约 250 次。

而且它跟着联系人数涨。一个有 2,000 个联系人的人,每次上下线要推给 200 个人,是普通人的 10 倍。

4. 只告诉正在看的人

换个方向:不是 Ben 变了去找谁该知道,而是 Ana 先说“我在看谁”。

  1. 设备报“我在看谁”。 屏幕上出现了哪些人(聊天标题里的 Ben,联系人列表上露出来的那十来行),手机就把整份名单发给服务端。屏幕换了,再发一份新的,新的整个替换旧的。
  2. 服务端先回现在的状态。 名单里每个人现在在线还是最后上线几点,一次回给她。
  3. 之后变了才推。 Ben 上线了,服务端查谁在看 Ben,只推给这些设备。

每台在线设备屏幕上平均有 10 个人,这是这一章的假设。100 万台设备在线,就是 1,000 万个“谁在看谁”。分到 1,000 万日活用户头上,每人平均正好被一台设备看着,所以平均每次变化只推一次。

  • 推送:从每秒约 69,000 次降到约 3,500 次,少了 20 倍。
  • 但名单本身也要发:每次打开 App、打开一个聊天,就换一份。一天打开 App 20 次、打开聊天 60 次(第 7 章的假设),1,000 万人每天共 8 亿份,平均每秒约 9,260 份,高峰按 3 倍是每秒约 27,800 份。每份都要回一次当前状态,按每份 10 个人,是每秒约 28 万次查状态。

两样加起来,下发的帧从每秒约 69,000 降到约 31,000,少一半多一点。省得最多的,是它不再跟着联系人数涨:有 2,000 个联系人的人,上下线也只推给正在看他的那一两台设备。

这和 Slack 的做法一样:客户端发 presence_sub,每次都带上要订阅的全部用户,订阅只在这条 WebSocket 连接存在时有效;文档建议最多 500 人(Slack 文档)。

5. 订阅跟着连接走

“谁在看谁”是要记住的状态。记在哪里,怎么不丢?

  • 按被看的人分到几台在线状态服务器上。 Ben 这个人归一台管:他有几条连接、最后上线时间、谁在看他。
  • 订阅只活在这条连接上。 连接断了,网关告诉后面(第 20 章),这台设备的订阅全删;重连以后,手机把屏幕上的名单再发一次。因为每次发的都是整份名单,重发不会多也不会少。
  • 大小:1,000 万个订阅,每个 16 字节,加上按设备找的索引,约 320 MB,分在几台机器上。

6. 一件要做对的事:下线先等一会儿

网关重启时(第 24 章),一台网关上的设备(平时 5 万台,第 22 章假设的机器)一起断开,几秒到几十秒后又连回来。每台都会“下线、上线”各一次:

  • 告诉每个在线联系人:10 万次变化,每次推给 20 人,共 200 万次推送。
  • 只告诉正在看的人:约 10 万次。

更好的是让它们根本不算变化:连接断了,先等一会儿;在这之内又连上,就当没下过线。比如等 30 秒,网关重启后大多数设备都已经回来了,一次推送也没有。第 2 节里“回一条消息又切回来”的那种来回,也是这样合并掉的。

LinkedIn 的在线状态就是这样做的:连接断了又在 d 秒内连上,只要心跳接上,就继续算在线;每个在线的人有一个延迟触发器(LinkedIn 工程博客,2018)。

反方向也会晚。连接也会悄悄死掉:比如手机进了电梯,没了信号,网关这头收不到任何“断开”。网关只能靠心跳发现:手机至少每 4 分钟发一次东西(没别的可发,就发个心跳),连着 12 分钟(3 个周期)什么都没收到,才算它断了(第 23 章)。这 12 分钟里,Ben 显示的还是“在线”。整台网关挂掉时更糟:它连“连接断了”都来不及告诉后面,这些设备要等连到别的网关才更新;不再回来的,要另有办法把那台网关名下的状态一起作废(第 20 章)。

7. 代价

  • 订阅是要维护的状态。 每次换屏幕都要发一份名单,高峰每秒约 27,800 份,比推送本身还多。
  • 状态会晚。 下线要等一会儿才显示;连接悄悄死掉时,“在线”会多挂十几分钟。
  • 没在看的人不知道。 Ana 不看 Ben 时,Ben 上线下线她都不知道,等她打开再查。这正是要的,但“好友上线时提醒我”这类功能,就要另做。
  • 谁能看谁,要先问。 订阅时要问业务层,Ben 有没有把状态对 Ana 藏起来。

8. 其他答案

  • 告诉每个在线的联系人(XMPP,第 3 节)。联系人少、状态要全时最简单,代价跟着联系人数走。
  • 打开时拉一次,看着时定时刷新。 不用记订阅;每 30 秒刷一次,就是每秒约 33,000 个请求,变化最多晚 30 秒才看到。
  • “在线”是一个会过期的租约。 Telegram 的 userStatusOnline 带着 expires,“当前在线状态的过期时间”;客户端用 account.updateStatus 报告在线或离线(userStatusOnline,account.updateStatus)。过了这个时间,这条“在线”就不作数,不用等心跳超时。
  • 按人分片、只推可见的人。 Slack 把用户哈希到各台在线状态服务器上,客户端只收到它能看见的用户的通知(Real-time Messaging)。
  • 不显示。 最省的答案。

9. 这一章的决定

在线状态和推送,都靠网关上一条条连接。一台网关该放多少条连接?下一章:百万连接。

评论

评论存在 GitHub Discussions,需要 GitHub 账号。