2026年11月18日,Kapteko 刊出一项实验,目标是在只有单核 CPU、10GB 内存的虚拟机上运行1500万个 Web 服务器。作者最终报告,自定义 Rust 运行时搭配 smoltcp 容纳了约1600万个监听端点。这个数字成立的关键,是每个地址只保留少量监听状态,所有端点共用同一份程序。它衡量的是一台机器能让多少地址等候请求,不能用来估算能托管多少个独立应用。

Linux 先用完端口,再用完内存

作者最初为每个端点启动一个进程,让 Linux 自动分配端口。最小 HTTP 程序跑到约6.5万次请求每秒,但批量启动时先撞上可分配端口的上限。吞吐量衡量请求处理速度,监听端点数量衡量能同时在哪些地址上等待请求,两者不能互推。

协议、IP 地址和端口共同区分监听端点。AnyIP 可以把一段地址视为本地地址,让不同 IP 共用同一端口,无须为每个地址配置网卡。IPv6 地址空间宽裕,原型则使用不同 IPv4 地址上的8080端口;虚拟机能在本地识别这些地址,不代表运营者拥有同等规模的公网地址。

地址够用后,内存接着见底。独立进程方案里,每个最小服务器约占1.5MB。就算省掉独立进程,Linux 仍要为每个 socket 保存内核状态。作者报告的 Linux TCP 基线在约250万个监听端点时耗尽内存,这与单独启动进程的估算是两种口径。

smoltcp 把空闲端点压到约620字节

自定义运行时用 smoltcp 在用户态维护 TCP/IP 状态。每个端点有一个 TCP 监听器和一条16字节的任务记录。收到报文后,运行时按目标 IP 直接索引监听器,不必扫描数百万个 socket。地址在这里既区分服务,也让运行时少做一次大规模查找。

作者报告,空闲端点约占620字节,活跃端点约占1KB。这些数字对应极简负载。所有端点运行同一份受信任的 AArch64 代码,丢弃请求内容,返回两字节 ok 后关闭连接。调度器使用64字节收发缓冲区,全局最多跟踪100万个连接。按空闲端点开销粗算,1500万个端点就约占9.3GB;这不是整机内存明细,也没有为真实业务留下多少余量。

<svg viewBox='0 0 760 220' width='100%' height='220' role='img' aria-label='作者报告的两种监听端点规模'><rect x='1' y='1' width='758' height='218' rx='8' fill='#fbf9f4' stroke='#e2dccf'/><text x='32' y='39' fill='#b25a3a' font-size='20' font-weight='700'>同一内存预算下</text><line x1='32' y1='55' x2='728' y2='55' stroke='#e2dccf'/><rect x='32' y='82' width='336' height='106' rx='6' fill='#fbf9f4' stroke='#e2dccf'/><rect x='392' y='82' width='336' height='106' rx='6' fill='#fbf9f4' stroke='#e2dccf'/><text x='200' y='132' text-anchor='middle' fill='#2c2822' font-size='35' font-weight='700'>约250万</text><text x='200' y='161' text-anchor='middle' fill='#7a7266' font-size='14'>内核基线耗尽内存</text><text x='560' y='132' text-anchor='middle' fill='#b25a3a' font-size='35' font-weight='700'>约1600万</text><text x='560' y='161' text-anchor='middle' fill='#7a7266' font-size='14'>用户态监听端点</text></svg>

DPDK 和 AF_XDP 只负责报文收发

smoltcp 负责TCP 连接状态,DPDK 和 AF_XDP 提供报文进出运行时的路径。作者的图表把 DPDK 排在请求吞吐首位,AF_XDP 紧随其后,但精确数值未经核验。DPDK 通常靠轮询收包,要占用 CPU 时间;AF_XDP 通过绑定虚拟网卡队列的 XSK 和 UMEM 帧池收发报文,能否零拷贝取决于驱动与配置。单核机器省下收包时间之后,连接定时器和应用执行仍要争用同一个核心。

<svg viewBox='0 0 760 216' width='100%' height='216' role='img' aria-label='从报文收发到固定响应的处理流程'><rect x='1' y='1' width='758' height='214' rx='8' fill='#fbf9f4' stroke='#e2dccf'/><text x='32' y='39' fill='#b25a3a' font-size='20' font-weight='700'>收包与连接分开</text><line x1='32' y1='55' x2='728' y2='55' stroke='#e2dccf'/><rect x='32' y='86' width='208' height='98' rx='6' fill='#fbf9f4' stroke='#e2dccf'/><rect x='276' y='86' width='208' height='98' rx='6' fill='#f7ede6' stroke='#b25a3a'/><rect x='520' y='86' width='208' height='98' rx='6' fill='#fbf9f4' stroke='#e2dccf'/><line x1='246' y1='134' x2='263' y2='134' stroke='#7a7266'/><polygon points='271,134 263,130 263,138' fill='#7a7266'/><line x1='490' y1='134' x2='507' y2='134' stroke='#7a7266'/><polygon points='515,134 507,130 507,138' fill='#7a7266'/><text x='136' y='128' text-anchor='middle' fill='#2c2822' font-size='18' font-weight='700'>报文收发</text><text x='136' y='155' text-anchor='middle' fill='#7a7266' font-size='13'>网卡队列</text><text x='380' y='128' text-anchor='middle' fill='#b25a3a' font-size='18' font-weight='700'>协议处理</text><text x='380' y='155' text-anchor='middle' fill='#7a7266' font-size='13'>查找与连接状态</text><text x='624' y='128' text-anchor='middle' fill='#2c2822' font-size='18' font-weight='700'>固定响应</text><text x='624' y='155' text-anchor='middle' fill='#7a7266' font-size='13'>回包后断开</text></svg>

托管多个域名,用不着同样多的监听器

常规 Web 托管可以共享监听地址,用 HTTP Host 或 TLS SNI 分流。若平台团队要解决的是域名托管成本,没必要为每个域名单开监听器;若要模拟大量不同的目标地址,这项实验才直接对题。TLS 握手、Keep-Alive、动态响应会改变 CPU 和内存账本,证书、日志和租户隔离也都有额外成本。

AI10M 项目的 poc/ten-million-webservers 目录公开了 README 和源码,但这组基准没有独立复跑结果可供对照。Hacker News 上可见的唯一一条评论肯定了实现的简洁性,未评估部署可行性。边缘平台若要据此立项,下一笔预算更适合花在压测上:看真实连接负载下的内存曲线、尾延迟与丢包,再测异常流量集中到一个端点时,共享运行时里的其他端点还能否按时响应。