2019年的一个清晨，尼日利亚创业者Adebayo Alonge在开普敦一家酒店房间里准备演示他的假药检测仪。这台叫RxScanner的手持设备用红外光谱扫描药片，再把数据传给云端AI比对数据库，几秒内判断真假——非洲每年有数千人死于假药，这台机器本该是解药。可那天演示现场，设备连上了模型，结果迟迟不出来。服务器在14000公里外的美国，带宽有限，扫一次药要等五分钟。Alonge当场让工程师把模型压缩瘦身，两小时后拿出了能在安卓手机上离线跑的版本，救了那场演示。
这个插曲后来被写成了一整套产品逻辑：在没有稳定网络、没有数据中心的地方，能干活的AI往往不是更聪明的大模型，而是能塞进一部手机、断网也能跑的小模型。
断网地区的AI，靠的是能跑，不是聪明
世界银行去年11月的一份报告给出过一个对照：全球最贫穷国家里，用过ChatGPT的网民只占0.7%，而在发达国家这个比例是四分之一。世行行长Ajay Banga在达沃斯论坛上说得直白——大模型需要算力、电力、海量数据和专业人才，除了印度、中国这样的例外，多数发展中国家根本凑不齐这套条件。
于是小模型开始在缝隙里长出来。印度Vellore理工学院的团队用无人机拍腰果叶片照片，模型直接在无人机上跑完推理，识别病斑，不用连服务器。乌拉圭有葡萄园用小模型检测切叶蚁虫害，多个国家在用类似方法识别携带疟疾的蚊子，巴西一些缺乏专业设备的诊所，靠Arduino开发板跑心电图分析。巴西联邦伊塔茹巴大学的教授Marcelo Rovai把这称作"当下AI领域最重要的方向"——这话听着夸张,但对照世行的数字,倒也不算空谈。
支撑"能救命"这个判断的证据，来自另一个世界
这些案例讲的是断网、无电、设备简陋的现场。但如果去翻2025年那批评估小模型医疗表现的学术论文，会发现测试场景完全是另一回事。
AAAI一份研究测过多个开源模型的医疗问答能力，Mistral v0.3综合表现最好；另一份研究发现通用型的Phi-3 Mini在速度和准确率之间平衡最好，而专门微调过的医疗模型Med42、Aloe准确率更高。ACL的一篇论文纠正了一个直觉误区：端侧推理的延迟瓶颈，不是模型参数量本身，而是prefill预填充阶段和词表大小——这两样对内存和速度的影响,常常比模型"大小"更关键。
这些结论都很扎实,问题是它们几乎全部诞生在美国医疗和HIPAA合规的语境里,测试设备是现代智能手机或平板,背后是完整的医疗信息系统。这跟开普敦酒店房间、印度农田、巴西简陋诊所面对的条件,不是一回事。用美国医院跑出来的基准数据,去佐证"小模型能在非洲救命",中间缺了一段还没人验证过的桥。
- 风险.目前公开报道里，还没看到针对这些发展中地区案例的独立准确率验证——"能用"和"够安全"是两件事。
本地部署省的是钱，省不掉合规这道坎
小模型愿意往边缘跑，一大原因是云端大模型按token计费，成本会像滚雪球一样累积。以OpenAI公开的GPT-5.5定价为参照，每百万输入token收费5美元，输出token收费30美元——对一个需要持续调用、又没有稳定预算的乡村诊所或农业合作社来说，这笔账长期算下来并不便宜，本地跑一次算一次，不产生持续账单。
但省钱不等于合规。美国NIST在edge AI项目里把数据隐私列为边缘部署的核心驱动力，这没错——数据不出设备，天然比传去云端安全。可HHS对HIPAA的解释很明确：只要处理的是受保护健康信息，不管是存在手机还是平板里，一样要满足访问控制、加密、审计日志这些要求。本地部署解决的是"数据往哪传"，解决不了"谁能看、怎么审计"这道题。在监管框架本就薄弱的地区，这道题目前基本是空白。
行业里更现实的做法，是小模型在边缘先处理常规判断，遇到复杂病例再升级到云端大模型兜底——纯靠小模型全面替代的方案，目前证据还不够撑起这个结论。
kpi卡片：
split卡片：
bar卡片：