2026年7月6日，IEEE Spectrum发表了记者David Berreby的深度报道《Small AI Models Gain Traction Around the World》，揭示了一个被主流AI讨论忽视的现实：在全球最贫困的国家，仅有0.7%的互联网用户曾经使用过ChatGPT，而发达国家这一比例为25%。这组数据来自世界银行于2025年11月发布的报告。当硅谷热议万亿参数模型时，数十亿人连一次AI对话都无法完成。但一个被忽视的赛道——"小AI"（Small AI）——正在悄然改变这一格局。
为什么"小AI"突然成为全球焦点
大模型的触达困境
当前主流的大语言模型（LLM）动辄拥有万亿级参数，运行依赖超大规模数据中心、稳定的高速网络和充足的电力供应。对于全球南方国家而言，这些条件几乎无法满足。世界银行行长Ajay Banga在2026年1月的达沃斯世界经济论坛上明确指出："大多数人在从LLM/生成式AI的角度讨论AI，但这需要大量的计算能力、电力、海量数据以及熟练的管理人员。在发达国家之外，除了印度和中国，很少有国家具备这些条件。"
这不是一个边缘问题。根据世界银行的数据，全球仍有约26亿人无法接入稳定的互联网服务。对于这些人来说，大模型再强大也只是遥不可及的奢侈品。而"小AI"——参数量在几十亿以内、可在手机或微控制器上离线运行的小型AI模型——成为了唯一可行的路径。
真实案例：从假药检测到疟疾预警
IEEE Spectrum的报道中，一个案例尤为引人注目。尼日利亚创业者Adebayo Alonge开发的RxScanner，是一个手持光谱仪设备，能够扫描药片的红外光谱并通过AI模型比对药物分子数据库，在几秒内鉴定药品真伪。该设备已在加纳、肯尼亚、缅甸和尼日利亚等十几个国家的药店投入使用。假药每年在非洲大陆导致数千人死亡，RxScanner直接面向这一痛点。
但这个故事的关键转折发生在2019年：Alonge在开普敦演示设备时发现，由于服务器远在14000公里外的美国，加上当地带宽有限，一次扫描需要5分钟以上才能返回结果。他立即要求工程团队将AI模型压缩为一个可以在Android手机上完全离线运行的小型版本。2小时后，新版RxScanner诞生——不需要网络、不需要服务器，一部手机即可完成药品真伪鉴定。
这不是孤例。IEEE Spectrum报道了多个"小AI"应用场景：
- 巴西：联邦大学Itajubá校区的Marcelo Rovai教授团队在Arduino设备上运行语言模型，通过传感器数据分析蚊虫滋生水域，实现疟疾传播预警。整个系统仅消耗3瓦功率，由电池或太阳能供电。
- 乌拉圭：无人机搭载小型AI模型，在葡萄园中自主飞行拍摄，识别蚂蚁侵害迹象，所有图像处理在无人机本地完成。
- 印度：Vellore理工学院的Bala Murugan团队开发了基于无人机的小型AI系统，拍摄腰果植株照片并在机上完成病害识别，无需连接中央服务器。
Rovai教授直言："这是当今AI最重要的领域，它正在飞速增长。"
这意味着什么
技术民主化的拐点
"小AI"的兴起并非偶然，而是硬件和模型两个维度同时突破的结果。
在硬件端，Counterpoint Research的数据显示：2025年全球出货的智能手机中，约三分之一已具备运行生成式AI的能力；到2026年底这一比例将升至45%；到2027年底，超过一半的智能手机将能运行小型AI模型。这意味着，小AI的硬件载体正在以每年十几个百分点的速度普及。
在模型端，2026年上半年的两大发布尤其关键：
- Google DeepMind Gemma 4（2026年4月发布）：开放权重（open-weight）的小型模型系列，用户可自行调整参数连接以适配特定场景。Rovai评价其为"梦幻般的"小型AI基础模型。已有开发者成功在iPhone上实现完全离线的Gemma 4推理。
- 阿里巴巴Qwen 3.5 Small系列（2026年3月2日发布）：包含0.8B、2B、4B、9B四个参数规格，均采用Apache 2.0开源协议，支持262K上下文长度。其中0.8B模型已能处理视频，9B模型性能超越上一代30B模型。这是首个0.8B参数量即可处理视频的多模态模型家族。
这两款开源模型的意义在于：开发者可以免费下载、自由修改、离线部署，不再受制于API调用费用和网络连接。正如Rovai所说："我可以拿大量来自乳制品行业的数据，重新训练这个模型，使其专门服务于那个行业"——这种垂直定制能力是大模型API无法提供的。
全球AI格局的重构
世界银行已经开始积极推动"小AI"的发展，通过赠款、导师计划、融资和技术咨询等方式，在卢旺达等国支持政府项目，帮助低收入家庭获得能运行AI的设备。这标志着国际发展机构开始将小AI视为消除数字鸿沟的正式工具。
Alonge对此有一个深刻的判断："我认为AI的未来不是一个中心的巨型模型，而是数百万个部署在边缘的、精确的小型模型，每一个都在解决特定的、具体的问题。"
如果这一判断成立，那么当前以OpenAI、Google、Anthropic为中心的AI产业格局将面临重构。不是所有人都需要万亿参数模型——大多数人需要的，是一个能在自己手机上离线运行、解决自己具体问题的小模型。
接下来会怎样
大模型与小模型的共生
Rovai在IEEE Spectrum的报道中强调了一个关键点：大模型不会消失。创建能在手机上运行的生成式AI，仍然需要大模型的架构洞察、数据处理和训练结果。"我们需要大模型来创建这些小模型，"Rovai说。这意味着未来的AI生态可能是"金字塔结构"——少数超大规模模型位于顶端，负责基础训练和架构创新；而数百万个小型模型位于底端，负责具体场景的落地执行。
这个过程的技术路径已经成熟：通过剪枝（Pruning）移除大模型中与特定任务无关的参数；通过蒸馏（Distillation）训练小模型模仿大模型的表现；通过量化（Quantization）将32位模型压缩到8位甚至更低精度，以适配低功耗设备。
可持续性的挑战
但小AI的道路并非坦途。Alonge指出，即便药物扫描系统可以在无网络的手机上运行数天，"你仍然需要能够定期同步更新新的药物签名和分析数据"。基础设施——可靠的电力、正常运转的供应链、培养AI人才的教育体系——是任何AI应用都无法回避的前提。
"它有效，许多地方最终将需要使用它。问题在于政治参与者是否有足够的智慧投资于支持它的基础设施，以实现长期发展，"Alonge说。这句话同样适用于企业：引入AI工具只是第一步，构建持续更新、持续学习的能力才是真正的挑战。
当技术迭代的速度远超个人学习吸收的速度时，如何确保团队能够跟上？这个问题，无论对非洲的药店主还是对中国的企业培训负责人，都是同样紧迫的。
