英伟达开源 PAIR：用局域网路由汇集闲置算力，但并非把多机变成一张“大显卡”
· 来源：developer.nvidia.com
英伟达发布开源测试版 NVIDIA PAIR，以虚拟推理路由将局域网内多台设备的独立推理请求分配给空闲节点，瞄准多智能体本地 AI 的并发瓶颈。
英伟达于2026年9月3日介绍了 NVIDIA Personal AI Router（PAIR）测试版。这一开源工具试图把家庭或工作室局域网中的 PC、工作站、笔记本等设备组织为可调度的本地推理资源：当一个本地 AI 应用同时发起大量相互独立的请求时，PAIR 可将它们转发给具备可用算力的节点，从而缓解单机 GPU 排队。它面向的核心场景不是单次对话提速，而是研究、编程等多智能体工作流中主代理向多个子代理并发派发任务。
PAIR 的定位是“虚拟推理路由器”，而非新的模型推理引擎。模型仍由 Ollama 或 LM Studio 在某一台被选中的机器上完整执行；PAIR 负责发现局域网节点、判断节点是否就绪，结合推理引擎状态、目标模型是否已部署以及 GPU 利用率等信息进行调度，并将结果回传原始应用。由于它代理兼容的 Ollama 和 LM Studio 接口，现有代理框架原则上无需改造即可接入。
这一设计也划清了能力边界：PAIR 分配的是独立请求，而不是把一次请求的模型权重、KV Cache 或张量计算切分到多台机器。因此，它不能将多块显存简单合并，以运行一台单机装不下的大模型；每个候选节点仍须本地具备所需模型及足够显存。对需要模型并行、流水线并行或极低节点间延迟的负载而言，PAIR 不能替代专业集群互连与分布式推理框架。
英伟达给出的演示中，Hermes Desktop 通过 Ollama 运行五个子代理任务，三设备 PAIR 集群完成工作负载耗时8分48秒，而单台 RTX Spark 笔记本耗时18分钟。该结果说明，在任务可并发、模型已在多个节点可用且设备确有闲置容量时，路由式扩容能缩短总体完成时间；但这并不等同于所有模型、提示词长度和网络条件下的固定加速比。局域网带宽、Wi-Fi 抖动、节点性能不一致、冷启动及模型分发成本，都会影响实际体验。
在安全与部署层面，PAIR 使用 mDNS 发现设备，并采用 MTLS 加密配对与通信；英伟达称其设计目标是让提示词、数据和推理流量留在用户既有的本地网络中。不过，“本地”不自动等于零风险：加入集群的每台设备都成为处理敏感提示词和生成结果的执行端，用户仍需控制可信节点、操作系统账户、模型文件及局域网访问权限。
PAIR 提供图形界面和命令行版本，支持 Windows、macOS、Linux；兼容硬件包括 GeForce RTX 20 系列及更新产品、基于 Turing 及更新架构的 RTX PRO 工作站、DGX Spark，以及 Apple M4 及更新芯片。对拥有多台异构设备的开发者而言，它降低了利用闲置端侧算力的接入门槛；但其价值首先取决于并发任务是否足够多，以及用户能否接受模型在多节点重复部署和运维。
—— 综合整理自：NVIDIA Technical Blog、Benzyl titanium 博客（后者为无关链接收藏页，未作为本文事实依据）