首页 › new-tools › 别再租语音机器人:海外开源三件套

你有没有发现一个奇怪的现象:海外创业者圈最近流行「自己搭语音 Agent」,从客服电话到口语陪练,全用开源框架白手起家;而国内多数团队还在按分钟给「智能外呼」「语音客服」SaaS 交月租。差的不只是钱,是整条链路的主动权——话术怎么改、数据落在哪、能不能接自己的模型,租来的东西你一样都说了不算。

今天这篇就补这个信息差。我捞了三件海外工程圈已经在生产环境里跑、但国内几乎没人系统写过的新工具:Pipecat、LiveKit Agents、FastRTC。三件都是开源、免费的实时语音 Agent 框架,定位从「十分钟跑通」到「扛住高并发接电话」全覆盖。它们不是这两周才冒头的网红货,而是刚刚跨过「能用了」门槛、还没被教程淹 没的那批——现在学,正好卡在第一批。

先说清楚背景:为什么语音 Agent 突然能自己搭了?三个条件在 2024 年底凑齐了——OpenAI 在 2024 年 10 月放出 Realtime API,把「语音进语音出」的延迟打到可对话水平;谷歌 Gemini 也跟进 Live API;再加上 WebRTC 这套浏览器实时通话的老基建足够成熟,中间层就缺一套「胶水框架」。下面三件,就是这层胶水。

一、Pipecat:语音 Agent 的乐高积木

仓库:https://github.com/pipecat-ai/pipecat | 官网:https://pipecat.ai 出品方:Daily 团队(做浏览器实时视频通话基础设施多年的那家公司,WebRTC 功底是祖传的) 价格:开源免费;官方另有托管部署服务,按用量计费(现价以官网为准)

它是干什么的:一个 Python 框架,把语音 Agent 拆成一节节管道——传输层、语音识别(STT)、大模型(LLM)、语音合成(TTS),像拼乐高一样串起来。最值钱的是它的「可插拔」:STT 可以挂 Deepgram 或本地 Whisper,LLM 可以接 OpenAI、Gemini,也可以接 Ollama 跑本地模型,TTS 可以用 ElevenLabs 也可以随时换别家。装法一行命令:pip install pipecat-ai。

为什么值得关注:语音 Agent 最怕「供应商绑架」——今天用 A 家的 TTS,明天想换便宜的 B 家,代码得重写。Pipecat 把每一段都做成标准接口,换供应商等于换一个参数。对要长期运营的产品来说,这个灵活度就是命根子。打断处理(用户插话时机器人立刻闭嘴)、语音活动检测(VAD)这些容易被忽略的脏活,它也内置了。

与国内方案对比:国内低代码机器人平台(Coze、Dify 这类)强在文字对话编排,实时语音链路大多要落到云厂商的智能语音产品上,按分钟计费且供应商绑定较深。Pipecat 这类「框架层」的开源选择,国内中文教程还非常少——这正是信息差所在。

适用人群:想把语音 Agent 做成正经产品、未来要换模型换供应商、需要跑在自己服务器上的开发者和技术团队。

二、LiveKit Agents:自带发电厂的重量级选手

官网:https://livekit.io | 文档:https://docs.livekit.io | 仓库:https://github.com/livekit/agents 价格:核心全开源(Apache 2.0 协议),可自托管;官方云服务按用量收费

它是干什么的:LiveKit 本身是开源的 WebRTC 服务器(实时音视频圈的基础设施),Agents 是架在它上面的语音 Agent 框架。杀手锏有两个:一是自带并发调度——Agent Worker 会自动把会话分给多个进程实例,你不用自己搞负载均衡;二是能接真电话——通过 SIP 对接 Twilio 这类电话网关,机器人可以直接接听和拨出真实电话号码。Python 写 Agent 逻辑,前端还有现成的 JS/Flutter SDK。一行 pip install livekit-agents 装上。

为什么值得关注:2024 年底 OpenAI 发布 Realtime API 时,官方的语音演示背后用的就是 LiveKit——这个出身说明它扛得住「真·实时」的检验。如果你要做的是「给门店接电话」「自动外呼回访」这类有电话号码参与的场景,它是三件里工程完成度最高的。不想上云?整套 LiveKit 服务器可以自己部署,数据不出门。

与国内方案对比:国内做「电话机器人」的供应商不少,但基本是黑盒 SaaS:话术模板给你配,数据在他们后台。用 LiveKit 自建,SIP 线路照样可以接国内运营商的合规线路,机器人大脑、日志、录音全部攥在自己手里。对有合规要求(比如通话数据不能出境)的团队,这个差别是决定性的。

适用人群:要接真实电话、预期并发量大、对数据主权有要求的团队;也适合给现有 App 加「按住说话」式语音助手的前端开发者。

三、FastRTC:十行代码验证一个点子

出品方:Hugging Face(Gradio 团队出品)| 安装:pip install fastrtc | 仓库:GitHub 搜「fastrtc」 价格:完全开源免费

它是干什么的:2025 年 3 月发布的轻量库,核心就是一个 @stream 装饰器——你写一个普通的 Python 函数(比如「收到音频、返回音频」),套上装饰器,它自动帮你搞定 WebRTC 连接、回声消除、自动断句(turn-taking)。调试界面自动生成,点开浏览器就能对着麦克风说话。想接真电话?接上 Twilio 就行。写完直接能丢到 Hugging Face Spaces 免费托管,别人打开网页就能用。

为什么值得关注:它解决的是「想法到原型」的距离问题。用重框架搭一个能对话的语音 Demo 要半天,FastRTC 只要十分钟。海外很多开发者拿它做语音 Agent 的「周末实验」:口语陪练、实时翻译耳返、给宠物摄像头加个能对话的看门机器人。验证完点子再迁去 Pipecat 或 LiveKit 上正经做产品,这个工作流已经很成熟。

与国内方案对比:国内想做语音交互原型的同学,路径通常是「买开发板 + 云厂商语音套件」,光开通服务就要填一堆表单。FastRTC 这种「一个装饰器搞定实时音频流」的极简路线,加上 Hugging Face 免费托管,几乎零成本试错——对独立开发者和学生极其友好。

适用人群:想快速验证语音产品点子的独立开发者、做课程作业/比赛-demo 的学生、想给现有项目加语音口的工程师。

一张图看懂语音 Agent 的完整流水线

三件工具其实是在同一条流水线的不同位置帮你偷懒:

flowchart TD
    A["用户开口:网页或电话"] --> B["传输层 WebRTC 或 SIP"]
    B --> C["VAD 判断说没说完"]
    C --> D["STT 语音转文字"]
    D --> E["LLM 想答案"]
    E --> F["要不要调用函数"]
    F -->|是| G["查订单/查库存/写日程"]
    G --> E
    F -->|否| H["TTS 文字转语音"]
    H --> I["回传声音给用户"]

成本账:三条路线自己挑

路线 组合 边际成本 适合阶段
全云端 云 STT + 云 LLM + 云 TTS 按分钟付费给三家供应商 上线收费、要最佳音质
混合 本地 Whisper 转写 + 云 LLM + 云 TTS 只付 LLM 的钱 想省钱又不想全自建
全本地 faster-whisper + Ollama(或接你自己的模型)+ Kokoro/Piper 本地 TTS 约等于电费 数据敏感、量大、有显卡

Pipecat 和 LiveKit 对这三条路线全都兼容,因为模型层本来就是可插拔的——这就是「框架」和「SaaS」最本质的区别:SaaS 卖你一条固定路线,框架让你随时改道。

信息差总结

你可能知道的 别人已经知道的
语音机器人 = 买 SaaS 月租,按分钟计费 三套开源框架免费拿,供应商随便换
搭语音 Agent 要懂 WebRTC、音频底层 FastRTC 一个装饰器全包了
接电话必须找「电话机器人」供应商 LiveKit Agents 开源版就能 SIP 接真电话
换 TTS 供应商要重写代码 Pipecat 里换供应商只是换个参数
原型验证要开通一堆云服务 FastRTC 写完免费丢上 HF Spaces 就能用

行动指南:这个周末就能干的事

  1. 建立直觉(10 分钟):pip install fastrtc,跑通官方的 echo 示例,对着麦克风说一句话、听到自己的回声——你会立刻理解「实时音频流」是什么。
  2. 换成真大脑(1 小时):把回声函数改成「STT → 你的 LLM → TTS」。模型接你手上现成的任意服务即可,这一步做完你就有一个能对话的语音机器人了。
  3. 想接电话:去 docs.livekit.io 跑一遍 Agents 快速上手,重点看 SIP 电话那章,准备一个 Twilio(或你手上合规的 SIP 线路)账号。
  4. 想做成产品:迁移到 Pipecat,把 STT/TTS 做成配置项,给未来砍成本留后路。
  5. 上线前必查三件事:打断体验(用户插话机器人能不能立刻停)、回声与噪音、通话日志留存。这三个坑,SaaS 帮你踩了,自建就得自己踩——也是自建的真正成本所在。

一个提醒:这三件的文档都在快速迭代中,本文基于写作时点的公开资料,具体 API 名称和托管价格请以各官方仓库与文档为准。但方向不会变——实时语音的「胶水层」正在开源化,就像当年的数据库和前端框架一样。先学会用框架的人,下次就不用再交月租了。


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入