奈亚
目录
  1. 1视频手册
  2. 2Naia OS Live USB
  3. 3安装部署
  4. 3.1Naia OS 安装 (ISO)
  5. 3.2应用安装
  6. 4开始使用
  7. 4.1Naia Model Pricing
  8. 4.2naia-omni-cascade
  9. 4.3demo
  10. 4.4naia-offline
  11. 4.5naia-model-dev
  12. 4.6naia-online
  13. 5主屏幕
  14. 6聊天
  15. 6.1个人电台 DJ 与展览导览
  16. 7对话历史记录
  17. 8工作进展
  18. 9技能
  19. 10渠道
  20. 11代理商
  21. 12诊断
  22. 13工作区
  23. 14浏览器
  24. 15面板管理
  25. 16语音对话
  26. 17设置
  27. 18工具详情
  28. 19Naia 账号
  29. 20故障排除
  30. 21开源使用与贡献

16. 语音对话

在Naia中使用语音对话有两种方式。

两种方式

Omni模式

一个AI模型直接听取语音并即时以语音回应。无需中间转换,能理解语调和情感,因此更自然、更快速。

STT → LLM → TTS 管道

将语音识别(STT)、文本AI(LLM)、语音合成(TTS)分别使用不同的提供商进行组合。可以自由选择提供商,也可以构建完全免费的方案。


Omni模式

在设置 > AI中,从模型列表中选择带有🗣️图标的模型即可激活Omni模式。

Gemini Flash Live(云端)

提供商模型API密钥费用
Naia CloudGemini 3.1 Flash Live 🗣️不需要(积分)扣除积分
Gemini(直连)Gemini 2.5 Flash Live 🗣️Google API密钥约$0.03/分钟

8种语音:Kore(女性,默认)、Puck(男性)、Charon(男性)、Aoede(女性)、Fenrir(男性)、Leda(女性)、Orus(男性)、Zephyr(中性)

GPT-4o Realtime(云端)

提供商模型API密钥费用
OpenAIGPT-4o Realtime 🗣️OpenAI API密钥约$0.10/分钟

10种语音:Alloy(中性)、Ash(男性)、Ballad(男性)、Coral(女性)、Echo(男性)、Sage(女性)、Shimmer(女性)、Verse(男性)、Marin(推荐)、Cedar(推荐)

MiniCPM-o 4.5(本地)

通过vllm-omni服务器,在本地完全运行Omni语音对话。目前是本地实际可用的几乎唯一的Omni模型。

在设置 > AI中将提供商选择为vLLM,即可自动获取服务器的模型列表。当模型名称包含"minicpm-o"时,会自动识别为🗣️。

硬件要求:BF16模式下约需35GB VRAM。推荐A40(46GB)以上或48GB GPU。

启动服务器

vllm serve openbmb/MiniCPM-o-4_5 \
  --omni --port 8091 --host 0.0.0.0 \
  --max-model-len 2048 --skip-mm-profiling

在Naia设置中输入vLLM服务器地址(例如:http://localhost:8091)。

如果本地没有GPU,可以在RunPod等云GPU上运行。请参考RunPod指南

目前支持英语和中文的语音输入输出。

未来计划:将支持基于音频参考的语音克隆和微调管道。


STT → LLM → TTS 管道

不使用Omni模型也可以通过分别设置STT和TTS来构建语音对话。

STT(语音识别)

在设置 > 语音中选择:

提供商离线API密钥费用
Web Speech API不需要免费
Vosk不需要免费
Whisper不需要免费
Naia Cloud不需要(登录)积分
vLLM ASR是(本地)不需要免费

TTS(语音合成)

在设置 > 语音中选择:

提供商离线API密钥费用
Naia Cloud TTS不需要(登录)积分
Edge TTS不需要免费
Google Cloud TTS需要$0.016/1K字符
OpenAI TTS需要$0.015/1K字符
ElevenLabs需要$0.30/1K字符
vLLM TTS是(本地)不需要免费
Custom各异各异各异

使用预览按钮可以测试所选语音。

组合示例

环境STTLLMTTS费用
完全免费VoskOllama(本地)浏览器 TTS免费
性价比Web SpeechGemini 2.5 FlashEdge TTS约$0.3/1M tokens
高品质WhisperClaude SonnetElevenLabsAPI费用
Naia CloudNaia Cloud STTNaia Cloud LLMNaia Cloud TTS仅积分
完全本地(GPU)vLLM ASRvLLMvLLM TTS免费