Xin chào, tôi là Luke, người đang xây dựng hệ điều hành AI mang tên Naia. Tiếp nối bài viết trước đây, nơi tôi vội vàng chia sẻ tin ra mắt và nhờ đến sự giúp đỡ của các bạn, lần này cùng với bản cập nhật v0.1.5, tôi xin chia sẻ tin tức quan trọng nhất — không chỉ là một hệ điều hành AI, mà còn là một mô hình AI omni hoàn toàn mới, chính xác hơn là module Naia-Omni (naia-0.9-omni-24g).
▎Những gì bạn có thể trực tiếp trải nghiệm trong Naia-OS với v0.1.5 lần này
- Hội thoại giọng nói thời gian thực với avatar 3D (bao gồm sao chép giọng nói) — đây là nhân vật chính của phiên bản này.
- Trình duyệt nhúng — AI cùng nhìn màn hình với bạn và hỗ trợ bạn.
- Hệ thống kỹ năng — mở rộng chức năng với các kỹ năng tích hợp sẵn và kết nối các công cụ MCP (Model Context Protocol).
- Bảng ứng dụng (App panel) — thêm những bảng ứng dụng bạn muốn, ngay bên trong Naia.
- Mô hình của bạn, khóa của bạn, nguyên vẹn — kết nối nhà cung cấp/khóa AI bạn thích, hoặc chạy bằng một mô hình cục bộ.
- Quyền riêng tư — mặc định thực thi cục bộ; dữ liệu đầu vào và đầu ra của bạn không được dùng để huấn luyện mô hình.
- Hỗ trợ giao diện 14 ngôn ngữ
Naia không chỉ dừng lại ở một lớp vỏ (Shell) tự nhận mình là hệ điều hành. Trái tim của bản cập nhật này là module naia-0.9-omni-24g, hiện thực hóa hội thoại thời gian thực song công hoàn toàn ở đẳng cấp ChatGPT/Gemini cùng với 30 ngôn ngữ trong môi trường GPU phổ thông (RTX 3090/4090/5090, 24GB VRAM).
Đây là video tôi kết nối với Naia-Omni đã cài trực tiếp trên PC của mình và trò chuyện bằng giọng nói thật. (Xin lưu ý rằng giọng nói từ micro của tôi không được ghi lại trong video.)
▎Tại sao lại là một module 'cascade'
Trước đây tôi từng nói rằng đang chuyển MiniCPM-4.5-omni sang vLLM — đó chính xác là để cấy ghép nó vào Naia. Sức mạnh lớn nhất của một mô hình Omni là khả năng hội thoại thời gian thực cực kỳ tự nhiên. Tuy nhiên, mô hình đó đòi hỏi hơn 28GB VRAM và lại có hạn chế là chỉ hỗ trợ tiếng Trung và tiếng Anh. Để cải thiện nó cho tiếng Hàn, tôi đã tiến hành song song nhiều nghiên cứu, bao gồm cả việc tinh chỉnh (FT) phần Talker, nhưng cuối cùng vẫn vấp phải trần kỹ thuật — và mọi mô hình Omni khác đều nặng hơn rất nhiều.
Sau khi tìm kiếm giải pháp thay thế như vậy, thứ tôi rốt cuộc tạo ra không phải là một mô hình đơn lẻ mà là naia-0.9-omni-24g theo phương thức 'Cascade'. Đây là một module điều phối và tối ưu hóa hợp lý nhiều mô hình AI cùng nhau; tuy chưa phải là xử lý hoàn hảo theo từng token, nhưng nó tự hào với tốc độ tương đương và một cấu trúc linh hoạt hơn rất nhiều. Trên thực tế, đây là lựa chọn duy nhất hỗ trợ đồng thời 30 ngôn ngữ, song công hoàn toàn và sao chép giọng nói thời gian thực trên một GPU phổ thông 24GB. Chúng tôi hướng dẫn để bạn có thể sử dụng nó ở cấp độ API, hệt như một mô hình độc lập đơn lẻ — và bạn có thể tự mình trải nghiệm khả năng sao chép giọng nói thông minh và rõ ràng hơn rất nhiều.
| Mô hình omni đơn lẻ | cascade (phương thức Naia) | |
|---|---|---|
| Cấu trúc | Mô hình tích hợp thành một khối | Lắp ráp các bộ phận theo từng vai trò |
| Thay đổi năng lực | Một khi đã huấn luyện thì cố định — năng lực mới cần huấn luyện lại | Có thể thay/thêm bộ phận bất cứ lúc nào — cải thiện không cần huấn luyện lại |
| Tốc độ | Tích hợp nên nhanh (độ trễ thấp) | Có nhiều bước nên độ trễ có thể tăng nhẹ |
| Mở rộng đa phương thức | Huấn luyện lại từ đầu | Gắn thêm bộ phận vào đầu vào/đầu ra |
| Chọn bộ phận | Bị gói chung cả khối | Chọn và dùng/thay các bộ phận đã được kiểm chứng |
| Sử dụng mô hình | Cố định vào một mô hình | Dùng nhiều mô hình cùng nhau — mô hình tối ưu cho mỗi bước |
naia-0.9-omni-24g hoàn thiện theo cách này vận hành mượt mà trên môi trường PC phổ thông RTX 3090/4090/5090 (24GB).
⚙️ Cách sử dụng và những đặc điểm
Xét đến tình hình hạ tầng thực tế, cách sử dụng của bản cập nhật lần này đã được tổ chức lại như sau.
Cung cấp container cục bộ (quyền lợi của người đăng ký Basic) — chúng tôi mở để bất kỳ ai cũng có thể tải về PC cá nhân dưới dạng container và tự tay xây dựng ứng dụng của riêng mình.
podman pull ghcr.io/nextain/naia-0.9-omni-24g:latest
Tuy nhiên, vì bản thân tôi cũng phải duy trì kế sinh nhai để tiếp tục dự án mã nguồn mở này, tôi đã thiết lập để người dùng gói đăng ký cơ bản (10 USD/tháng) có thể sử dụng 1 Copy mỗi người. Mong bạn xem đó như sự hỗ trợ tối thiểu cần thiết để hệ sinh thái mã nguồn mở Naia tiếp tục phát triển bền vững. → Hướng dẫn tải xuống và kích hoạt mô hình Naia
Trải nghiệm demo web (dùng thử 60 giây) — hiện tôi đang trực tiếp chạy nó trên 1 chiếc PC cá nhân của mình để cung cấp những trải nghiệm dùng thử mỗi lần 60 giây. Do tài nguyên có hạn, hàng đợi (Queue) có thể xuất hiện tùy theo số người truy cập, mong bạn rộng lòng thông cảm. → Demo trực tiếp
Sử dụng đám mây (đang chuẩn bị) — mô hình 0,33 USD mỗi giờ như kế hoạch ban đầu, rất tiếc, nay phải tạm chuyển sang trạng thái 'đang chuẩn bị'. Trong lúc thiếu vốn và thiết bị như hiện nay, việc duy trì một pool GPU luôn túc trực là điều khó khăn, và việc gánh chịu miễn phí chi phí máy chủ trong khoảng 15 phút khởi động sau khi cấp phát là quá sức. Tôi cũng đã phát triển sẵn hệ thống dựa trên RTX 3090 từ xa có thể dùng trong nước, nhưng đánh giá rằng tình trạng khan hiếm GPU khiến khó cung cấp dịch vụ trơn tru. Sau này khi đủ vốn, tôi nhất định sẽ mang đến một dịch vụ đám mây thoải mái, không phải chờ đợi.Tương thích cao — nó hỗ trợ OpenAI Realtime API để tối đa hóa khả năng tương thích với các hệ thống hiện có.
| Endpoint | Công dụng |
|---|---|
GET /health | Trạng thái sẵn sàng {"ready":true} (không cần xác thực) |
GET /v1/models | Danh sách mô hình |
WS /v1/realtime | Phiên giọng nói thời gian thực (VAD, ngắt lời, cảm xúc) |
POST /v1/chat/completions | Chat (hỗ trợ streaming) |
POST /v1/audio/speech | Tổng hợp giọng nói (TTS) |
POST /v1/audio/transcriptions | Nhận dạng giọng nói (STT) |
POST /v1/embeddings | Embedding |
→ Sử dụng chi tiết mô hình Naia (hướng dẫn cho nhà phát triển)
An toàn và quyền riêng tư — vì module này có hiệu năng vượt trội nên cũng có nguy cơ bị lạm dụng cho lừa đảo qua giọng nói (voice phishing), do đó tôi đã chuẩn bị áp dụng công nghệ đóng dấu chìm âm thanh (audio watermark) để có khả năng truy vết, giúp bạn yên tâm sử dụng.
🧠 Tương lai mà Naia đang vẽ nên (Naia Cognitive)
Định hướng tối hậu mà Naia theo đuổi là hiện thực hóa 'AI của tôi, bên trong máy tính của tôi', và xây dựng một hệ sinh thái phát triển, phân phối các ứng dụng mà bạn sử dụng cùng với AI. Tính đa phương thức mà tôi hình dung không đơn thuần là việc nhập/xuất dữ liệu, mà hướng đến năng lực nhận thức (Naia Cognitive), nơi AI tự mình trải nghiệm, ghi nhớ và biểu đạt.
Ở phiên bản tiếp theo, những cập nhật cho agent (Naia-agent), bộ nhớ dài hạn (Naia-memory) và framework (Naia-ADK) đang chờ đón. Phiên bản kế tiếp sẽ ra mắt cùng Naia-0.9-Omni-48g, đang được nghiên cứu và phát triển hướng đến cấu hình hồ sơ và môi trường cục bộ ở mức có thể làm việc lập trình, cùng một hình ảnh — đúng nghĩa như 'Jarvis của Iron Man' — ghi nhớ người dùng và cùng làm việc qua giọng nói thời gian thực.
48GB vẫn là vùng quá tải dù cố nhồi nhét vào 24GB thế nào đi nữa, nhưng chỉ cần cắm hai chiếc RTX 3090 đời cũ là đủ, nên tôi cho rằng cá nhân cũng hoàn toàn có thể mơ tới.
🎮 Naia OS là AI ghi nhớ tôi, làm việc và vui chơi cùng tôi
Bức tranh mà Naia-OS vẽ nên là như thế này.
- Máy chơi game nền tảng Steam(Bazzite)/Windows + agent thông minh ghi nhớ tôi + giao diện ngôn ngữ tự nhiên dựa trên avatar 3D + hồ sơ tối ưu hóa theo từng mức VRAM
Gần đây việc MS và Nvidia chế tạo thiết bị AI nhỏ gọn dựa trên RTX đã gây xôn xao lớn nhỉ. Thực ra không cần phải chờ đợi đâu. Bởi Naia-OS vừa chơi game vừa làm AI đang nhắm chính xác vào vị trí đó. Nếu là tôi, tôi sẽ chọn cấu hình Naia-OS thay vì sản phẩm mới đó — giá còn đắt hơn cả dòng cao cấp mà chúng tôi khuyến nghị, độ tương thích game thì chưa rõ, và bộ nhớ hợp nhất lại chậm. Ngược lại, Naia-OS cắm GPU phổ thông đã được kiểm chứng thì nắm trọn cả game, AI lẫn khả năng mở rộng.
Không phải tôi cố tình trì hoãn môi trường Mac, mà chỉ là do thiếu thiết bị và thời gian nên chưa thể đụng tới. Cũng có những người đã hứa cùng giúp đỡ.
Naia-OS không phải là một module đơn lẻ mà được cấu thành từ các kho mã nguồn mở (repository) tách biệt theo từng vai trò, và đang dần dần ghép nối bộ khung. Bạn có thể nghĩ "sao mà nhiều thứ khủng khiếp thế?", nhưng đó là điều khả thi chính vì giờ đây đang là 'thời đại phát triển dựa trên AI'.
Nếu hệ điều hành truyền thống là công cụ để quản lý ứng dụng, thì tôi tin rằng hệ điều hành AI sẽ trở thành phần mềm và cũng là một robot biết giao tiếp bằng ngôn ngữ tự nhiên, biết ghi nhớ và tự mình xử lý công việc. Đây không phải lời nói suông; tôi sẽ chứng minh từng chút một bằng các thành quả cụ thể.
🤝 Cùng nhau nào — Buổi gặp mặt offline & Discord
Trong tuần tới, tôi định tổ chức một buổi gặp mặt offline để giới thiệu những gì đã làm được thời gian qua và tìm những người cùng nhau giúp đỡ, hỗ trợ lẫn nhau. Mời bạn thử tải module về dùng một lần, và những ai quan tâm hãy ghé qua Discord bên dưới nhé. Tôi hy vọng nó sẽ phát triển thành một cộng đồng mã nguồn mở thực thụ.
Mong các bạn dành nhiều sự cổ vũ và quan tâm cho chặng đường mà Nextain và Naia sẽ tạo dựng trong tương lai.
#Nextain #Naia
