Odysseus: Workspace AI self-hosted thay thế ChatGPT, chạy trên máy bạn

Bạn có bao giờ ước gì có một cái gì đó như ChatGPT hay Claude, nhưng chạy hoàn toàn trên máy mình, data không đi đâu cả, và quan trọng nhất mình kiểm soát mọi thứ? Odysseus vừa xuất hiện trên GitHub với hơn 21.4k stars, và nó đang cố làm đúng điều đó.

Odysseus là gì và tại sao nó đáng chú ý?

Odysseus tự giới thiệu là "self-hosted AI workspace" nghe có vẻ giống nhiều project khác, nhưng khi mình đào sâu vào thì thấy scope của nó rộng hơn hẳn. Thay vì chỉ là một cái chat UI wrapper cho LLM, Odysseus gom gần như mọi thứ bạn cần vào một chỗ: chat, agent, deep research, so sánh model, editor tài liệu, email với AI triage, calendar, notes, tasks.

Điều mình thấy hay là triết lý thiết kế của nó: local-first, privacy-first. Bạn chạy trên hardware của mình, data nằm trên máy mình. Không có chuyện prompt hay conversation bị gửi lên server của ai cả (trừ khi bạn chủ động dùng API bên ngoài như OpenAI hay OpenRouter).

Với 21.4k stars, 2.6k forks, 225 commits, 148 issues mở và 267 pull requests đây rõ ràng là một project đang rất active và có community mạnh.

Toàn bộ features nhìn một lượt

Mình tổng hợp lại các features chính để bạn dễ so sánh với các tool khác:

Nhìn bảng này bạn sẽ thấy: Odysseus không chỉ là chat UI. Nó đang cố trở thành một productivity workspace hoàn chỉnh có AI xuyên suốt.

Feature	Mô tả	Backend/Tech
Chat	Chat với local model hoặc API, thêm model rất dễ	vLLM, llama.cpp, Ollama, OpenRouter, OpenAI
Agent	Giao tool, để nó tự chạy task từ đầu đến cuối	MCP, web, files, shell, skills, memory
Cookbook	Scan hardware, gợi ý model phù hợp, click để download và serve	llmfit, VRAM-aware, GGUF/FP8/AWQ
Deep Research	Multi-step research, tổng hợp nguồn thành báo cáo visual	Adapted từ Tongyi DeepResearch
Compare	So sánh model side-by-side, blind test không bias	Multi-model, synthesis
Documents	Editor multi-tab, bạn viết AI hỗ trợ	Markdown, HTML, CSV, syntax highlighting
Memory/Skills	Agent học và nhớ theo thời gian	ChromaDB, fastembed (ONNX), vector + keyword
Email	Inbox IMAP/SMTP với AI triage	Auto-tag, auto-summary, auto-reply drafts
Notes & Tasks	Ghi chú, todo, scheduled tasks	ntfy, browser, email notifications
Calendar	CalDAV sync với Radicale, Nextcloud, Apple, Fastmail	.ics import/export, agent-aware

Những điểm mình thấy thực sự ấn tượng

Cookbook giải quyết đúng pain point

Theo kinh nghiệm của mình, một trong những bước khó chịu nhất khi chạy local LLM là chọn model. Bạn có GPU bao nhiêu VRAM? Model nào fit? GGUF hay FP8? Quantization nào cho chất lượng tốt nhất với hardware của mình?

Cookbook của Odysseus tự scan hardware, tính toán VRAM available, rồi gợi ý model phù hợp kèm "fit score". Click download, click serve xong. Đây là feature mà mình ước các tool khác cũng có, vì nó giảm friction đáng kể cho người mới.

Agent với MCP support

Agent system của Odysseus build trên MCP (Model Context Protocol) chuẩn mà Anthropic đang push mạnh. Điều này có nghĩa là bạn có thể plug thêm external tools vào agent một cách chuẩn hóa. Folder mcp_servers/ trong repo cho thấy họ đã có sẵn một số MCP server built-in.

Agent có quyền truy cập web, files, shell, và quan trọng nhất có memory và skills persistent. Nghĩa là càng dùng, agent càng hiểu bạn hơn. Data memory lưu trên ChromaDB với fastembed, hỗ trợ cả vector search lẫn keyword retrieval.

Email AI Triage feature bất ngờ

Mình không expect một AI workspace lại có email client, nhưng nghĩ lại thì nó make sense. Bạn kết nối IMAP/SMTP, Odysseus sẽ tự động phân loại email theo urgency, auto-tag, tóm tắt nội dung, draft reply, và filter spam. Tất cả chạy qua model local của bạn email nội dung nhạy cảm không bị gửi đi đâu cả.

Documents AI assist đúng cách

Điều mình đặc biệt thích ở phần Documents là triết lý: "YOU write the text, AI is there to assist, not the opposite." Quá nhiều AI writing tool hiện tại biến người dùng thành người review thay vì người viết. Odysseus đi ngược lại bạn viết, AI gợi ý và chỉnh sửa khi được yêu cầu.

So sánh nhanh với các alternative

Rõ ràng Odysseus đang chơi ở một league khác về scope. Nhưng scope rộng cũng là con dao hai lưỡi mình sẽ nói thêm ở dưới.

	Odysseus	Open WebUI	LibreChat	LobeChat
Chat UI	✅	✅	✅	✅
Agent + MCP	✅	Hạn chế	Hạn chế	Plugin-based
Deep Research	✅	❌	❌	❌
Model Cookbook	✅	❌	❌	❌
Email AI	✅	❌	❌	❌
Calendar/Tasks	✅	❌	❌	❌
Document Editor	✅	❌	❌	❌
Persistent Memory	✅	Cơ bản	❌	❌
Mobile Support	✅	✅	✅	✅

Deploy thế nào?

Nhìn vào repo structure, Odysseus support khá nhiều cách deploy:

Docker: có sẵn Dockerfile và docker-compose.yml cách đơn giản nhất
macOS: có build-macos-app.sh và start-macos.sh
Windows: có launch-windows.ps1
Linux service: có install-service.sh và odysseus-ui.service cho systemd

File .env.example cho thấy config qua environment variables. Có cả SearXNG config trong config/searxng/ nghĩa là deep research dùng SearXNG làm search engine, cũng self-hosted luôn.

Một vài điểm cần lưu ý

Thẳng thắn mà nói, mình có vài concern:

Scope quá rộng. Email client, calendar, document editor, task manager mỗi cái đó đã là một product riêng. Làm tất cả trong một repo có risk là không feature nào thực sự polish. 148 issues mở cũng phần nào phản ánh điều này.

Maintenance burden. Với nhiều integration như vậy (CalDAV, IMAP/SMTP, MCP, nhiều LLM backend), việc giữ mọi thứ hoạt động ổn định qua các bản update sẽ là thách thức lớn.

Resource requirement. Chạy local LLM + ChromaDB + SearXNG + email service + calendar bạn cần một máy khá mạnh. Đây không phải thứ chạy trên Raspberry Pi được.

Nhưng nói gì thì nói, 21k stars không phải tự nhiên mà có. Community đang vote bằng chân, và hướng đi của Odysseus một workspace AI tổng hợp, self-hosted là thứ mà rất nhiều người đang tìm kiếm.

Ai nên thử?

Privacy-conscious developers muốn chạy AI hoàn toàn local
Người đang dùng nhiều tool rời rạc (Ollama + Open WebUI + Obsidian + Thunderbird) và muốn gom lại
Team nhỏ muốn có AI workspace nội bộ mà không phụ thuộc SaaS
Người thích tinkering project này có đủ độ phức tạp để bạn vọc cả tuần

Nếu bạn chỉ cần chat UI đơn giản cho Ollama, Open WebUI vẫn là lựa chọn nhẹ nhàng hơn. Nhưng nếu bạn muốn một thứ ambitious hơn, all-in-one hơn Odysseus đáng để bỏ một buổi chiều ra setup và khám phá.

Repo đang rất active, có file ROADMAP.md và CONTRIBUTING.md rõ ràng. Nếu bạn muốn contribute cho một open-source project đang lên, đây là cơ hội tốt. Check repo tại github.com/pewdiepie-archdaemon/odysseus và cho mình biết bạn nghĩ gì nhé.