Revenue AI OS: Câu chuyện kỹ thuật đằng sau lớp hạ tầng AI doanh thu — góc nhìn từ một developer Easy AI
Từ một developer tại Easy AI: câu chuyện thật về cách xây dựng Revenue AI OS — lớp hạ tầng AI doanh thu — từ Harness, tri thức doanh nghiệp đến vận hành ở quy mô hơn 10 tỷ tokens/tháng.
Trong bài này
Revenue AI OS: Câu chuyện kỹ thuật đằng sau lớp hạ tầng AI doanh thu — góc nhìn từ một developer Easy AI
Tôi là một developer ở Easy AI. Bài viết này không phải để bán hàng. Tôi chỉ muốn kể những gì đội ngũ kỹ thuật thực sự đang xây — câu chuyện đằng sau cái tên "Revenue AI OS" mà có thể bạn đã đọc ở bài viết chính thức.
Hồi đầu năm 2024, team chúng tôi gặp một vấn đề. Mỗi khách hàng mới lại mang đến một yêu cầu tích hợp khác nhau. Có khách muốn chatbot đơn thuần. Có khách muốn automation marketing. Có khách muốn CDP. Vài khách muốn tất cả.
Ban đầu, chúng tôi xử lý từng yêu cầu riêng lẻ. Làm xong cái này, sang cái kia. Nhưng càng làm càng thấy: vấn đề không phải thiếu AI model. Vấn đề là thiếu một lớp vận hành để kết nối tất cả.
Model AI — GPT, Claude, Gemini — ai cũng thuê được. Cái làm nên khác biệt là thứ đằng sau: một runtime quyết định khi nào gọi model nào, khi nào tra dữ liệu, khi nào gọi công cụ bên ngoài.
Đó là lúc Easy AI Harness ra đời.
Harness — "kẻ vô hình" tốn nhiều công sức nhất
Harness không phải một tính năng. Nó là cách chúng tôi thiết kế lại toàn bộ hệ thống.
Hãy tưởng tượng bạn muốn AI vừa trả lời khách hàng, vừa tra tồn kho, vừa tạo đơn hàng. Bạn không thể gửi tất cả vào một prompt và hy vọng nó tự xử lý. Bạn cần một vòng lặp có kiểm soát.
Vòng lặp Harness trông như thế này:
Receive → Retrieve → Reason → Tool_call → Execute → Verify → Respond
Mỗi bước đều có kiểm soát. Ở bước Retrieve, hệ thống quyết định có cần tra dữ liệu không. Ở bước Reason, nó suy luận dựa trên thông tin vừa lấy. Ở bước Tool_call, nó gọi API bên ngoài — tra tồn kho, kiểm tra đơn hàng, tạo ticket.
Đây không phải chuyện prompt engineering. Đây là thiết kế một runtime cho AI.
Điểm quan trọng: cơ chế "human-in-the-loop". AI tự làm, nhưng khi confidence (mức độ tin cậy) vượt ngưỡng an toàn, hệ thống đẩy sang người. Tất cả đều có audit log — ai làm gì, lúc nào, dựa trên dữ liệu nào.
Yêu cầu này đến từ khách hàng enterprise. Họ không tin AI làm việc không có ai giám sát. Và họ đúng.
Lớp tri thức doanh nghiệp — bài toán tiếng Việt
Một trong những việc tốn thời gian nhất là xây dựng lớp tri thức doanh nghiệp.
Chúng tôi phải tự xây embedding riêng cho tiếng Việt. Lý do: các model embedding quốc tế không hiểu hết sắc thái tiếng Việt — từ đồng âm khác nghĩa, từ ghép, từ mượn.
Kết hợp với reranking (sắp xếp lại kết quả truy xuất) để đảm bảo thông tin đúng nhất được ưu tiên.
PDF scan? Dùng OCR. Catalogue sản phẩm? Phải hiểu theo cấu trúc: giá, SKU, tồn kho — không phải một đống text.
Mỗi khách hàng có workspace riêng. Dữ liệu được cô lập hoàn toàn. Không khách nào thấy dữ liệu của khách khác.
10 tỷ tokens — con số có nghĩa gì với developer
Tháng 12/2025, OpenAI gửi thư xác nhận Easy AI là đối tác đầu tiên tại Việt Nam vượt 10 tỷ tokens.
Tính đến giữa 2026, chúng tôi xử lý hơn 10 tỷ tokens mỗi tháng.
Với một developer, con số này có nghĩa là: hệ thống phải ổn định. Không được crash. Không được latency vượt ngưỡng. Phải tự scale khi lượng request tăng đột biến — mùa khuyến mãi, Black Friday, Tết.
Áp lực kỹ thuật lớn nhất không phải làm AI thông minh hơn. Mà là làm cho nó chạy ổn định ở quy mô đó.
Team chúng tôi phải thiết kế lại kiến trúc nhiều lần. Queue, caching, load balancing — những thứ tưởng chừng cơ bản nhưng ở quy mô 10 tỷ tokens/tháng, mỗi quyết định sai đều trả giá bằng downtime.
Hệ sinh thái 3 lớp
Revenue AI OS có 3 lớp:
Platform — thứ khách hàng thấy. Real-time, xử lý hội thoại, ticket, automation.
Notebook — nội bộ doanh nghiệp. Xử lý tài liệu dài, phân tích dữ liệu, tạo báo cáo.
Harness — lõi. Điều phối tất cả.
Mỗi lớp có bài toán riêng. Platform phải real-time — không ai muốn đợi 10 giây để chatbot trả lời. Notebook phải xử lý tài liệu dài — có khách hàng upload cả catalogue 500 trang. Harness phải điều phối — quyết định đúng lớp nào xử lý việc gì.
Điều thú vị nhất
Với tư cách developer, tôi thấy điều thú vị nhất không phải AI thông minh đến đâu. Mà là khi AI được đặt vào đúng chỗ — gần điểm phát sinh doanh thu nhất — thì nó tạo ra giá trị thực sự.
Revenue AI OS là cách chúng tôi nghĩ về điều đó.
Nếu bạn là CTO hoặc trưởng phòng kỹ thuật đang tìm cách đưa AI vào doanh nghiệp, tôi hy vọng bài viết này cho bạn một góc nhìn thực tế hơn. Không phải AI làm được gì. Mà là bạn cần hạ tầng gì để AI làm việc đó ổn định, ở quy mô thật.
Còn tôi, tôi quay lại code tiếp. Harness vẫn còn nhiều thứ phải tối ưu.
SEO title: Revenue AI OS góc nhìn kỹ thuật — Developer Easy AI chia sẻ SEO description: Từ một developer tại Easy AI: câu chuyện thật về cách xây dựng Revenue AI OS — lớp hạ tầng AI doanh thu — từ Harness, tri thức doanh nghiệp đến vận hành ở quy mô hơn 10 tỷ tokens/tháng.
Viết và kiểm chứng bởi Nguyễn Hoàng Lộc (Beru), TP. Hồ Chí Minh