Mình dùng getoutline để làm nơi lưu trữ tài liệu, sản phẩm, quy trình cho toàn bộ hoạt động. Nhưng thực tế, nhiều khi mình nhận thấy nhân viên thích hỏi hơn là tự tìm tòi lục lọi đống dữ liệu có sẵn. Các tình huống diễn ra thực tế, hỏi nhanh hơn là lục tung đóng tài liệu để tìm chi tiết.

Bản thân mình dùng AI hằng ngày, các nguồn dữ liệu được kết nối vào Claude rõ ràng năng suất cá nhân tăng lên. Như vậy với team quá nhỏ như bên mình thường mọi người phải làm đa zi năng cần một hướng để tối ưu, trang bị AI để mỗi người làm việc tốt hơn, nhiều hơn. Thay vì học các kiến thức sử dụng phức tạp, mình quyết định xây dựng một em ‘bot’ đã được dạy sẵn các kiến thức bán hàng, quy trình, những câu khách hàng hay hỏi, tình huống xử lý thực tế các trường hợp thường gặp. Nhân viên chỉ cần hỏi bằng ngôn ngữ tiếng việt bình thường, bot tìm đúng tài liệu để trả lời.

Mình đã thử nhiều chatbot như openclaw, chatbase nhưng chưa phù hợp lắm. Chủ yếu là về vấn đề chi phí, mỗi tin nhắn openclaw gửi toàn bộ lịch sử. Chi phí phình to và không khả quan lắm. Chưa kể các vấn đề bảo mật. Các bot dịch vụ như chatbase thì giới hạn ở việc kết nối với các công cụ khác bên ngoài và không tự động cập nhật tài liệu hỗ trợ mới được. Chưa kể các rủi ro bảo mật mà người dùng bình thường không lường hết được.

Cùng một câu hỏi, cùng model nhưng chất lượng trả lời không đồng nhất. Mất rất nhiều thời gian để mình nhận ra không phải bí quyết công nghệ gì cao siêu, mà quay về căn bản tài liệu hướng dẫn AI phải gọn gàng, không lộn xộn. Như một kệ sách, khu vực nào chứa sách gì phải mô tả rõ ràng, từng ngăn nhỏ bên trong mô tả chi tiết khái quát về sách. Hình dung như vậy để thấy ta cần tổ chức lại dữ liệu và đưa cho AI một tấm bản đồ đúng thì mới phát huy được sức mạnh thực sự của nó. Như vậy trước khi quyết định chọn model nào mần việc nào, cốt lõi phải tổ chức lại được thư viện kiến trúc của doanh nghiệp sao cho AI đọc được, tìm được, đúng ngữ cảnh và nhanh nhất. Đây là khâu tốn thời gian của mình nhất, mình phải lọc các câu hỏi của khách hàng lịch sử chat 6 tháng đổ lại, để tìm ra các câu khách hay hỏi, thực tế trả lời và xử lý như thế nào, đối chiếu với tài liệu sẵn có xem đúng sai thừa chỗ nào, túm gọn lại và nhét vào các hộc tủ mô tả rõ ràng cho AI có thể tìm được.

Một hồi xà quần, mình quyết định tự xây bot dựa trên hạ tầng có sẵn của mình để tiết kiệm tối đa chi phí và tận dụng được các công cụ đã có sẵn. Cơ sở dữ liệu mình tận dụng Typesense đang sử dụng, tốc độ tìm kiếm nhanh, opensource không tốn thêm chi phí. Khi nhân viên hỏi bot bằng ngôn ngữ tự nhiên, nó khum bịa tùm lum. Mà chạy vào kho tài liệu, tìm đúng nội dung liên quan, đưa ai AI đọc rồi AI tổng hợp thành câu trả lời. Để tiết kiệm thêm chi phí, không phải câu hỏi nào cũng cần model đắt tiền xử lý, như vậy mình lại bóc tách tiếp, những câu trả lời chính cần phân tích và sự chính xác mình dùng các model mạnh, model rẻ hơn có nhiệm vụ sắp sếp các câu trả lời và tổng hợp dữ liệu cho model chính. Như cái cách chúng ta mần việc, việc khó giao người giỏi, việc nhẹ giao người bình thường.

Làm sao để cá nhân hoá và giúp bot thông minh hơn? Mình chia bộ nhớ ra làm 3 tầng. Ở tầng 1 bot nhớ trong cuộc trò chuyện trao đổi gì, và tự kết thúc trong 30 phút nếu không trao đổi gì thêm. Ở tầng 2 nhớ giữa các cuộc trò chuyện, khi kết thúc phiên chat bot tự tóm gọn các ý chính vào sổ, hôm sau gặp lại bot nhớ các chi tiết này không phải mô tả lại ngữ cảnh. Tầng 3 nhớ người dùng là ai vai trò gì. Mỗi người nhận câu trả lời phù hợp với vai trò của mình. Giống bạn mới, mới đầu hơi ngượng ^^ quen lâu rồi thì hiểu ý nhau.

Mình chỉ áp dụng nội bộ mục tiêu hỗ trợ các bạn tốt hơn: Tìm tài liệu, quy trình, xử lý các trường hợp phát sinh. Chứ mình rất dị ứng đi mua hàng mà gặp mấy con bot, đang bực mình mà nó hỏi lòng vòng là dễ ăn feedback 1* lắm hihi.

Như vậy để bot thông minh trả lời đúng ngữ cảnh, không phải model thật xịn, tool thực xịn, công nghệ ghê gớm mà ta cần về lại căn bản, ngồi xuống tổ chức lại dữ liệu cho hợp lý, có gì hay làm thì ghi ra. Ai chỉ hỗ trợ con người làm việc tốt hơn, mình xem nó như vai đồng nghiệp. Vẫn còn cần con người ở khâu xét duyệt cuối cùng.