Doanh nghiệp lớn muốn làm Chatbot AI: Không có đường tắt, hãy chuẩn bị đổi ngũ và tất tay trong 6 - 9 tháng cho một bài toán duy nhất!

Cũng nhờ may mắn, nên Mindmaid gọi là cũng ở “đúng lúc, đúng chỗ” trong làn sóng Chatbot AI hiện nay, nên cũng thường được các doanh nghiệp lớn hỏi ý kiến hoặc đề nghị hợp tác. Các mảng từ bảo hiểm, bán lẻ, nhân sự, giáo dục, hành chính công, du lịch, khách sạn…đủ cả.

Với một startup nhỏ như Mindmaid, việc được kết nối với các DN lớn là niềm vinh hạnh, nên cũng hiếm khi từ chối. Nhưng phải nói là rất…ngại meeting. Một phần vì như tuần này, meeting nhiều làm thời gian dành cho research bị giảm hẳn, trong khi AI thì cứ tiến bộ từng ngày một. Thứ đến, là vì cảm thấy “thời cơ” cho bài toán Chatbot AI ở tầm doanh nghiệp chưa tới.

Một điều mình nhận thấy rõ, là làn sóng Chatbot AI, Trợ lý ảo, GPTs, AI Copilot…khắp mọi nơi đang khiến DN lớn và cả người dùng sản phẩm của DN lớn không thể ngồi yên. Mọi người đang hình dung một viễn cảnh nơi mỗi người sếp/nhân viên/cán bộ hành chính công sẽ có một Trợ lý ảo trò chuyện cùng, tự động hóa công việc cùng, không chỉ trả lời chính xác, mà còn thông minh, duyên dáng, hiểu thói quen, sở thích riêng của người hỏi.

Các Chủ tịch, CEO…cảm thấy viễn cảnh này nó đến gần lắm rồi. Và đúng là trong 1 năm vừa qua với bước tiến vũ bão của hệ sinh thái AI thì nó đến gần thật. Nhưng là gần…theo đường chim bay, còn phát triển sản phẩm AI (LLM Application/Chatbot AI) thì nó lại là bài toán đi theo đường mòn lên núi.

Nhiều chủ DN ngạc nhiên khi tại sao dùng gói SaaS, hay thậm chí Whitelabel của Mindmaid chỉ có vài trăm ngàn, nhưng order “thêm tính năng một tí”, “thêm độ chính xác một tí”, “bảo mật dữ liệu thêm một tí”, là nó thành ngay vài chục, thậm chí vài trăm triệu.

Giải thích chi tiết thì nó dông dài, ai quan tâm có thể đọc thêm tút này của mình về sự chuyển dịch của ứng dụng truyền thống sang LLM Applications.

Còn giải thích ngắn gọn thì mình thích dùng một hình ảnh mà kĩ sư Colin Jarvis, bộ phận Giải pháp của OpenAI sử dụng để giải thích chiến lược tối ưu chất lượng ChatGPT và Chatbot AI liên quan.

Đó là con đường tối ưu Chatbot AI là con đường zig-zac, không những dài mà đôi khi còn không có biển chỉ dẫn, với rất nhiều chữ “try something else” (ở trên đó)

Đến OpenAI với đội ngũ kĩ sư hàng đầu về AI còn phải đi vòng như vậy, thì các DN Việt muốn build giải pháp Chatbot AI hướng tới khách hàng doanh nghiệp lớn, thì cứ xác định chuẩn bị một đội ngũ & ít nhất 9 tháng. Trong đó:

:point_right: 3 tháng đầu để làm phần core Chatbot AI theo đúng bài toán mong muốn, với độ chính xác tầm 85%-90%

:point_right: 3 tháng tiếp để tích hợp Chatbot AI vào các hệ thống của doanh nghiệp, đặc biệt là kết nối dữ liệu để retrain Chatbot AI tự động và phối hợp luồng tự động của Chatbot AI với luồng làm việc của con người (hay gọi là tính năng Human in the loop)

:point_right: 3 tháng tiếp để tối ưu chi phí, fine-tune model tăng độ chính xác, chuyển từ sử dụng API OpenAI sang các model nguồn mở để chạy on-premise bảo đảm data privacy, tối ưu hạ tầng để đáp ứng tải người dùng lớn…

Và mỗi tháng trong khoảng thời gian trên thì xác định sẽ mất ít nhất vài trăm $ API OpenAI hoặc GPU Cloud để “thử sai”.

Vậy nên thường thì mình sẽ tư vấn các DN lớn tạm giảm kì vọng xuống một chút, cứ tiếp tục dùng bản SaaS của Mindmaid để làm những Chatbot AI cho các usecase đã sẵn sàng, và…chờ đợi cho AI hoàn thiện hơn. Hoặc nếu thấy thị trường nóng quá, bắt buộc phải bắt đầu ngay, thì hãy chọn một bài toán thật sắc, chuẩn bị đội ngũ bài bản am hiểu về LLM Applications để đồng hành, và xác định thời gian triển khai dự án tối thiểu 9 tháng. Chứ đừng chỉ giao một hai đồng chí dev SE truyền thống tự tìm hiểu, rồi lên mxh hỏi các vấn đề rất basic…Tội các bạn ấy ra mà kết quả khó đi đến đâu.

Nguồn: Đặng Hải Lộc Founder ứng dụng Chatbot ai mindmaid
- bài viết trên facebook