Máy tính chi phí phát triển agent thoại AI

Hãy bắt đầu với nền tảng quản lý sẵn như Retell hoặc Vapi thay vì xây dựng best-of-breed hoặc tự vận hành ngay từ đầu. Các nền tảng quản lý sẵn xử lý hạ tầng giọng nói (STT, TTS, thoại, điều phối thời gian thực) để đội của bạn tập trung vào thiết kế hội thoại và tích hợp. Bạn ra mắt trong 4 đến 8 tuần thay vì 12 đến 20 tuần, và có thể xác minh tính khả thi của use case trước khi cam kết với cách xây dựng phức tạp hơn. Chỉ chuyển sang hạ tầng tùy chỉnh sau này nếu lưu lượng cuộc gọi vượt 100.000 phút mỗi tháng hoặc yêu cầu chất lượng vượt quá khả năng của nền tảng quản lý sẵn.

Khi ra mắt, hãy giới hạn agent ở một use case cụ thể. Cám dỗ thường thấy là xây một voice agent đa năng xử lý mọi thứ: đặt lịch, hỗ trợ, bán hàng, leo thang. Mô hình thực sự ra mắt và hoạt động tốt là một việc được làm thật tốt, như đặt lịch hẹn hoặc xử lý đặt lại mật khẩu. Tỷ lệ tự xử lý thành công ở các use case hẹp đạt 70 đến 90%; ở các use case rộng chỉ còn 40 đến 60% và người gọi sẽ nhanh chóng bấm phím 0 để gặp người thật. Chỉ thêm use case thứ hai khi use case đầu tiên đã vận hành ổn định.

Dùng Claude Sonnet 4 hoặc GPT-4o mini cho phần suy luận hội thoại thay vì các model cao cấp nhất. Voice agent không cần năng lực suy luận hàng đầu cho hầu hết cuộc gọi; chúng cần tạo phản hồi nhanh, rẻ và ổn định. Sonnet 4 và GPT-4o mini rẻ hơn Opus hay GPT-4.5 từ 5 đến 10 lần mà chất lượng vẫn tương đương với các tác vụ hội thoại có phạm vi rõ ràng. Tiết kiệm ở khâu chọn model giúp giảm 30 đến 50% chi phí mỗi phút mà không ảnh hưởng chất lượng trong các trường hợp sử dụng voice thông thường.

Ghi âm mọi cuộc gọi, xem lại các ca thất bại hằng tuần và liên tục cải thiện hội thoại. Voice agent xuống cấp âm thầm vì chẳng ai nghe lại các cuộc gọi. Hãy thiết lập buổi review hằng tuần, trong đó team nghe từ 10 đến 20 cuộc gọi thất bại được chọn ngẫu nhiên, tìm ra quy luật, rồi cập nhật logic hội thoại hoặc định tuyến. Chính vòng lặp liên tục này là thứ phân biệt voice agent ngày càng tốt hơn với voice agent lặng lẽ tệ đi khi các trường hợp ngoại lệ tích tụ. Chi phí chỉ 2 đến 4 giờ mỗi tuần và được hoàn lại qua tỷ lệ xử lý thành công.

Ra mắt với một ngôn ngữ duy nhất. Hỗ trợ đa ngôn ngữ đội thêm 25 đến 30% chi phí xây dựng cho mỗi ngôn ngữ và làm phức tạp đáng kể việc kiểm thử hội thoại. Nếu 80% cuộc gọi đến của bạn là tiếng Anh, hãy chỉ phát hành bản tiếng Anh và chuyển phần còn lại cho người thật xử lý. Thêm ngôn ngữ dựa trên lưu lượng cuộc gọi thực tế theo từng ngôn ngữ, chứ không dựa trên giả định về tệp khách hàng. Hầu hết các team đều tung ra bản hỗ trợ đa ngôn ngữ mà chẳng ai dùng, vì họ tưởng tượng ra nhu cầu vốn không hề tồn tại.

Hoãn các tích hợp không cốt lõi cho use case ra mắt. Bắt đầu với đúng một tích hợp mà agent nhất định phải có (thường là lịch cho việc đặt hẹn, hoặc CRM cho ngữ cảnh hỗ trợ) và thêm phần còn lại dựa trên những gì người gọi thực sự yêu cầu. Mỗi tích hợp tốn thêm 40 đến 120 giờ cộng với bảo trì liên tục, và những tích hợp bạn xây theo kiểu phỏng đoán thường hỏng trước tiên vì chẳng ai dùng đủ nhiều để nhận ra. Bản ra mắt càng gọn nhẹ thì càng phát hành nhanh và cho bạn dữ liệu thực để quyết định nên xây gì tiếp theo.