Speech recognition: đổi tiếng nói thành text, là cửa vào của bot thoại.
NLU: phân tích text đầu vào để lấy các tín hiệu như sentiment, named entity, coreference và các thông tin ngầm/hiển ngôn khác.
Dialog/task manager: gom thông tin qua nhiều turn, giữ state, rồi quyết định hành động kế tiếp theo rule hoặc RL.
NLG: sinh câu trả lời dạng tự nhiên theo action đã chọn.
Speech synthesis: đổi text trả lời thành tiếng nói ở đầu ra.
Luồng ý nghĩa của pipeline là: input từ người dùng không được trả lời ngay lập tức mà phải đi qua nhận dạng, hiểu, lưu trạng thái, chọn hành động rồi mới sinh câu trả lời.
Trong mô hình này, dialog manager là nơi tích lũy thông tin của cuộc hội thoại và quyết định bot nên hỏi tiếp, xác nhận, gọi API hay trả lời dứt điểm.
Với domain hẹp như đặt pizza, pipeline này giúp bot giữ được mục tiêu hội thoại thay vì phản hồi rời rạc theo từng câu.
Với chatbot chỉ chạy trên text, có thể bỏ phần speech recognition và speech synthesis, nhưng luồng NLU → dialog manager → NLG vẫn là lõi.
Phần quan trọng nhất của pipeline là dialog manager vì đây là nơi state được cập nhật và strategy được chọn.
Deep Dive into Components of a Dialog System
Dialog act classification là bài toán xác định một utterance đang làm vai trò gì trong ngữ cảnh hội thoại. Trong chapter, đây chính là phiên bản NLU của intent detection.
Ví dụ các nhãn như inform, request, yes/no question cho thấy mục tiêu là phân loại vai trò của câu nói, chứ không chỉ đọc nghĩa bề mặt.
Slot identification là bước trích entity/slot từ utterance, thường dùng sequence labeling để gắn giá trị như cheaper vào slot price.
Chọn ontology cho slot rất quan trọng: với travel bot, destination có thể cần city hoặc airport; với restaurant bot, city có thể là đủ.
Làm riêng intent detection và slot extraction bằng hai model tách biệt cần nhiều nhãn và có thể chậm khi deploy.
Một hướng tốt hơn là joint understanding and tracking, tức gộp intent và slot vào một dialog state như inform(price-cheap) để dự đoán đồng thời.
Response generation có ba kiểu: fixed responses cho FAQ bot, template-based cho câu trả lời có cấu trúc, và automatic generation cho phản hồi tự nhiên hơn.
Template-based responses đặc biệt hữu ích cho câu hỏi làm rõ hoặc câu trả lời fact-driven vì vừa kiểm soát được vừa ít lỗi ngữ pháp hơn.
Các dataset goal-oriented thường dùng để benchmark gồm ATIS, SNIPS, DSTC và MultiWOZ; single-domain thường dễ hơn multidomain.
Với ATIS intent prediction, CNN là baseline hợp lý vì bắt n-gram, RNN bắt được phụ thuộc ngữ cảnh tốt hơn, còn BERT cho kết quả mạnh nhất trong ví dụ của sách.
Other Dialog Pipelines
End-to-end approach cố gắng học trực tiếp mapping từ utterance/lịch sử hội thoại sang response, thay vì tách rõ NLU, dialog manager và NLG. Hướng này thường dùng seq2seq để sinh câu trả lời.
Lý do xuất hiện hướng này: modular pipeline cần train từng component riêng, cần dataset annotated riêng và cần định nghĩa ontology tường minh. End-to-end model giảm phần thiết kế thủ công đó bằng cách học trực tiếp pattern tiềm ẩn từ dữ liệu hội thoại.
Điểm mạnh của end-to-end là giảm số module phải duy trì và có thể học response linh hoạt hơn. Điểm yếu là khó kiểm soát factual correctness, khó nhìn vào lỗi nằm ở đâu, và có thể không phù hợp nếu cần bot hành xử chắc chắn theo policy sản phẩm.
Seq2Seq Model nhận một chuỗi token làm input và sinh một chuỗi token làm output. Với chatbot, input là utterance hoặc context hội thoại, output là response của bot.
Thứ tự token quan trọng vì meaning của câu hỏi phụ thuộc vào thứ tự từ. Vì vậy seq2seq phù hợp hơn các representation bỏ qua order khi muốn sinh response tự nhiên.
LSTM là nền seq2seq thường gặp trong phần này; transformer cũng có thể áp dụng cho seq2seq dialog, nhưng model lớn có thể khó triển khai trong ứng dụng nhỏ.
Một failure mode quan trọng là model sinh phản hồi an toàn quá mức, ví dụ kiểu “I don’t know”, vì nó tối ưu câu trả lời từng lượt nhưng không nhất thiết tối ưu chất lượng cả cuộc hội thoại.
Deep reinforcement learning for dialogue generation xem mỗi response của bot như một action. Bot học chuỗi action thông qua exploration/exploitation để tối đa hóa mục tiêu hội thoại.
Trong goal-oriented dialog, reward gắn với việc hoàn thành mục tiêu của người dùng; trong chitchat, reward khó định nghĩa hơn vì “goodness” thường liên quan tới độ thú vị và tính tự nhiên.
RL đưa thêm góc nhìn dài hạn: một response không chỉ cần hợp lý tại turn hiện tại, mà còn phải giúp cuộc hội thoại tiến gần hơn tới mục tiêu.
Cách nhìn quan trọng: seq2seq sinh câu; RL cố gắng làm cho câu đó có ích cho tương lai của cuộc hội thoại. Vì vậy RL bổ sung khái niệm reward dài hạn cho dialog generation.
Với chatbot production, reward nên bám vào mục tiêu thật: task completion, giảm số lượt hỏi lại, tránh fallback vô ích, hoặc cải thiện sự hài lòng của người dùng. Nếu reward mơ hồ, bot có thể học hành vi nghe hợp lý nhưng không giúp user.
Human-in-the-Loop và Rasa NLU
Human-in-the-loop nghĩa là đưa con người vào vòng học của bot để cung cấp feedback, sửa nhãn, thưởng/phạt response hoặc can thiệp khi bot gặp câu ngoài phạm vi.
Với chatbot, con người có thể giúp ở ba điểm lỗi: hiểu sai query, chọn sai action, hoặc không xử lý được tình huống nằm ngoài scope.
Trong setting RL, human teacher có thể đưa partial rewards khi bot đang khám phá nhiều action. Tín hiệu này giúp bot phân biệt response nào chỉ nghe ổn và response nào thật sự đưa cuộc hội thoại đi đúng hướng.
Sách nhấn mạnh human-in-the-loop thực tế hơn dialog generation tự động hoàn toàn, vì end-to-end models có thể huấn luyện hiệu quả nhưng không luôn đáng tin về factual correctness.
Hệ hybrid thường đáng tin hơn: dùng end-to-end/dialog model để tăng linh hoạt, nhưng có human feedback, annotation và kiểm soát pipeline để giảm lỗi nghiêm trọng.
Rasa NLU là framework giúp đóng gói các thành phần dialog thành hệ thống có thể triển khai: context-based conversations, interactive learning, data annotation, API integration và custom models.
Rasa cho phép lưu và dùng dialog state, capture slot/value, rồi dùng thông tin đó trong response generation.
Interactive learning trong Rasa có hai vai trò: tạo thêm training data bằng cách chat với bot, và cung cấp feedback khi model mắc lỗi để cải thiện các case khó.
Data annotation trong Rasa giúp gán nhãn thêm dữ liệu hoặc sửa nhãn model đã dự đoán, từ đó cải thiện training data cho các component NLU.
Rasa cũng hỗ trợ tích hợp API và các kênh chat như Slack, Facebook, Google Home hoặc Amazon Alexa, nên phù hợp hơn với bot công nghiệp so với một notebook model rời rạc.
Rasa cho phép customize model trong pipeline: chọn sklearn classifier, mitie classifier, custom classifier, embeddings như spaCy/Rasa embeddings, hoặc BERT/distilled BERT cho classification và sequence labeling.
Điểm thiết kế đáng nhớ: có thể bắt đầu bằng model có sẵn, default API integration và default conversation channel; sau đó thay bằng custom model, API hoặc channel khi dữ liệu và yêu cầu sản phẩm tăng lên.
Phần cần biết
FAQ bot thường trả lời theo kiểu tra cứu: câu hỏi có thể được diễn đạt nhiều cách, nhưng bot vẫn ánh xạ về cùng một câu trả lời cố định.
Flow-based bot khác ở chỗ bot chủ động dẫn dắt người dùng qua các câu hỏi để điền đủ slot, ví dụ size, topping, món phụ khi đặt pizza.
Open-ended bot không cần flow cố định nên khó hơn: phản hồi phải hợp ngữ cảnh, tự nhiên và bám chủ đề.
Trong dialog system, dialog manager giữ vai trò trung tâm vì nó gom thông tin qua nhiều turn rồi mới quyết định action tiếp theo.
Goal-oriented systems thường domain-specific, nên khó mở rộng tổng quát nếu không có chiến lược học dữ liệu hoặc framework tốt.
Dialogflow trong ví dụ chapter cho thấy cách tạo agent, dùng intent/entity và tận dụng default fallback/welcome intent để khởi động bot.
Với bot text-only, có thể bỏ speech recognition và speech synthesis, nhưng NLU + dialog manager + NLG vẫn là lõi.
Trục khó nhất của chapter này là cân bằng giữa kiểm soát và linh hoạt: fixed/template dễ kiểm soát, automatic generation tự nhiên hơn nhưng khó khóa hành vi.
End-to-end dialog và RL mở ra hướng học response linh hoạt hơn, nhưng cần đánh đổi bằng khả năng giải thích, kiểm soát và độ tin cậy.
Human-in-the-loop là cơ chế vận hành quan trọng: bot thực tế cần con người giúp sửa lỗi, bổ sung nhãn và cải thiện các case khó.
Rasa minh họa cách biến các thành phần NLP rời rạc thành chatbot có pipeline, annotation, feedback, API integration và khả năng tùy biến model.
Câu hỏi review
FAQ bot khác goal-oriented dialog ở đâu?
Slot filling ảnh hưởng thế nào tới hành động tiếp theo của bot?
Vì sao human-in-the-loop quan trọng trong chatbot production?
End-to-end dialog trade off với pipeline modular ở điểm nào?
Rasa giải quyết những phần nào ngoài intent detection và slot filling?
Gợi ý trả lời câu hỏi review
FAQ bot chủ yếu làm truy xuất câu trả lời cố định từ một tập Q/A đã biết; mỗi lượt người dùng thường độc lập. Goal-oriented dialog thì theo đuổi một mục tiêu cụ thể qua nhiều turn, cần lưu trạng thái và thu đủ thông tin trước khi hoàn thành task.
Slot filling quyết định bot đã đủ dữ liệu để đi tiếp hay chưa. Nếu còn slot thiếu, bot phải hỏi thêm; nếu slot đã đủ, dialog manager mới chuyển sang action như xác nhận đơn, gọi API hay sinh response cuối.
Human-in-the-loop quan trọng vì chatbot thực tế luôn có câu nhập mơ hồ, ngoại lệ và lỗi nhận dạng. Con người giúp gắn nhãn lại dữ liệu, sửa flow, kiểm tra fallback và cải thiện bot khi domain hoặc hành vi người dùng thay đổi.
End-to-end dialog giảm nhu cầu thiết kế từng module và có thể sinh phản hồi linh hoạt hơn, nhưng khó debug, khó kiểm soát fact và dễ sinh câu chung chung. Pipeline modular dễ kiểm soát hơn vì tách rõ NLU, state, policy và response generation.
Rasa hỗ trợ phần engineering quanh model: giữ context/state, interactive learning, data annotation, API integration, channel integration và lựa chọn/customize model trong pipeline.