Agentic Loop
Định nghĩa
Agentic loop là vòng lặp observe → decide → act → observe trong đó LLM agent dùng trạng thái hiện tại, chọn bước tiếp theo, gọi tool nếu cần, rồi cập nhật context từ kết quả.
Cách hiểu bằng lời của tôi
Khác với prompt một lần, agentic loop biến LLM thành bộ điều khiển có feedback. Mỗi tool call là một lần agent kiểm tra thế giới, không phải chỉ tưởng tượng trong đầu.
Cần biết
- Loop cần điều kiện dừng: task done, quá số bước, timeout, lỗi không phục hồi, hoặc cần user approval.
- Observation phải đủ gọn và đúng cấu trúc để không làm context phình ra.
- Logging trajectory quan trọng hơn log câu trả lời cuối, vì lỗi thường nằm ở bước chọn tool hoặc đọc observation.
- Loop càng dài thì chi phí, latency và nguy cơ drift càng cao.
- Trong coding agent, mỗi vòng thường là search/read/edit/run-test rồi đưa output về context.
- Optimization của loop thường là tránh trả tiền hai lần cho cùng một work: giữ WebSocket, stable prompt prefix, delta tokenization, cache-aware routing.