Self-Consistency Decoding
Định nghĩa
Self-consistency decoding là chiến lược lấy mẫu nhiều reasoning paths, rồi chọn đáp án cuối nhất quán nhất giữa các paths.
Cách hiểu bằng lời của tôi
Thay vì tin lần suy luận đầu tiên, ta cho model giải nhiều lần. Nếu nhiều đường suy luận khác nhau hội tụ về cùng một đáp án, đáp án đó đáng tin hơn một sample đơn lẻ.
Cơ chế
prompt chain-of-thought
-> sample nhiều lời giải
-> lấy final answer từng lời giải
-> vote / marginalize
-> chọn answer nhất quán