DualPrompt: Complementary Prompting for Rehearsal-free Continual Learning
Tóm tắt một câu
DualPrompt tách prompt thành phần bổ trợ cho tri thức task-invariant và task-specific, nhằm học class-incremental continual learning mà không lưu replay buffer.
Vì sao cần cho đề tài
Thiết kế Prompt Tree của đề tài đang có root/internal/leaf prompts. DualPrompt là paper cần đọc để biện minh rằng prompt có thể được phân vai:
- prompt chung giữ tri thức ổn định;
- prompt task-specific giữ tri thức riêng;
- sự kết hợp hai loại prompt có thể tốt hơn một prompt pool phẳng.
Nguồn đã kiểm
- arXiv: 2204.04799
- Code được paper trỏ tới repo L2P: google-research/l2p
Ghi chú evidence
Metadata và vai trò paper hiện ở mức source-checked từ arXiv abstract; chưa đọc PDF sâu.
Cần đọc tiếp
- G-Prompt và E-Prompt được đặt ở layer nào.
- Khi inference chọn prompt thế nào.
- So sánh với L2P về forgetting và plasticity.