Đọc ngày 2026-08-03
Kế hoạch hôm nay
Mục tiêu cần hiểu
- Hiểu production model cần benchmark theo accuracy, latency, memory và model size.
- Biết cách tạo performance benchmark để so sánh các model cùng một tiêu chí.
- Nắm knowledge distillation là cách huấn luyện student model nhỏ từ teacher model lớn.
- Hiểu distillation có thể áp dụng khi fine-tuning hoặc pretraining.
Câu hỏi dẫn đường
- Production model cần cân bằng những yếu tố nào?
- Latency, memory và accuracy mâu thuẫn với nhau ra sao?
- Benchmark đơn giản nên đo gì trước?
Ghi chú trong khi đọc
Viết lại bằng lời của tôi
Điều chưa rõ
Việc cần làm