Semantic Feed Retrieval Systems

Ý chính

Clickbait không chỉ là moderation problem. Nó là dấu hiệu retrieval đang tối ưu một proxy dễ bị thao túng như engagement thô. LinkedIn, Meta và YouTube cùng chuyển retrieval sang meaning, nhưng chọn ba kiến trúc khác nhau.

Ba hướng thiết kế

HệHướngTrade-off
LinkedInMột language-model dual encoder chung cho member/postDễ align objective và giảm hệ thống song song, nhưng rollback khó hơn nếu model chung regress
Meta/InstagramStaged Recommendation Funnel với nhiều model chuyên biệtKiểm soát từng objective tốt hơn, nhưng vận hành phức tạp
YouTubeGenerative Retrieval bằng Semantic IDsGiảm index/embedding table lớn, nhưng có rủi ro sinh ID không tồn tại

Mental model

hundreds of millions of candidates
-> cheap retrieval by meaning
-> smaller candidate set
-> heavier ranking/value model
-> diversity/integrity pass
-> feed

Ghi nhớ

Model không phải lúc nào cũng là phần khó nhất. LinkedIn case cho thấy representation của structured features trong prompt/input format có thể quyết định chất lượng retrieval nhiều hơn bản thân model.

Liên kết