算在可接受範圍
吧🤔
好像領悟到 RAG 式內容推薦演算法 pipeline 的完美形態了
User tower 還是必要的,但可以離線處理後另外存,反而是搜尋本身應該要即時處理。
Quantization 會讓整體快很多。
Graph-based query 必要,但不用花時間 ranking,能進到 graph-based 的東西分數都應該高到爆表。
大部分的東西都應該在 insert 時下 message 離線處理,包含 activity 跟 content。讓 query 簡化到可以用 facet search 搞定。
Index 要少,但可以大。
不知道有沒有幫助但 tag 一下 @yamiodymel