離線這個詞彙有點廣義,是指哪種 OFFLINE 🤔
是「不用馬上處理,可以在背景處理」的意思嗎
@leemiyinghao: 好像領悟到 RAG 式內容推薦演算法 pipeline 的完美形態了 User tower 還是必要的,但可以離線處理後另外存,反而是搜尋本身應該要即時處理。 Quantization 會讓整體快很多。 Graph-based query 必要,但不用花時間 ranking,能進到 graph-based 的東西分數都應該高到爆表。 大部分的東西都應該在 insert 時下 message 離線處理,包含 activity 跟 content。讓 query 簡化到可以用 facet search 搞定。 Index 要少,但可以大。 不知道有沒有幫助但 tag 一下 @yamiodymel