@leemiyinghao: Gemma4 26B MoE意外的可以用耶⋯⋯ Thinking process的自我校正很充足,MoE有讓token/sec維持在可以接受的程度(7600XT大概12tps) 小缺點是模型還是塞不太進一般遊戲顯卡🤔
catLee
@leemiyinghao
喔這還蠻有趣的,SillyTavern社群實測26B的效果比Qwen3.5-35B-A3B還適合跑RP
🤔
就連Q3的31B也表現傑出⋯⋯🤔
https://foodtruckbench.com/#leaderboard
嗯⋯⋯🤔
FoodTruck Bench — AI Business Simulation Benchmark
但26B有很嚴重的輸出格式問題⋯⋯🤔
E4B的效果就掉出sweet spot之外了,~35tps但thinking fixation很嚴重,看得出來多餘的token沒有發揮校正作用
BTW同個問題丟Gemini Flash Thinking會開始鬼打牆