Sinair

回覆 47# kcthomlau

DSH提供左3個方法
頭兩個失敗 全部級數都話模型唔支援 一提問就ERROR
第3個都失敗 但好複雜 唔知我有無搞錯野

問GOOGLE AI
教用提示詞指定唔用THINKING 結果都係失敗 但今次係用盡晒TOKEN 唔係一直唔知做緊乜

我用返STRATA去做一次 都係20K TOKEN左右 128K用晒都出唔到RESULT 我理解唔到出左咩問題

kcthomlau

如果系Windows缺token既情况下我問問題或者安裝模型会用workbuddy
有免费hy3模型用
DSV4.1Flash都系0.11积分/token
新会员大把token送
又有每日100分

kcthomlau

https://github.com/mikealanni/gufo
NPU終於有用
Github有人將strix halo既XDNA2 NPU輔助gpu推理
Flash next prefill速度去到1800t/s

wiz123

估計DDR5可以再炒上去，新出的STRATA offload llm 去DDR5，只要16G 顯卡VRAM都可以跑 flash next, 同一個MODEL Q4我都可以由傳統的llama.cpp 30toks/s升到上用STRATA 120toks/s，只要DDR5足夠，就可以跑超快

kcthomlau

估計DDR5可以再炒上去，新出的STRATA offload llm 去DDR5，只要16G 顯卡VRAM都可以跑 flash next, 同一個MO ...
wiz123 發表於 2026-10-12 11:56

最近係跌左，但係單條大容量仍然搶手

Sinair

DEEPSEEK HARDNESS配STRATA FLASH NEXT 設定唔到思考模式
簡單任務會load耐左 複雜少少嘅任務會不停LOAD落去 直接爆上下文

暫時解決方法
係ABOUT 入面設定fit_max_tokens on 同SET reasoning_budget_tokens
最終會出結果 但要爆上下文先識停手(128K)

請教正常運行方案

Sinair

回覆 55# kcthomlau

上升空間有限 貴左太多 本身求已經唔多過供
宜家的確求會上升 但會唔會推得郁個價就未知之數

相反GPU一定仲有排貴 除非AMD同INTEL可以係AI方面突圍而出

kcthomlau

DEEPSEEK HARDNESS配STRATA FLASH NEXT 设定唔到思考模式
简单任务会load耐左 复杂少少嘅任务会不停LOAD落 ...
Sinair 发表于 2026-10-12 13:04

如果叫agent帮手设定都失败就唯有转其他agent或者等dsh更新
我无用dsh, z code+workbuddy混用

我問ai叫佢每輪對話完成自動壓縮上下文佢做唔到
又問佢額度用完自動用重設卡，佢又話做唔到
但似乎可以運算中直接輸入/compact壓縮，運算繼續

Sinair

回覆 58# kcthomlau

我覺得唔係DSH問題 而係STRATA/FLASH NEXT嘅問題 無理由唔比調用THINKING層級 連OFF都唔比
就算我係STRATA界面調左中級 SAVE左 再係ABOUT調埋跟MODEL 都無分別

DSH加手動 可以做到我要嘅效果
但同LLM+手動 差唔得幾多 但需時多好多
因為MODEL夠勁 所以想TEST下佢極限 想1鍵整GAME 宜家係TOKEN同思考兩方面卡死左
結論仍然係要斬件作業 只係斬得大件D都OK

宜家研究控軟件做野 唔知做唔做到

wiz123

DEEPSEEK HARDNESS配STRATA FLASH NEXT 設定唔到思考模式
簡單任務會load耐左 複雜少少嘅任務會不停LOAD落 ...
Sinair 發表於 2026-10-12 13:04

最近STRATA一日一更新，越更越快，更新再試試吧，試過think 和nothink都冇問題，用openwebui chat試