用過5090番唔到轉頭
ai gen同一張2K相5080 12秒, 3090 22秒,5090 8秒以下
用同一個GGUF測llm 5080 3090 一樣是~35token/s, 5090 近60token/s
跟本冇得比,就好似當年用過386 點用番286 cpu一樣
如果得30token/s 以下跟本會慢到唔想用
5090 32G VRAM 2000GB/s,2張開夠256K CONTEXT,用heretic gguf點玩都得,
咁多年一路都唔會入手貴GPU唔玩GAME,點唸都係晒電冇用蝕,
點都估唔到而家會買左最貴果張食埋炒價,都會覺得值的東西, |