刚刷到英伟达 Groq 3 LPX 推理芯片全面投产，Gemma 4 31B 跑 3400 tokens/s，十万 token 上下文。以后 AI agent 要拼的就是这种低延迟解码。看了眼我桌上那台 RTX 3060 Ti，本地跑点小模型还能玩，跟数据中心那帮人根本不是一个次元。只能说算力没有尽头。英伟达 AI推理