安全闲碎 377GB权重塞不进24GB显存,清华这个项目让一张4090跑出了30 tok/s 清华大学MADSYS实验室开源KTransformers项目,让单张24GB显存显卡(如RTX4090)运行671B参数的DeepSeek-V3/R1大模型。核心思路是异构计算:将Attention、... 07月20日84 views评论deepseek intel 阅读全文