一. 概述作为本系列的第四篇,本文聚焦大模型推理软件的安全风险。 随着大模型上云趋势加速,尽管推理框架通常被视为底层基础设施(负责模型运行的资源调度与计算优化),但经我们的研究发现,部分开源推理框架,...
利用云服务器搭建自己的Ai大模型
目前各种AI大模型层出不穷。如AI换脸,AI克隆声音都是通过训练自己的大模型来实现的。而想要训练自己的大模型,是对自己的硬件有所要求的,尤其是对显卡的要求!在工作中,我们需要跑一些大模型,如通义千问、...