ModelScan：一款大模型序列化安全扫描工具

为什么要扫描模型

model = torch.load(PATH)

• 凭据盗窃（用于将数据写入和读取到环境中其他系统的云凭据）
• 数据盗窃（发送到模型的请求）
• 数据中毒（模型执行任务后发送的数据）

• 模型中毒（改变模型本身的结果）

工具使用方式

pip install modelscan

modelscan -p /path/to/model_file.h5

将ModelScan集成到ML Pipeline或CI/CD Pipeline

1. 在加载模型之前扫描所有预训练模型以进行进一步工作，以防止模型不会影响您的模型构建或数据科学环境。
2. 训练后扫描所有模型，以检测危及新模型的供应链攻击。
3. 在部署到端点之前扫描所有模型，以确保模型在存储后未受到损害。

原文始发于微信公众号（星尘安全）：ModelScan：一款大模型序列化安全扫描工具