01文章背景 在使用后发现,fscan2.0确实要比fscan1.8.x的效果要更好,但是有一几个难受的点,最主要的就是它的命令行输出结果,以及导出的结果内容,看起来真的是蛋疼啊,家人们。 ...
大模型输出内容安全:分类和保障
01 概述目前,生成式人工智能(生成式AI,或AIGC)是人工智能发展的热点,更多的人愿意并主动开始使用人工智能模型帮助自己的学习与工作。但目前由算法进行生成的内容通常没有进行完善的检测监管,在《LL...
大模型内容安全:敢问路在何方?
人工智能的爆炸发展 揭开了时代序曲的新篇章 大模型赋能千行百业的同时 不安全的内容输出 正持续引发灾难性危害 为LLM输出筑好「安全篱笆」 紧握航向 01 大模型内容安全研究方向 2023年年8月15...
LLM安全警报:五起真实案例,揭露大模型输出内容的安全隐患
01 概述随着大语言模型(LLM)各领域的广泛应用,我们迫切需要了解其中潜在的风险和威胁。《LLM安全警报:六起真实案例剖析,揭露敏感信息泄露的严重后果》[1]从真实案例中指出了LLM敏感信息泄露的严...