OpenAI 新增工具赋予了用户更多的信息管理权限,然而效果却杯水车薪。ChatGPT有可能掌握详细的用户个人信息,但遇到无法回答的问题时则可能会编造错误的答案来回答。随着 OpenAI 发布的生成文...
七大语言模型PK,ChatGPT内容基线评测稳居第一
随着ChatGPT的爆火与流行,大型语言模型(LLM)与生成式人工智能(AIGC)不断跃入大众视野,随之也带来了许多内容风险隐患。 近日,知道创宇内容安全专家对互联网上流行的7款大型语言模型进行了全面...
浅谈ChatGPT|大语言模型安全
2023大语言模型安全ChatGPT大语言模型最近ChatGPT带来的热潮,人工智能产品迎来了一个爆发期,大语言模型(Large Language Model)也越来越受到人们的关注。以ChatGPT...
【ChatGPT及其在电子数据取证领域的应用】
本文由金恒源编译,陈裕铭、Roe校对,转载请注明。在一次电子数据取证社区中关于ChatGPT主题的热烈讨论后诞生写本文的想法。ChatGPT确实令人印象深刻——它能像人一样交流,而且似乎有求必应。它被...
管窥网络安全的未来技术形态
随着现代社会的高度数字化和信息化程度,网络安全问题已经成为各个行业和组织面临的重要挑战之一。随着企业规模和网络架构的不断扩大,网络安全风险也不断增加,传统的手动检测和防御已经难以应对日益复杂的安全威胁...
大型语言模型(LLM)的红队测试
本文翻译参考自:https://huggingface.co/blog/red-teaming大型语言模型(LLM)在大量文本数据的训练下非常擅长生成逼真的文本。然而这些模型经常表现出不良行为,比如泄...
针对ChatGPT的隐私提取攻击:多步骤越狱漏洞
摘要随着大型语言模型(LLM)的快速发展,许多下游的 NLP 任务都可以在友善的提示(即Prompt,是用户或程序向LLM AI 提供的输入或查询)下得到很好的解决。尽管模型开发人员和研究人员在对话安...
AI安全爆发:谷歌发布网络安全大语言模型
本周二4月25日在旧金山举行的2023年RSA大会上,谷歌云发布了谷歌云安全人工智能工作台,基于专为网络安全设计的大语言模型Sec-PaLM。Sec-PaLM是谷歌现有大语言模型PaLM的定制版本,能...
GPT之于代码分析,“掀桌”还是“救赎”?| 附Demo
距离ChatGPT发布已经过去4个多月,你是否已经习惯了每天起床检查一下自己的工作会不会被AI“替代”?大家都知道我们是一家研究代码分析的创业公司,在过去的这段时间里也常常会面对这样的问题:“你看Ch...
AI多态恶意软件击败主流EDR
以ChatGPT为代表的大语言模型的发布,标志着神经网络代码合成首次可被公开(免费)访问。这引发了一场新的技术革命,同时也打开了AI网络犯罪的潘多拉盒子。复杂网络攻击的门槛被大幅降低,而网络防御的难度...
0 门槛克隆 ChatGPT!30 分钟训完,60 亿参数性能堪比 GPT-3.5
这是「进击的Coder」的第 819 篇技术分享作者:编辑部来源:新智元报道 “ 阅读本文大概需要 7 分钟。 ”【新智元导读】破解「CloseAI」,ChatGPT ...
ChatGPT 和大型语言模型:有什么风险?
大型语言模型 (LLM) 和 AI 聊天机器人引起了全世界的兴趣,原因是 2022 年底发布的 ChatGPT 及其提供的查询便利性。它现在是有史以来增长最快的消费者应用程序之一,它的受欢迎程度正促使...
30