语言模型 - 第 22 | CN-SEC 中文网

安全文章

LLM大模型安全（2）-训练数据投毒攻击

本篇为大模型安全第2篇，主要讲述数据投毒攻击来污染大模型，从而造成非预期攻击行为OWSAP Top 10分类OWASP Top 10 大型语言模型应用程序项目旨在让开发人员、设计人员、架构师、经理和组...

12月04日338 views评论

阅读全文

信息情报

【资料】AI大模型与情报分析

今天给大家推送亚当·C和理查德·卡特撰写的《大型语言模型和情报分析》【导言】本文探讨了大型语言模型（LLM）的最新进展、主要限制和安全风险及其在情报界中的潜在应用。虽然大语言模型现在可以快速有效地完成...

12月02日244 views评论

阅读全文

安全文章

LLM大模型安全（1）-快速注入&不安全输出处理

最近玩了一些各个大厂的大模型对话机器人，感觉还是挺有意思，目前已经到了千模大战，为了不被市场淘汰，响应号召，跟进下大模型安全 OWSAP Top 10分类OWASP...

12月02日184 views评论

阅读全文

安全闲碎

大模型LLM在Text2SQL上的应用实践

一、前言目前，大模型的一个热门应用方向Text2SQL，它可以帮助用户快速生成想要查询的SQL语句，再结合可视化技术可以降低使用数据的门槛，更便捷的支持决策。本文将从以下四个方面介绍LLM在Text2...

11月29日267 views评论

阅读全文

安全新闻

基准发布 | 大语言模型（LLM）安全性测评基准

“大语言模型（LLM）安全性测评基准2023年8月15日国家六个部委发布的《生成式人工智能服务管理暂行办法》正式施行，该办法强调了大语言模型安全的重要性，防止生成潜在隐私泄露、违法犯罪内容。为评估大语...

11月24日292 views评论

阅读全文

安全新闻

大模型作战！2024年20大网络安全威胁预测

根据谷歌最新发布的2024年云安全预测报告，新的一年恶意生成式AI（例如FraudGPT和WormGPT）的流行将引发大规模网络攻击活动。与此同时，基于大语言模型的AI应用也将大大提升网络安全防御的效...

11月20日58 views评论

阅读全文

安全新闻

新华网专访丨百度CTO王海峰：理解、生成、逻辑、记忆是人工智能的基础能力

近日，第二十届中国计算机大会(CNCC2023)在辽宁省沈阳市举办，国内外计算机领域的专家学者、科技领军人才、企业代表共同探讨计算及信息科学技术领域最新进展和宏观发展趋势。百度首席技术官、深度学习技术...

11月19日12 views评论

阅读全文

安全闲碎

纽约大学 | 基于大语言模型的零样本漏洞修复研究

原文标题：Examining Zero-Shot Vulnerability Repair with Large Language Models 原文作者：Hammond Pearce, ...

11月15日50 views评论

阅读全文

安全新闻

人工智能时代，计算机课程体系该如何变革？ | CCCF精选

编者按：2023年6月16~18日，第三期CCF秀湖会议在苏州CCF业务总部&学术交流中心举办，主题是“人工智能时代计算机课程体系”。来自学术界与工业界的二十余位专家全程参与，围绕主题进行了深...

11月05日16 views评论

阅读全文

安全新闻

安全研究发现：AI安全护栏形同虚设

事实证明，为了防止OpenAI的GPT-3.5 Turbo等大语言模型（LLM）生成有害的内容而创建的“护栏”机制非常脆弱，形同虚设。一群来自美国普林斯顿大学、弗吉尼亚理工大学、IBM研究院和斯坦福大...

10月26日9 views评论

阅读全文

企业安全

企业如何应对攻击者利用AI进行的勒索软件攻击

点击上方“蓝色字体”，选择 “设为星标”关键讯息，D1时间送达！随着企业争先恐后地采用AI，勒索软件攻击者也将利用它来扩大他们的运营规模，同时，他们成功发动攻击的可能性将增加。因此，AI将加剧勒索软件...

10月25日52 views评论

阅读全文

安全闲碎

基于多模态的视频高能点提取技术

本期作者李亘杰哔哩哔哩算法工程师张雅君哔哩哔哩高级算法工程师成超哔哩哔哩资深开发工程师1. 业务背景当用户在浏览B站时，首页所呈现的视频内容以卡片形式依序展示，这些视频卡片的封面大多数是与视频相关的静...

10月13日19 views评论

阅读全文

LLM大模型安全（2）-训练数据投毒攻击

【资料】AI大模型与情报分析

LLM大模型安全（1）-快速注入&不安全输出处理

大模型LLM在Text2SQL上的应用实践

基准发布 | 大语言模型（LLM）安全性测评基准

大模型作战！2024年20大网络安全威胁预测

新华网专访丨百度CTO王海峰：理解、生成、逻辑、记忆是人工智能的基础能力

纽约大学 | 基于大语言模型的零样本漏洞修复研究

人工智能时代，计算机课程体系该如何变革？ | CCCF精选

安全研究发现：AI安全护栏形同虚设

企业如何应对攻击者利用AI进行的勒索软件攻击

基于多模态的视频高能点提取技术

在线咨询

微信