近日,第二十届中国计算机大会(CNCC2023)在辽宁省沈阳市举办,国内外计算机领域的专家学者、科技领军人才、企业代表共同探讨计算及信息科学技术领域最新进展和宏观发展趋势。百度首席技术官、深度学习技术...
纽约大学 | 基于大语言模型的零样本漏洞修复研究
原文标题:Examining Zero-Shot Vulnerability Repair with Large Language Models 原文作者:Hammond Pearce, ...
人工智能时代,计算机课程体系该如何变革? | CCCF精选
编者按:2023年6月16~18日,第三期CCF秀湖会议在苏州CCF业务总部&学术交流中心举办,主题是“人工智能时代计算机课程体系”。来自学术界与工业界的二十余位专家全程参与,围绕主题进行了深...
安全研究发现:AI安全护栏形同虚设
事实证明,为了防止OpenAI的GPT-3.5 Turbo等大语言模型(LLM)生成有害的内容而创建的“护栏”机制非常脆弱,形同虚设。一群来自美国普林斯顿大学、弗吉尼亚理工大学、IBM研究院和斯坦福大...
企业如何应对攻击者利用AI进行的勒索软件攻击
点击上方“蓝色字体”,选择 “设为星标”关键讯息,D1时间送达!随着企业争先恐后地采用AI,勒索软件攻击者也将利用它来扩大他们的运营规模,同时,他们成功发动攻击的可能性将增加。因此,AI将加剧勒索软件...
基于多模态的视频高能点提取技术
本期作者李亘杰哔哩哔哩算法工程师张雅君哔哩哔哩高级算法工程师成超哔哩哔哩资深开发工程师1. 业务背景当用户在浏览B站时,首页所呈现的视频内容以卡片形式依序展示,这些视频卡片的封面大多数是与视频相关的静...
深入剖析大模型安全问题:Langchain框架的隐藏风险
作者:jifeng随着大模型热度持续,基于大模型的各类应用层出不穷。Langchain 作为一个以 LLM 模型为核心的开发框架,可以帮助我们灵活地创建各类应用,同时也为大模型的应用引入新的安全隐患。...
新兴威胁:人工智能驱动的深度伪造社会工程攻击日益复杂
网络社会工程学攻击是一种利用心理欺骗和社交技巧来欺骗目标人员,以获取敏感信息、非法访问系统或进行其他恶意活动的攻击方式。攻击者利用人们的信任、好奇心、隐私保护意识不足等心理弱点,通过与目标交互和操纵,...
主流大语言模型的技术原理细节
作者:spring 1.比较 LLaMA、ChatGLM、Falcon 等大语言模型的细节:tokenizer、位置编码、Layer Normalization、激活函数等。2. 大语言模型的分布式训...
Prompt Injection Primer for Engineers- 提示注入入门指南
文章首发于个人博客:https://mybeibei.net,点击最下方“阅读原文”可直接跳转查看。背景介绍随着 AI 大语言模型的火爆,其安全性也受到了安全人员的关注。最近国外一位安全研究人员将目前...
一文入门最热的LLM应用开发框架LangChain
作者: 腾讯应用宝 MoonWebTeam 团队 jansezhou 在人工智能领域的不断发展中,语言模型扮演着重要的角色。特别是大型语言模型(LLM),如 ChatGPT,已经成为科技领域的热门话题...
ChatGPT机器人的大缺陷,你绝对不能忽视!
ChatGPT等人工智能(AI)聊天机器人历经多次调整,试图避免遭恶意人士操控给出不良信息,比如仇恨言论、个人信息,或者制作简易炸弹的步骤。但就在上周,卡耐基梅隆大学(CMU)的研究人员证实,只需往提...
30