作者:teng,腾讯前端开发工程师ChatGPT 是一种强大的自然语言处理模型。在工作中,我们可以借助其卓越的自然语言生成能力,快速检索代码信息,使程序员们能更加专注于业务逻辑的实现和优化。然而,由于...
如何用大语言模型构建一个知识问答系统
作者:simon传统搜索系统基于关键字匹配,在面向:游戏攻略、技术图谱、知识库等业务场景时,缺少对用户问题理解和答案二次处理能力。本文探索使用大语言模型(Large Language Model, L...
LLM工程化的潜在风险 恶意SQL攻击
cckuailong读完需要2分钟速读仅需 1 分钟1 前言工程化 LLM 有很多可行的方案,其中一种比较常见的方案就是根据将用户的输入,通过 LLM 直接转换成相应 SQL ...
大语言模型在安全领域的思考和尝试 - AI安全助手
wolf读完需要8分钟速读仅需 3 分钟这是公众号的第二篇大语言模型与信息安全领域结合的探索文章,第一篇文章用 LLM 降低白盒误报及自动修复漏洞代码本篇文章作者是我的前同事,也是“巡风”的核心开发者...
ChatGPT安全攻防之——Prompt Injections攻击
前言 ChatGPT 已经火了大半年了,毫无疑问,大模型时代已经到来。相信未来世界的生活与办公一定会伴随着各式各样的 Copilot。然而 LLM(Large Language Model) 的大面积...
ChatGPT可创建变异恶意软件并逃避EDR检测
ChatGPT在全球引起轰动已是不争的事实,但其在消费者和IT行业中的广泛传播也带来了额外的网络安全风险,安全界开始担心ChatGPT会被用来攻击系统漏洞。国外安全专家表示,ChatGPT和大型语言模...
OWASP 列出十个最严重的大型语言模型漏洞
开放全球应用程序安全项目 (OWASP) 发布了大型语言模型 (LLM) 应用程序中常见的 10 个最严重的漏洞,强调了它们的潜在影响、利用的难易程度和流行程度。漏洞示例包括快速注入、数据泄漏、沙盒不...
OWASP发布大型语言模型漏洞威胁Top10(草案清单)
基于大型语言模型(LLM)的生成式AI技术应用已经成为当前全球企业普遍关注的热点。作为一种创新技术,企业组织在未来数字化发展中有很多机会应用ChatGPT或类似AI工具。因此,CISO们需要提前做好准...
【含真实落地演示】为什么LLM重新为AR/VR打开了想象空间?
cckuailong读完需要6分钟速读仅需 2 分钟1 转载自https://twitter.com/fi56622380/status/1659848462060630016...
Palantir演示军队如何利用ChatGPT进行作战
Palantir正在推出Palantir人工智能平台(AIP),该软件旨在运行GPT-4等大型语言模型和专用网络上的替代方案。在其中一个宣传视频中,Palantir演示了军队如何使用AIP进行作战。 ...
ChatGPT 和 Bing 的核心安全漏洞
当微软关闭其 Bing 聊天机器人的混乱自我时, 黑暗Sydney个性的粉丝为它的损失而哀悼。但是一个网站复活了聊天机器人的一个版本以及随之而来的奇特行为。Bring Sydney Back...
七大语言模型PK,ChatGPT内容基线评测稳居第一
随着ChatGPT的爆火与流行,大型语言模型(LLM)与生成式人工智能(AIGC)不断跃入大众视野,随之也带来了许多内容风险隐患。 近日,知道创宇内容安全专家对互联网上流行的7款大型语言模型进行了全面...
44