语言模型 - 第 4 | CN-SEC 中文网

企业面临的四大 LLM （大型语言模型）威胁

Michael Bray是温哥华诊所的CISO，他认为大型语言模型（LLM）在改善医疗条件方面具备着无限可能，在他看来，基于 DNA 的预测研究、新陈代谢相互作用、实验室服务、诊断和其他医学将因LLM...

01月26日9 views评论

供应链安全

人工智能供应链安全专题（2）大语言语言模型安全攻击以及AI供应链漏洞

01简要说明人工智能和人工智能的安全性正在以惊人的速度发展，AI模型供应链中使用的工具，用于构建机器学习模型，会使AI应用程序容易受到独特的安全威胁。这些工具是开源的，这意味着它们开箱即用时可能存在漏...

01月25日26 views评论

AI大模型与安全运营

AI大模型与安全运营大模型技术的出现，对于一线的安全运营人员来说，最关心的是这个技术如何能落地，在日常的安全运营工作中如何让大模型技术发挥作用，提高工作的效率。对安全运营人员来说...

01月23日27 views评论

论文推荐 | 借助大语言模型GPT-4辅助恶意代码动态分析

2023年是大语言模型发展的元年，许多大语言模型崭露头角，以ChatGPT为首的生成式对话模型已然成为人工智能领域的研究热点，引领着自然语言处理技术不断发展。得益于大语言模型在多项语言任务和实际应用上...

01月22日13 views评论

大语言模型面临的威胁—概览

本系列文章，主要是从外部威胁者视角下讲述大语言模型及大语言模型相关应用面临的威胁，以及一些建议，助力大语言模型健康发展。前言 2023年最火的公司无疑是openai，最火的产品也无疑是c...

01月18日14 views评论

大语言模型系统安全综述

今天为大家介绍一篇由中关村实验室和清华大学共同完成的大模型安全综述“Risk Taxonomy, Mitigation, and Assessment Benchmarks of Large Lang...

01月14日76 views评论

分享照片有风险！斯坦福大学新AI模型可根据照片快速定位

生成式人工智能的飞速发展正在不断制造新的个人隐私焦虑，例如语音和人脸样本的泄露可被用于深度伪造和网络钓鱼等犯罪活动。近日，斯坦福大学公布了一种新的AI模型，可以根据用户在社交媒体上分享的环境照片快速定...

01月13日8 views评论

人工智能 | 探索大语言模型的安全和隐私挑战

近年来，人工智能蓬勃发展，以大模型、生成式AI为首的技术革新，推动着人工智能产业发展进入全新时代。在人工智能快速崛起的同时，大语言模型（LLM）也开始得到广泛运用。以ChatGPT为代表的生成式AI...

01月09日13 views评论

LLM Prompt 安全

LLM Prompt 安全 PART.1 背景近期，大语言模型（LLM）正在各个应用领域引起巨大的变革，已经在搜索引擎、金融服务、企业办公、网络安全、教育培训、娱乐游戏、电子商务和社交平台等领域迅速...

01月06日65 views评论

专题解读 | ICLR2024图与大语言模型结合论文介绍

这次分享两篇近期在ICLR2024投稿的图与大语言模型结合的论文。一、Thought Propagation第一篇论文名为《Thought Propagation: An Analogical App...

01月06日104 views评论

G.O.S.S.I.P 阅读推荐 2023-12-20 代码本非人间语

以ChatGPT为代表的大语言模型（LLM）无疑是本年度人工智能技术最火热的领域，在可以预见的一段时间内，仍将引领通用人工智能技术的发展和在各个行业的应用落地。同样的，在LLM崛起之后的这段时间内，大...

12月20日61 views评论