网络社会工程学攻击是一种利用心理欺骗和社交技巧来欺骗目标人员，以获取敏感信息、非法访问系统或进行其他恶意活动的攻击方式。攻击者利用人们的信任、好奇心、隐私保护意识不足等心理弱点，通过与目标交互和操纵，...
09月22日1 views评论chatgpt
人工智能
新兴威胁：人工智能驱动的深度伪造社会工程攻击日益复杂
09月22日1 views评论chatgpt
人工智能
09月22日1 views评论chatgpt
人工智能
主流大语言模型的技术原理细节
作者：spring 1.比较 LLaMA、ChatGLM、Falcon 等大语言模型的细节：tokenizer、位置编码、Layer Normalization、激活函数等。2. 大语言模型的分布式训...
09月12日29 views评论ad
语言模型
Prompt Injection Primer for Engineers- 提示注入入门指南
文章首发于个人博客：https://mybeibei.net，点击最下方“阅读原文”可直接跳转查看。背景介绍随着 AI 大语言模型的火爆，其安全性也受到了安全人员的关注。最近国外一位安全研究人员将目前...
09月05日15 views评论injection
安全性
一文入门最热的LLM应用开发框架LangChain
作者： 腾讯应用宝 MoonWebTeam 团队 jansezhou 在人工智能领域的不断发展中，语言模型扮演着重要的角色。特别是大型语言模型（LLM），如 ChatGPT，已经成为科技领域的热门话题...
08月20日12 views评论人工智能
框架
ChatGPT机器人的大缺陷，你绝对不能忽视！
ChatGPT等人工智能（AI）聊天机器人历经多次调整，试图避免遭恶意人士操控给出不良信息，比如仇恨言论、个人信息，或者制作简易炸弹的步骤。但就在上周，卡耐基梅隆大学（CMU）的研究人员证实，只需往提...
08月16日16 views评论chatgpt
语言模型
一文搞懂大模型框架：LangChain
来源：AI研究局作者：张伟在日常生活中，我们通常致力于构建端到端的应用程序。有许多自动机器学习平台和持续集成/持续交付（CI/CD）流水线可用于自动化我们的机器学习流程。我们还有像 Roboflow ...
08月12日37 views评论gpt
语言模型
新型对抗攻击影响ChatGPT等主流大语言模型
ChatGPT是一个基于人工智能技术的自然语言处理模型，可以通过学习大量的语料库，生成自然语言的文本和对话。ChatGPT通过为各行各业带来更高效、智能和个性化的服务而对各行业带来变革性影响。研究人员...
08月09日8 views评论chatgpt
机器学习
提升ChatGPT性能的实用指南：Prompt Engineering的艺术
作者：mony一起探索 Prompt Engineering 的奥秘，并学习如何用它来让 ChatGPT 发挥出最大的潜力。什么是提示工程？提示工程是一门新兴学科，就像是为大语言模型（LLM）设计的"...
08月07日4 views评论chatgpt
语言模型
半数人工智能开源项目引用存在漏洞的软件包
根据EndorLabs的数据，开源在AI技术堆栈中发挥着越来越重要的作用，但大多数项目(52%)引用了存在已知漏洞的易受攻击的依赖项。EndorLabs在最新的《软件依赖管理状态报告》声称，在发布仅五...
08月05日5 views评论chatgpt
人工智能
大语言模型工程实践-网络安全大模型
前言上篇文章我们采用了Vicuna-7B模型进行微调，使其具备了网络安全领域的能力。但是Vicuna-7B模型的问题也很明显，中文能力较差，中文吐字很慢，目前看还不能很好的满足需求。这次我选用了bai...
07月31日28 views评论网络安全
访问控制
大语言模型的七大应用风险
随着基于大语言模型的生成式人工智能的企业和消费应用快速发展，其安全风险已经开始快速累积。我国不久前刚刚颁布的《生成式人工智能服务管理暂行办法》明确规定了生成式人工智能服务不得侵犯个人隐私、知识产权、商...
07月25日14 views评论安全风险
数据泄露
欧洲的人工智能监管困局与焦虑
近期，来自不同政治派别的11位欧洲议会议员发出一封公开信，呼吁行业、研究人员和决策者更加关注“非常强大的人工智能”的潜在危险。鉴于当前人工智能技术的快速发展，欧洲有不少人担心欧盟的监管政策跟不上技术发...
07月24日1 views评论人工智能
数据保护
