llm - 第 23 | CN-SEC 中文网

安全新闻

想知道坏人如何攻击人工智能系统吗？

我们知道人工智能会带来新的、快速发展的威胁，但要了解这些威胁是什么样子、来自哪里以及有多严重，则是另一回事，而且这项任务极其艰巨。人工智能系统对抗威胁态势 (ATLAS) 就是为了实现这一目标，让您无...

09月21日31 views评论

阅读全文

人工智能安全

微调之外的大模型应用技术

一、简介在实际应用中，针对任务的具体需求，我们会对大模型进行微调使其能更好适应专门的任务和场景。然而，在具体任务实现时，即使是对较小的大模型（如7B）进行微调也需要大量的算力资源，并且在没有大量的数据...

09月20日29 views评论

阅读全文

人工智能安全

深入探讨：人工智能生态系统的安全性

本文 120343字阅读约需 33分钟文章重点是与企业安全领导者和首席执行官深入探讨如何确保生成式人工智能应用和大语言模型的安全。其中，分析的重点是企业采用人工智能的情况，这是影响安全厂商未来发...

09月19日46 views评论

阅读全文

人工智能安全

技术分享 | LLM Powered Agents概念与实践

1.agent概念1.1什么是agent？agent（智能体）是能够自主行动、感知环境、做出决策并与其他agent或人类进行交互的计算机程序或实体。1.2LLM：agent的全新大脑agent本身是一...

09月19日24 views评论

阅读全文

安全文章

创建一个 AI 蜜罐来与攻击者进行复杂的互动

在网络安全中，蜜罐是专门设计用于吸引和分析网络攻击的诱饵系统，充当潜在入侵者的陷阱。通过模仿合法目标，蜜罐将攻击者从真实资产中转移出来，同时收集有关其方法和行为的情报。来自奥尔巴尼应急准备、国土安全学...

09月18日62 views评论

阅读全文

人工智能安全

【论文】LLM 蜜罐：利用大型语言模型作为高级交互式蜜罐系统

网络威胁的快速发展需要创新的解决方案来检测和分析恶意活动。蜜罐是一种旨在引诱攻击者并与攻击者互动的诱饵系统，已成为网络安全的重要组成部分。在本文中，我们介绍了一种使用大型语言模型 (LLM) 创建逼真...

09月18日98 views评论

阅读全文

人工智能安全

Ollama 本地运行大模型(LLM)完全指南

文章介绍了 Ollama 本地运行大模型（LLM）的方方面面，包括安装运行、对话、自定义模型、系统提示配置、调试、开发、存储、如何作为服务、OpenAI 的兼容等。这一年来，我已经习惯了使用线上大模...

09月10日484 views评论

阅读全文

人工智能安全

LLM安全前传之 LLM的崛起之路

序言当前生成式 AI 非常火爆，可以说无处不在，频频出现我们的朋友圈、登上各大新闻头条。你可能已经用过了 ChatGPT 等多种大模型对话产品，甚至它可能已经成为了你形影不离的良师益友。今天让我们用层...

09月10日33 views评论

阅读全文

安全新闻

现实世界中的间接提示注入：人们如何操纵神经网络

什么是提示注入？作为支撑ChatGPT和其他流行聊天机器人的神经网络算法，大型语言模型（LLM）正变得越来越强大且易用。鉴于此，利用它们的第三方应用程序也如雨后春笋般涌现，范围涵盖文件搜索和分析系统、...

09月09日30 views评论

阅读全文

安全文章

利用云服务器搭建自己的Ai大模型

目前各种AI大模型层出不穷。如AI换脸，AI克隆声音都是通过训练自己的大模型来实现的。而想要训练自己的大模型，是对自己的硬件有所要求的，尤其是对显卡的要求！在工作中，我们需要跑一些大模型，如通义千问、...

09月09日53 views评论

阅读全文

人工智能安全

iText2KG：显著降低LLM构建知识图谱时的幻觉现象

iText2KG：借助大型语言模型实现知识图谱的增量构建发布时间：2024 年 09 月 05 日知识图谱iText2KG: Incremental Knowledge Graphs Construc...

09月09日80 views评论

阅读全文

安全新闻

安全采用人工智能的四大技巧

正如Coatue最新报告所揭示的，全球企业正以令人瞩目的速度拥抱人工智能，其增势之迅猛，甚至可与早期互联网普及相媲美，且增长率翻倍。随着企业加速推进基于AI的软件开发解决方案，安全团队正面临双重挑战：...

08月19日17 views评论

阅读全文

想知道坏人如何攻击人工智能系统吗？

微调之外的大模型应用技术

深入探讨：人工智能生态系统的安全性

技术分享 | LLM Powered Agents概念与实践

创建一个 AI 蜜罐来与攻击者进行复杂的互动

【论文】LLM 蜜罐：利用大型语言模型作为高级交互式蜜罐系统

Ollama 本地运行大模型(LLM)完全指南

LLM安全前传之 LLM的崛起之路

现实世界中的间接提示注入：人们如何操纵神经网络

利用云服务器搭建自己的Ai大模型

iText2KG：显著降低LLM构建知识图谱时的幻觉现象

安全采用人工智能的四大技巧

在线咨询

微信