欢迎光临！
登录
  • DNSlog
  • CN-SEC中文网·在线工具
  • 设备默认密码查询
  • 在线工具集合
  • 娱乐一下
  • 友情链接

    CN-SEC 中文网 CN-SEC 中文网

    聚合网络安全,存储安全技术文章,融合安全最新讯息

    bj
    登录
    • 首页
    • 安全新闻
    • 云安全
    • 安全博客
      • 鬼仔Blog
      • 独自等待
      • dmsec
      • Asura笔记本
      • gh0st_cn
      • javasec_cn
      • moonsec_com
      • Mr.Wu
      • 颓废's Blog
      • 漏洞时代
      • SecIN安全技术社区
    • 安全漏洞
      • 乌云漏洞
    • 安全文章
      • HW&HVV
      • 应急响应
      • 人工智能安全
    • 逆向工程
      • CTF专场
      • 移动安全
      • IoT工控物联网
    • 安全开发
      • 代码审计
    • 安全工具
    • 安全闲碎

      搜索热点

      首页大模型安全第 2 页
      安全新闻

      Meta大模型安全解决方案——防护篇

      一.  背景互联网巨头Meta发布的开源大模型安全解决方案Purple-Llama，整合了多种防护工具和评估方法，旨在保护开源生成式AI模型安全发展。在上一篇文章《Meta大模型安全解决方案——评估》...
      admin 02月08日81 views评论guard prompt
      阅读全文
      安全新闻

      多模态大模型安全评估基准MultiTrust

      由清华大学、北京航空航天大学、上海交通大学和RealAI联合研究的MultiTrust框架[1]是一个针对多模态大模型的可信评估基准，从真实性、安全性、鲁棒性、公平性和隐私性对多模态大模型安全进行综合...
      admin 12月30日102 views评论安全评估 语言模型
      阅读全文
      人工智能安全

      大模型安全的漏洞

      下文主要基于360 安全大模型代码分析能力，对多个开源项目进行代码梳理和风险评估，结合分析报告，快速审计并发现了近 40 个大模型相关安全漏洞，影响范围覆盖llama.cpp、Dify 等知名模型服务...
      admin 12月11日180 views评论llm 数据集
      阅读全文
      人工智能安全

      AISS专栏 | 模型越狱攻击手段与评估框架分析

      前言模型越狱是指通过各种手段突破人工智能模型内置的安全性和内容政策，迫使模型执行一些原本被禁止的操作或生成敏感、违法及不当的内容。这类越狱行为通常会涉及绕过模型的过滤系统、道德规范或安全限制，使模型生...
      admin 12月04日49 views评论大模型安全 越狱攻击
      阅读全文
      人工智能安全

      Cross Plugin Request Forgery (CPRF)：大模型安全的隐秘威胁

      大语言模型（LLMs）如 ChatGPT、Claude 等的应用正在快速扩展。为了实现更多样化的能力，这些模型通过插件扩展与外部系统交互，比如数据库查询、调用外部 API、生成报告等。然而，这种灵活性...
      admin 11月27日29 views评论cross 大模型安全
      阅读全文
      人工智能安全

      360发布全球首份《大模型安全漏洞报告》，曝光近40个大模型相关安全漏洞

        近年来，全球人工智能浪潮持续升温，大模型作为AI领域中的重要一环，其能力随着平台算力的提升、训练数据量的积累、深度学习算法的突破，得到了进一步提升。然而以大模型为核心涌现的大量技术应用背后，也带来...
      admin 11月26日130 views评论安全威胁 攻击面
      阅读全文
      人工智能安全

      AI 大模型安全实践指南

      当前正处于人工智能飞速发展的黄金时期，以ChatGPT为代表的生成式人工智能技术极大地丰富了创意表达的方式，加速了知识的传播，并为社会变革注入了新的动力。在我国，大语言模型（Large Languag...
      admin 11月20日113 views评论人工智能 语言模型
      阅读全文
      人工智能安全

      大模型安全挑战：全生命周期的原生构建与风险应对

      11月15日，云安全联盟大中华区大会将在北京举行，欢迎扫码报名参会！如何在安全挑战中构建大模型稳健防线？如何在复杂生命周期中确保大模型安全无虞？如何在AI技术飞速发展中应对新型安全威胁？2024年11...
      admin 10月23日18 views评论AI技术 生命周期
      阅读全文
      人工智能安全

      G.O.S.S.I.P 阅读推荐 2024-10-18 大模型安全新利器：ToxicDetector 高效检测有害提示词

      今天想和大家分享一篇由上海科技大学和南洋理工大学合作并投稿的有趣研究Efficient Detection of Toxic Prompts in Large Language Models，目前已被...
      admin 10月19日25 views评论arxiv 大模型安全
      阅读全文
      人工智能安全

      专题·大模型安全 | 生成式人工智能对国家安全的挑战

       扫码订阅《中国信息安全》邮发代号 2-786征订热线：010-82341063文 | 西安交通大学法学院、人工智能与信息安全法律研究中心 副教授 王新雷；西安交通大学法学院硕士研究生 唐琳玲生成式人...
      admin 10月06日202 views评论chatgpt 人工智能
      阅读全文
      人工智能安全

      专题·大模型安全 | 生成式人工智能的数据安全风险与应对措施

       扫码订阅《中国信息安全》邮发代号 2-786征订热线：010-82341063文 | 中国信息安全测评中心 高松大模型技术的发展，掀起了生成式人工智能的新浪潮。该技术在各个行业、领域快速应用，催生出...
      admin 09月26日160 views评论人工智能 数据安全
      阅读全文
      人工智能安全

      专题·大模型安全 | 大模型安全风险评估与防御技术综述

       扫码订阅《中国信息安全》邮发代号 2-786征订热线：010-82341063文 | 中国信息通信研究院人工智能研究所 黑一鸣 陈文弢 陈杰 呼娜英近年来，数据量、算力规模和模型参数持续增长，推动了...
      admin 09月19日433 views评论数据集 风险评估
      阅读全文
      5

      文章导航

      1 2 3 4 5

      最新文章

      •  CVE-2025-21756：Linux 内核漏洞如何导致完全 root 权限利用，PoC 发布 05/07 6 views
      • data-cve-poc：此仓库收集了在GitHub上发现的所有CVE漏洞利用工具 05/07 6 views
      • Beacon连上了，人没回来 ——在这场零误报演练里，我们失去的，不止是告警 05/07 4 views
      • 流量特征分析-蚁剑流量分析 05/06 2 views
      • 无人集群的网络安全挑战与应对 05/06 4 views

      大家喜欢

      • 669个大学网站都有注入点 4305/01
      • 揭秘CVE-2024-21111：Oracle VirtualBox 本地权限提升漏洞 2806/12
      • 【工具】Awvs14.7.220401065|可自测Spring4Shell漏洞 2304/03
      • 信息安全工程师教程第2版（文末附电子版下载） 1709/07
      • Cobalt Strike 4.4 (August 04, 2021)发布 1308/26
      • 正方教务管理系统最新版无条件注入&GetShell 1201/01
      • Acunetix14.x全版本通杀破解补丁 1012/17

      网站概况

      • 文章142744
      • 分类48
      • 标签153148
      • 留言701
      • 链接0
      • 浏览21644635
      • 今日111
      • 本周204
      • 运行6488 天
      • 更新2025-5-7

      关于本站

      name
      CN-SEC.COM中文网
      聚合网络安全,存储安全技术文章,融合安全最新讯息
      weixin
      文章142744 留言 701 访客21644635

      CN-SEC 中文网

      CN-SEC 中文网

      网站概况[CN-SEC 中文网]

      • 文章142744
      • 分类48
      • 标签153148
      • 留言701
      • 链接0
      • 浏览21644635
      • 今日111
      • 本周204
      • 运行3325 天
      • 更新2025-5-7
      Copyright ©  CN-SEC中文网  版权所有. CN-SEC.COM

      登录 找回密码

      输入用户名或电子邮件


      重置密码链接通过邮箱发送给您
      • 目录

      • 在线咨询

        13688888888
        QQ在线咨询

        微信

        微信
      • CN-SEC 中文网

        本页二维码