人工智能安全 - 第 55 | CN-SEC 中文网

人工智能安全

大模型不备案：违规提供AIGC服务遭查处！一文读懂落地方法论

大模型备案随着人工智能技术的发展，大模型在语音识别、图像处理、自然语言处理等领域应用日益广泛，为进一步保障和监管大模型技术应用，我国出台了《生成式人工智能服务管理暂行办法》，为大模型的合规提供了明确...

08月03日351 views评论

阅读全文

人工智能安全

专家观点 | 国家安全视角下的人工智能风险与治理

扫码订阅《中国信息安全》邮发代号 2-786征订热线：010-82341063文 | 中国科学院数学与系统科学研究院研究员杨晓光；中国科学院大学公共政策与管理学院特聘教授、国家前沿科技融合创新研究...

08月02日117 views评论

阅读全文

人工智能安全

AI助理解读新法规（四）：自然资源部发布《对外提供涉密测绘成果管理办法》

点击上方蓝字关注我们（本文系由自研AI助理应用生成，经律师修改并补充）面对测绘地理信息事业的增速发展，测绘成果种类、形式、秘密范围、提供方式、应用领域以及使用环境不断变化，测绘资料的内涵和外延也不断扩...

08月02日73 views评论

阅读全文

人工智能安全

美国国务院：人工智能的人权风险管理

7月25日，美国国务院发布了《人工智能与人权风险管理概况》(以下简称《概况》)。《概况》借鉴了美国国家标准与技术研究所（NIST）的人工智能风险管理框架(AI RMF)，旨在将人权与风险管理方法联系起...

08月02日46 views评论

阅读全文

网络安全知识体系：人工智能安全隐私之威胁模型

今天进入人工智能安全隐私的威胁模型。以下是威胁模型内容。2、威胁模型在深入研究机器学习的安全和隐私方面之前，我们首先介绍相关的对抗模型。知识。一个重要的方面是攻击者可能拥有什么样的知识：• 完美知识：...

08月02日人工智能安全11 views评论

阅读全文

人工智能安全

AI大模型需要什么样的数据？

来源：CIO之家全文共4987字，建议阅读10分钟数据将是未来AI大模型竞争的关键要素人工智能发展的突破得益于高质量数据的发展。例如，大型语言模型的最新进展依赖于更高质量、更丰富的训练数据集：与GPT...

08月02日23 views评论

阅读全文

人工智能安全

分享一个好用的图片理解模型

前段时间在自己又在折腾个人项目，需要让大模型去理解图片......图片理解对话大模型要理解图片，有一个比较简单的方法。因为这种模型只能接收文本输入内容，所以换个思路把图片的内容转为文本即可，即通过一个...

08月02日13 views评论

阅读全文

人工智能安全

如何填补AI领域的网络安全实践空白

自从OpenAI的ChatGPT出现以来，随着一系列其他面向消费者和企业的人工智能（AI）产品的出现，AI作为一种技术趋势得到了广泛的宣传和关注。许多评论员只关注到AI目前作为一个流行词汇的突出地位，...

08月01日31 views评论

阅读全文

人工智能安全

浅谈LLM应用中隐藏的安全风险

什么是LLM?通过海量文本训练的、能识别人类语言、执行语言类任务、拥有大量参数的模型，称之为大语言模型（LLM）。GPT、LLaMA、Mistral、BERT等都是LLM，LLM是对训练文本信息的压缩...

08月01日101 views评论

阅读全文

人工智能安全

ACL 2024 | Parrot（鹦鹉）：增强大语言模型在多轮对话中的指令跟随能力

多轮对话是大语言模型与人类互动的主要方式，广泛应用于消费娱乐、生产力工具和创意生成等场景。然而，构建多轮对话能力所需的训练数据人工标注成本高，且难以控制质量和多样性。因此，如何增强大模型的多轮交互能力...

08月01日70 views评论

阅读全文

人工智能安全

AI时代数据投毒攻击的防范策略与应对措施

人工智能 (AI) 正在对人们生活的几乎各个方面产生深远的影响，包括提高生产力和效率。AI驱动的系统使用算法和模型来处理和合成数据、学习数据中的模式和依赖关系，并做出类似于人类推理的决策。伴随着AI带...

07月31日147 views评论

阅读全文

人工智能安全

本地搭建ChatGPT【Ollama + Gemma2】

声明：文章中涉及的程序(方法)可能带有攻击性，仅供安全研究与教学之用，读者将其信息做其他用途，由用户承担全部法律及连带责任，文章作者不承担任何法律及连带责任。前言 Ollama是一个...

07月31日27 views评论

阅读全文