人工智能安全 - 第 54 | CN-SEC 中文网

人工智能安全

AI+Security系列第2期（一）：对抗！大模型自身安全的攻防博弈

近日，由安全极客、Wisemodel 社区和 InForSec 网络安全研究国际学术论坛联合主办的“AI+Security”系列第 2 期——对抗！大模型自身安全的攻防博弈线上活动如期举行。本次活动邀...

08月15日120 views评论

阅读全文

人工智能安全

人工智能如何重塑身份安全

人工智能时代已经到来，引发了各个层面的重要讨论。Ping Identity最近针对人工智能威胁进行的一项调查发现，99%的新加坡企业在人工智能时代面临身份验证难题，而85%的新加坡组织预计...

08月14日18 views评论

阅读全文

人工智能安全

人工智能的发展引发的法律依据问题

关注我们，学习更多隐私合规讯息大型语言模型提供了诸如更高的效率、生产力、研究和创新等好处。欧洲数据保护委员会工作组在其5月23日发布的报告中也承认了这一点。所有LLM都是使用数据集开发和培训的。目前在...

08月07日15 views评论

阅读全文

人工智能安全

【好文推荐】生成式人工智能安全评估体系构建

摘要：《全球人工智能治理倡议》以“以人为本”为核心理念，推动建立一个公正、开放、有效的全球人工智能治理机制，确保人工智能技术朝着有利于人类文明进步的方向发展.首先概述了人工智能技术的快速发展及其带来的...

08月07日20 views评论

阅读全文

安全工具

AI信息收集大模型，只需关键词一键全网信息收集

首席情报官（Wiseflow）是一个敏捷的信息挖掘工具，可以从网站、微信公众号、社交平台等各种信息源中按设定的关注点提炼讯息，自动做标签归类并上传数据库。上线2个月，收获1.7star，更关键的是这...

08月07日69 views评论

阅读全文

人工智能安全

谈谈对人工智能（AI）国际竞争和监管的看法

此时此刻正在发生一场波及全球的人工智能（AI）竞争活动，竞争背后的驱动力是市场竞争。在市场主导地位和经济利益的驱动下，各家公司正在不断突破人工智能技术的极限，在这种形势下，很可能会引发一系列监管风险。...

08月05日34 views评论

阅读全文

人工智能安全

沉浸式翻译调用本地Ollama

既然本地部署了Ollama，沉浸式翻译这款神器插件，也可以使用本地的大模型进行更加优化的翻译了，首先点击左下角设置：接着选中OpenAI，点击“去修改”：选择“自定义API Key”，APIKEY...

08月05日130 views评论

阅读全文

人工智能安全

AI治理模型学习笔记

许多国家都推出了自己的人工智能治理模式，它们往往直接参考国际水平和全球人工智能治理问题。关于人工智能治理问题，我们重点关注那些本质上是跨国或多边的行为者和倡议，即涉及来自两个以上国家的利益相关者。但是...

08月05日19 views评论

阅读全文

人工智能安全

使用开源AI探寻0day的艺术

将分享如何使用经过微调的用于查找漏洞的开源 AI 模型codeastra-7B来识别各种开源项目（如 apache pulsar、apache airflow、apache cocoon、tensor...

08月05日57 views评论

阅读全文

人工智能安全

GPT-4o 的高价值用例

GPT-4o 与上一版本相比有了很大的飞跃，因为 LLM 现在能够很好地理解语音和图像。它的速度也更快，在理解和准确性方面排名很高。GPT-4o 击败了其他 AI，例如 Gemini 1.5 Pro、...

08月05日10 views评论

阅读全文

人工智能安全

对大型语言模型的即时抽象攻击，实现更低廉的应用程序接口定价

招新小广告CTF组诚招re、crypto、pwn、misc、合约方向的师傅,长期招新IOT+Car+工控+样本分析多个组招人有意向的师傅请联系邮箱 [email protected](带上简历和想加入的...

08月05日12 views评论

阅读全文

人工智能安全

来自大型语言模型的威胁

简介: 大型语言模型（LLMs）极易受到操纵，因此必须将其视为系统中的潜在攻击者。LLMs 在我们的日常生活中变得非常流行，并发挥着许多功能。有点想法的的软件公司都将人工智能（AI）整合到其...

08月03日28 views评论

阅读全文