案件概述案例背景Snap Inc.(以下简称"Snap")是Snapchat平台的开发者,该平台推出了一项名为"My AI"的新功能,该功能利用人工智能技术为用户提供个性化服务。英国ICO对Snap展...
【公益译文】大语言模型安全测试方法
一前言世界数字技术院(WDTA)开发和发布了“大语言模型安全测试方法”,这表明相关人员始终致力于推进关键进展,保证人工智能技术的可信和安全使用。大语言模型等人工智能系统逐渐成为社会各个领域中不可或缺的...
当人工智能走向软硬结合
智道聚焦前沿科技与法律伦理的交汇碰撞栏目主持人:於兴中“软硬结合”的人工智能让每个人都能使用扩散模型和GPT模型,每个人为善的潜力空前增强,作恶的能力——例如深度伪造的能力——也在增强。因此,更加需要...
OLLVM混淆源码解读
一 基础知识 IR(intermediate representation)是前端语言生成的中间代码表示,也是Pass操作的对象,它主要包含四个部分: ◆Module:一个源代码文件被编译后生成的IR...
基于深度学习技术的非结构化数据自动分类分级实现
为贯彻落实《中华人民共和国数据安全法》《工业和信息化领域数据安全管理办法(试行)》和《工业和信息化部等十六部门关于促进数据安全产业发展的指导意见》,充分挖掘工业和信息化领域数据安全防护典型经验做法,切...
【论文速读】|利用大语言模型实现现实世界代码的翻译:一项针对翻译到Rust语言的研究
本次分享论文:Towards Translating Real-World Code with LLMs: A Study of Translating to Rust基本信息原文作者:Hasan F...
ChatRule—基于LLM挖掘KG中的逻辑规则
一. 引言在本文中,我们提出了一个新的框架 ChatRule,提升LLM在知识图谱上挖掘逻辑规则的能力。具体而言,该框架以基于 LLM 的规则生成器为起点,利用 KGs 的语义和结构信息来促使 LL...
对大模型在安全领域应用中的几点预测
从TO B市场而已,未来大模型第一个争议-训练由于训练是定制基于行业,随着组织应用,产品,技术的个性化,厂商在更广义范围的销售中,必然面对谁解决训练问题,如何解决跨领域,跨技术的训练问题。训练如同当年...
【论文速读】| 超越随机输入:一种基于机器学习的新型硬件模糊测试方法
本次分享论文:Beyond Random Inputs: A Novel ML-Based Hardware Fuzzing基本信息原文作者:Mohamadreza Rostami, Marco Ch...
AI 安全运营的新篇章:Dify 的应用与实践(一)
“A9 Team 甲方攻防团队,成员来自某证券、微步、青藤、长亭、安全狗等公司。成员能力涉及安全运营、威胁情报、攻防对抗、渗透测试、数据安全、安全产品开发等领域,持续分享安全运营和攻防的思考和实践。”...
大模型语音模式越狱攻击 (Jailbreak Attack)
原文标题 : Voice Jailbreak Attacks Against GPT-4o 原文作者 : Xinyue Shen, Yixin Wu, Michael Backes, Yang Zha...
大模型在工业智能中的应用场景探讨 | TF134回顾
6月2日,CCF TF第134期“大模型在工业智能中的应用场景探讨”以线上会议形式成功举办。本次活动由CCF TF智能制造SIG策划呈现,邀请了来自中科大、达观数据和容知日新科技的学者和技术专家,共同...
73