2023年,人工智能对IT、商业乃至于整个世界都带来了深远影响。在新年到来之际,10位人工智能领域的专家分享了他们对于2024年人工智能发展趋势的预测。01大语言模型向通用人工智能发展分析技术公司S...
微软、OpenAI警告:国家级黑客借助AI进行网络攻击
Nation-state actors associated with Russia, North Korea, Iran, and other country are experimenting w...
语言模型在外部数据集中的推理应用
目前语言模型的应用存在以下两条路线:围绕语言模型自身的训练优化,涉及从头完成语言模型的预训练、应用收集的数据如行业领域数据完成在基础语言模型上的训练优化等;围绕语言模型语义推理能力,涉及应用提示工程激...
挖洞神器!谷歌免费开放模糊测试框架OSS-Fuzz
根据谷歌威胁分析小组的报告,2023年重大零日漏洞利用事件大幅增长,零日漏洞攻击重新升温,从商业间谍到勒索软件攻击,零日漏洞正在从“小众奢侈品”走向“大众快销品”。2024年,零日漏洞+供应链攻击仍将...
大型语言模型会彻底改变国家安全吗?
如今,像 ChatGPT 这样的大型语言模型(LLM)的横空出世,让众多观察家惊叹不已。难道主算法,或至少它的原始形态,已经被发现了吗?ChatGPT以及它的兄弟姐妹们,展现出了在各类应用场景中的巨大...
企业面临的四大 LLM (大型语言模型)威胁
Michael Bray是温哥华诊所的CISO,他认为大型语言模型(LLM)在改善医疗条件方面具备着无限可能,在他看来,基于 DNA 的预测研究、新陈代谢相互作用、实验室服务、诊断和其他医学将因LLM...
人工智能供应链安全专题(2)大语言语言模型安全攻击以及AI供应链漏洞
01简要说明人工智能和人工智能的安全性正在以惊人的速度发展,AI模型供应链中使用的工具,用于构建机器学习模型,会使AI应用程序容易受到独特的安全威胁。这些工具是开源的,这意味着它们开箱即用时可能存在漏...
AI大模型与安全运营
AI大模型与安全运营 大模型技术的出现,对于一线的安全运营人员来说,最关心的是这个技术如何能落地,在日常的安全运营工作中如何让大模型技术发挥作用,提高工作的效率。对安全运营人员来说...
论文推荐 | 借助大语言模型GPT-4辅助恶意代码动态分析
2023年是大语言模型发展的元年,许多大语言模型崭露头角,以ChatGPT为首的生成式对话模型已然成为人工智能领域的研究热点,引领着自然语言处理技术不断发展。得益于大语言模型在多项语言任务和实际应用上...
大语言模型面临的威胁—概览
本系列文章,主要是从外部威胁者视角下讲述大语言模型及大语言模型相关应用面临的威胁,以及一些建议,助力大语言模型健康发展。前言 2023年最火的公司无疑是openai,最火的产品也无疑是c...
大语言模型系统安全综述
今天为大家介绍一篇由中关村实验室和清华大学共同完成的大模型安全综述“Risk Taxonomy, Mitigation, and Assessment Benchmarks of Large Lang...
分享照片有风险!斯坦福大学新AI模型可根据照片快速定位
生成式人工智能的飞速发展正在不断制造新的个人隐私焦虑,例如语音和人脸样本的泄露可被用于深度伪造和网络钓鱼等犯罪活动。近日,斯坦福大学公布了一种新的AI模型,可以根据用户在社交媒体上分享的环境照片快速定...
30