在资本市场迅速“降温”的人工智能技术仍然面临冷却难题众所周知，人工智能技术的发展离不开强大的计算力支撑，背后的数据中心更是耗电量惊人。据统计，全球数据中心每年消耗的电量相当于一个中等规模国家的年用电量...
09月26日26 views评论gpt
人工智能
人工智能面临水荒
09月26日26 views评论gpt
人工智能
09月26日26 views评论gpt
人工智能
【干货】如何评估AI模型的公平性？
2024在讨论AI模型的公平性评估之前，让我们先讨论一下实际AI应用中存在哪些AI模型歧视问题。目前的AI模型歧视较为隐蔽，很多人如果不是切身利益受到损害或者进行横向对比，很难注意到被AI模型不公平对...
09月26日49 views评论fairness
公平性
专题·大模型安全 | 生成式人工智能的数据安全风险与应对措施
扫码订阅《中国信息安全》邮发代号 2-786征订热线：010-82341063文 | 中国信息安全测评中心 高松大模型技术的发展，掀起了生成式人工智能的新浪潮。该技术在各个行业、领域快速应用，催生出...
09月26日160 views评论人工智能
数据安全
人工智能应用的网络安全风险解读
OpenAI ChatGPT的推出是人工智能（AI）领域的一个转折点，甚至可以说是历史上的一个分水岭。这个平台的多种功能不仅吸引了消费者，还激发了工程师们利用生成式AI的特点来构建应用程序，尽管缺乏强...
09月25日14 views评论人工智能
敏感数据
相比较chatgpt，o1会不会更好？
什么是o1，它是如何工作的？那么，什么是o1？OpenAI的o1模型是他们最新的迭代，专注于高度推理和思想链处理。与GPT-4o或GPT-4等以前的模型不同，o1是专门为在响应前“思考”而设计的，这意...
09月25日28 views评论chatgpt
gpt
生成式人工智能风险规制与保护路径
与传统的依赖于程序计算、概率计算、数据加工、人类创造力的人工智能不同，Open AI公司在2022年末推出的ChatGPT拥有机器学习、深度学习、人类反馈学习等自主学习能力。以ChatGPT为代表的生...
09月24日25 views评论chatgpt
人工智能
G.O.S.S.I.P 阅读推荐 2024-09-23 大模型越狱，攻防战谁更胜一筹
今天给大家推荐的是一篇和大模型安全相关的有趣研究，名为A Comprehensive Study of Jailbreak Attack versus Defense for Large Langua...
09月24日48 views评论language
攻击技术
面向威胁情报的大语言模型技术
威胁情报(Threat Intelligence, TI)的早期实践起源于军事领域, 在这一阶段, 人类决策者和专家指导、收集、处理情报并将其传播给其他相关利益方。网络威胁情报是关于现有或潜在的威胁信...
09月24日136 views评论大语言模型
威胁情报
人工智能安全治理框架解读——模型算法安全风险及应对篇
20242024年9月9日，全国网络安全标准化技术委员会发布了《人工智能安全治理框架》1.0版（以下简称“《治理框架》”）。《治理框架》确定了人工智能的总体安全治理框架。按照“提出问题”到“解决问题”...
09月23日64 views评论人工智能
鲁棒性
专题解读 | 混合专家模型在大模型微调领域进展
混合专家模型在大模型微调领域进展前言：随着大规模语言模型（LLM）的快速发展，人工智能在自然语言处理领域取得了巨大的进步。在将大模型转化为实际生产力时，不免需要针对实际的任务对大模型进行微调。然而，随...
09月23日57 views评论arxiv
llm
法律如何应对人工智能的发展
随着自动驾驶汽车、ChatGPT、人形机器人等人工智能应用的爆发，人工智能对于现行法律的挑战逐渐受到重视。早在2017年，国务院就印发了《新一代人工智能发展规划》，指出：“人工智能是影响面广的颠覆性技...
09月22日人工智能安全41 views评论人工智能
自动驾驶
OpenAI o1的安全测试
昨天OpenAI 正式公开一系列全新 AI 大模型，新模型可以实现复杂推理，解决比此前的科学、代码和数学模型能做到的更难的问题。在之前测试了问题, 几乎没有模型能够回答包括gpt4，但是如果让gpt4...
09月22日76 views评论gpt
openai
73