自主性 | CN-SEC 中文网

人工智能安全

大语言模型权限泛滥：自主性失控带来的安全风险

要使AI代理能够"思考"并自主行动，必须赋予其自主权（agency），即允许其与其他系统集成、读取分析数据并执行命令。但随着这些系统获得对信息系统的深度访问权限，人们越来越担忧其权限过度扩张——当这些...

04月08日28 views评论

信息情报

关注 ▲蓝军开源情报▲ 和10000情报研究员，一起成长【导读】现代无人系统在多大程度上真正实现了自主性？人工智能在乌克兰战争中多大程度上增强了无人系统的自主性？将军用无人系统从雄心勃勃的理论概念转变...

03月21日19 views评论

安全新闻

Gartner最近发布的2025十大战略技术趋势中，Agentic AI（代理型AI）被排在首位，凸显了Agentic AI 在提高生产力、优化资源配置和创新商业模式方面的巨大潜力。但Gartner同...

10月24日15 views评论

信息情报

美国一位机构官员上周三的在安全与技术研究所主办的一次活动中表示，国防部最近对其已有十年之久的自主武器政策进行了更新，这将有助于五角大楼更好地理解人工智能在战争中日益重要的作用并为其做好准备。五角大楼新...

03月03日61 views评论

安全闲碎

今天给大家推荐美国陆军作战能力发展司令部陆军研究实验室的文章《用多模态生理和行为测量来估计人的状态和决定，以改善人与自主性团队的协作关系》为了实现有效的人类-自主性团队合作，管理人类和自主性代理之间的...

01月06日25 views评论

信息情报

点击下方小卡片关注情报分析师在乌克兰正在进行的战争中，双方都使用了无人机。乌克兰军方使用Bayraktar TB-2无人机进行罢工，进行侦察，并收集宣传中的视频。甚至乌克兰平民也加入了这一努力——正如...

05月15日98 views评论