甲方 :如何对抗钓鱼邮件、AI大模型评测有哪些?

admin 2024年6月8日19:40:35评论3 views字数 1216阅读4分3秒阅读模式
甲方 :如何对抗钓鱼邮件、AI大模型评测有哪些?

本期为“甲方”2024第九期,统计了6.1-6.7期间的社群动态、甲方话题等。

01
社群动态
目前,诸子云认证会员已超过3000人,包括上海、北京、深圳、杭州、武汉、厦门、西南、广州、南京、青岛、苏州、天津、佛山、济南、珠海、台州共16个分会。在6.1-6.7期间,各地分会共计新增了2位甲方专家。

02
甲方话题
关键词:钓鱼邮件、安全意识、AI、大模型评测、信通院
话题一:如何对抗钓鱼邮件?
Q1:我们新近发现一封钓鱼邮件,无正文、无内容,仅有一个二维码。二维码是个“职业补贴自助系统”,地址未被识别为恶意。同时,该二维码被拆成2张图片,增加了检测难度。大家有什么好的防护手段吗?

“二维码图片拆分,明显是要对抗现在的主流邮件网关。”

“必须上AI,将拆分的图片合理地组合回来。”

“可以先从自家的钓鱼邮件测试做起来,看看有多少员工中招,先把员工的防范意识提升上来。有位同行分享他们以前的做法:用了开源的搭建了“钓鱼”服务器,然后每月一次演练 (先宣传,再钓鱼,然后各部门晾晒数据,自己的领导看自己部门的成绩,然后继续学习),员工的意识持续提升。”

“虽然这是业内常规做法吧,但真心鄙视。安全专家不努力从技术上突破创新,把风险转嫁给员工,还美其名曰提升安全意识,这就是不负责任。把生死交到别人手中的事,反正我是不建议这么干。”

“有一定道理,但凡事都有能力和资源的限制,也要权衡,再说这个事情也不是绝对技术上就能防住的。”

“安全意识的提升不只对工作,对个人生活也是有帮助。生活中接到钓鱼邮件,也能更好地防范。”

“这是多方面的,技术不能解决一切。还是需要管理手段配合一起用。”

“按照某篇论文统计的情况,组织意识对于安全绩效的正向过程远大于安全控制。虽然,里面的分析方法有些简单粗暴,不过还是一个独特的观点:安全控制措施。也许对实际的安全价值真的没有想象中那么大。”

甲方 :如何对抗钓鱼邮件、AI大模型评测有哪些?

“人对人,机对机,用机对人显然是不对等的。上面讨论的一张图的二维码钓鱼,明显是黑灰产自动化的行为,这种就要想尽办法用技术对抗。如果是hw人工的钓鱼,机对人肯定难办,那就靠意识提升吧,也是一种平衡。”

“我感觉还是得两条腿一起走路,安全意识提升到一定程度终究也会有边际效应,反而是现在搭上AI的顺风车,说不定技术控制的性价比会更高。”

话题二:AI大模型测评服务有哪些?
Q2:请问,现在国内安全厂商有做AI大模型评测服务的吗?或者类似AI firewall的产品?

“信通院好像有类似评测。”

“暂未听说有厂家做这块,我们现在只是记录了日志做事后。”

“评测榜单到处飞,真正公正第三方评测才靠谱,千万用户盲测结果才可信。LMSys是唯一这样的平台,OpenAI和Google都推崇,为什么中国大模型只有三家上呢?欢迎友商来打擂台,公平客观地评估才能推动进步。”

“是的,我也看到信通院的AI safety bench。”

 

 

原文始发于微信公众号(安在):诸子云|甲方 :如何对抗钓鱼邮件、AI大模型评测有哪些?

 

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2024年6月8日19:40:35
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   甲方 :如何对抗钓鱼邮件、AI大模型评测有哪些?https://cn-sec.com/archives/2831589.html

发表评论

匿名网友 填写信息