人工智能安全 - 第 38 | CN-SEC 中文网

人工智能安全

【ADLab】以大模型为目标的威胁攻击与安全思考

更多安全资讯和分析文章请关注启明星辰ADLab微信公众号及官方网站（adlab.venustech.com.cn）一、概述自2023年以来，以ChatGPT为代表的大语言模型（LLM）向人们展现出...

12月24日23 views评论

阅读全文

人工智能安全

学术 | 大语言模型的幻觉问题研究

图片由AI模型生成大语言模型的幻觉问题研究综述摘要：随着以Transformer为代表的预训练模型等深度学习技术的发展，大型语言模型(LLM)日益展现出强大的理解力和创造力，对抽象摘要、对话生成、机器...

12月24日18 views评论

阅读全文

人工智能安全

来和大模型斗智斗勇（三）

大模型提示词工程是一个技术活，可以让大模型更好的输出你想要的内容。甚至可以通过prompt来让大模型输出不能输出的内容。继续对之前发现的项目LLM Riddles进行解谜。系列历史文章来和大模型斗智斗...

12月24日16 views评论

阅读全文

人工智能安全

GPT小越狱技巧

关于GPT已经发展了有几年的时间，但是有时候当我们问起一些事情的时候，由于system prompt的限制一些敏感或危险操作就会有如下的回应，但是有一些小技巧可以让GPT仍然可以回复我们想要的...

12月23日11 views评论

阅读全文

人工智能安全

大模型用于代码扫描，论文一

从软件工程的角度说，漏洞(BUG)发现越早，解决的成本越低，所以，很多问题倾向于在代码阶段就解决，伴随着这个需求，产生了一系列的应用，这里边，SAST(Static Application Secur...

12月23日22 views评论

阅读全文

人工智能安全

强制解码越狱大模型

文章首发奇安信社区：https://forum.butian.net/share/3966前言安全对齐（Safety Alignment）在人工智能（AI）和大规模语言模型（LLM）的研究中，指的是确...

12月23日16 views评论

阅读全文

人工智能安全

深度学习VS机器学习

深度学习（Deep Learning）和机器学习（Machine Learning）之间的关系可以总结为：深度学习是机器学习的一个分支或子集，它专注于使用多层神经网络（即“深度”模型）来解决复杂的...

12月22日23 views评论

阅读全文

人工智能安全

来和大模型斗智斗勇（二）

12月22日6 views评论

阅读全文

人工智能安全

来和大模型斗智斗勇（一）

大模型提示词工程是一个技术活，可以让大模型更好的输出你想要的内容。甚至可以通过prompt来让大模型输出不能输出的内容。最近发现了一个好玩的项目LLM Riddles，特此开个系列来玩一玩，提高一下咱...

12月22日4 views评论

阅读全文

人工智能安全

如何用Prompt技巧激发无限创意

阿里妹导读本文深入探讨当前最前沿的prompt engineering方案，结合OpenAI、Anthropic和Google等大模型公司的资料，以及开源社区中宝贵的prompt技巧分享，全面解析这一...

12月20日3 views评论

阅读全文

人工智能安全

线索挖掘Prompt：AI群聊分析 v1.5

群聊数据+AI群聊分析提示词 »» AI群聊分析系统Prompt说明：此提示词旨在自动从群聊数据中提取关键信息，并生成结构化的群聊综合研判分析报告。通过多维度的数据分析，识别案件关键线索、嫌疑...

12月19日44 views评论

阅读全文

人工智能安全

KDD25 | 大语言模型能否提高图神经网络的对抗鲁棒性？

Can Large Language Models Improve the Adversarial Robustness of Graph NeuralNetworks?作者：张中健，王啸，周辉池，于...

12月18日60 views评论

阅读全文

在线咨询

微信