chatgpt - 第 19 | CN-SEC 中文网

人工智能安全

【大模型安全】ChatGPT-Next-Web存在SSRF和反射型XSS

ChatGPT-Next-Web存在SSRF和反射型XSS随着生成式人工智能的出现，人工智能聊天机器人无处不在。虽然用户可以使用 OpenAI 等 SaaS 提供商与大语言模型 (LLM) 聊天，但也...

04月22日81 views评论

阅读全文

安全闲碎

【论文速读】| 大语言模型平台安全：将系统评估框架应用于OpenAI的ChatGPT插件

本次分享论文为：LLM Platform Security: Applying a Systematic Evaluation Framework to OpenAI’s ChatGPT Plugin...

04月22日10 views评论

阅读全文

人工智能安全

逆向ChatGPT4核心

摘要本文从提示注入和任意代码执行、隐藏API发现、动态代码执行、数据序列化四个维度探索了ChatGPT4的安全性问题, 用另类的逆向手段对ChatGPT做了一系列安全测试。 2023年11月, Op...

04月19日10 views评论

阅读全文

人工智能安全

【大模型入门3】通过spring AI实现java调用openai chatGPT(附api-key)

这是一篇大模型的小白入门文章。本章主要介绍如何使用spring AI在java项目中调用openAI chatGPT的接口。其实人工智能的研发是以python为主的，包括机器学习、深度学习和大模型。但...

04月19日73 views评论

阅读全文

安全闲碎

Chat · GPT · DRP｜证券行业专刊2·安全村

楔子：2022年12月，OpenAI发布了人工智能聊天原型ChatGPT。ChatGPT在今年（2023年）发酵成为热点话题。在国内， ChatGPT于春节后更是变更了专业人士技术交流的必谈话题。据各...

04月19日10 views评论

阅读全文

人工智能安全

AI安全：LLM的风险揭示与安全性评估

大语言模型（LLM）在当前社会中扮演着日益重要的角色，其广泛应用领域突显了其对社会和技术发展的重要性。然而，强大却也脆弱，大语言模型的这一特性，让我们看到了人工智能发展的双刃剑效应，如何确保大语言模型...

04月17日163 views评论

阅读全文

安全新闻

5个人工智能均承认自己是最大的网络威胁

从现在到 2030 年，全球人工智能网络安全市场预计将增长 1095 亿美元，其原因不难理解。根据最近对安全专业人士的一项调查，四分之三（75%）的人观察到网络攻击有所增加。其中，研究发现更大比例（8...

04月15日15 views评论

阅读全文

安全工具

Portable 版浏览器

有些网页应用需要独立的浏览器环境，不希望和其他用户数据混在一起。此时可以使用 Firefox Portable 版，即便携版 Firefox 浏览器。使用便携版浏览器可以将网站、配置都调整好，然后将整...

04月10日14 views评论

阅读全文

安全漏洞

【Ai 漏洞】CVE-2023-49785：NextChat 漏洞CVE-2023-49785： NextChat

CVE-2023-49785 是影响 NextChat 的严重漏洞，NextChat 是一款为用户提供基于 ChatGPT 的 Web 界面的应用程序...

04月05日37 views评论

阅读全文

安全新闻

ChatGPT 越狱提示在黑客论坛上激增

关键词黑客、ChatGptChatGPT 越狱已成为网络犯罪分子的流行工具，并且自公开发布突破性聊天机器人以来近两年在黑客论坛上继续激增。在此期间，已经开发并推广了几种不同的策略，作为规避 OpenA...

04月04日23 views评论

阅读全文

安全漏洞

CVE-2024-27564 漏洞（附EXP）

声明：该公众号大部分文章来自作者日常学习笔记，也有部分文章是经过作者授权和其他公众号白名单转载，未经授权，严禁转载，如需转载，联系开白。请勿利用文章内的相关技术从事非法测试，如因此产生的一切不良后果与...

04月02日108 views评论

阅读全文

企业安全

从自动化到合规，甲方如何看待ChatGPT与Gemini？

考虑到ChatGPT Plus已经作为一个付费版本存在一段时间，并且Google最近将Google Bard重新命名为Gemini（Gemini Advanced作为付费产品提供）。近日，Alex H...

04月02日14 views评论

阅读全文