你也可以在 M1/M2 Mac、Windows、Linux 甚至手机上本地运行 Llama。在本地运行 Llama 2 的不需要互联网连接。在你的终端中执行以下命令:# 下载7B模型 (3.8 GB)...
G.O.S.S.I.P 阅读推荐 2023-08-28 大字的研究
在《福尔摩斯探案集》里面,柯南道尔用一篇非常经典的“study”——《血字的研究》(A study in Scarlet),宣告了传奇侦探的出场。今天推荐的论文 A Study on Robustne...
本地大语言模型部署及应用
01模型2024-07-24,Meta 正式发布新一代开源大模型 Llama 3.1 系列,该模型共有三个版本:8B70B405Bmeta评估了超过 150 个语言覆盖范围广的基准数据集。比较了 Ll...
Obsidian笔记实现本地知识库(llama3、RAG)
用过去写的Obsidian笔记Markdown文档,生成一个本地的知识库,通过GPT或者本地大语言模型(LLM), 通过对话进行提问,如果之前写的Obsidian笔记都原创的文档,GPT和本地大语言模...
人工智能大模型框架核弹级漏洞复现
本文由CVES实验室-7resp4ss同学原创一、概述该漏洞源于llama.cpp中的rpc-server功能,评分9.8分在b3561版本前,llama.cpp在分布式推理的场景下存在可以导致rce...
CVE-2024-42479 (CVSS 10)知名Python 包 llama_cpp_python 存在严重漏洞
在广泛使用的 AI 库 llama_cpp_python 中发现了一个严重的安全漏洞,可能允许威胁行为者在受影响的系统上远程执行恶意代码。该漏洞的编号为CVE-2024-42479,CVSS 评分为1...
实战解读:Llama Guard 3 & Prompt Guard
前序研究:实战解读:Llama 3 安全性对抗分析近日,腾讯朱雀实验室又针对 Llama 3.1 安全性做了进一步解读。2024年7月23日晚,随着Llama3.1的发布,Meta正式提出了“Llam...
【论文速读】| LLAMAFUZZ:大语言模型增强的灰盒模糊测试
本次分享论文:LLAMAFUZZ: Large Language Model Enhanced Greybox Fuzzing基本信息原文作者:Hongxiang Zhang, Yuyang Rong...
斯坦福两学生抄袭清华系大模型,是如何被发现的?对话打假者
一则斯坦福大学Llama3-V团队抄袭清华系大模型的消息,近日在海内外引发热议。北京时间4日凌晨,该团队的两名成员Siddharth Sharma和Aksh Garg在社交媒体X上对这一学术不端行为公...
「数字风洞」AI安全测评丨Llama2-7b全球使用最广泛的AI大模型开源基座发现613次安全错误
Llama AI大模型由美国互联网公司Meta(Facebook)研发,相较于GPT系列AI大模型,Llama凭借其开源特性和高效的模型架构等优势极大地降低了研究门槛,成为了当前全球使用最广泛的开源基...
美国大模型出口限制法案再进一步,套壳大模型危?
记者|肖潇编辑|王俊 王睿芝北京时间上周四,美国众议院的外交事务部委员会以压倒性多数,通过了一项限制AI出口的法案。法案全称为《加强海外关键出口国家框架法案》(简称ENFORCE法案),旨在让美国商务...
AI Python 包中存在缺陷 Llama Drama ,威胁软件供应链
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士Checkmarx 公司的安全团队在报告中提到,看似可信的AI模型在安装后门。该漏洞被称为“LIama drama”,影响 llama_cpp_pyt...
5