API 压测工具 Locust

admin 2025年3月18日22:52:29评论13 views字数 1008阅读3分21秒阅读模式
Locust 是一个用于负载和性能测试的开源工具,适合模拟高并发场景下的系统行为。它可以模拟大量用户同时调用 API 接口(如 RESTful API),测试目标系统在高并发下的稳定性及承载能力。
Locust 的安装非常简单:
$ pip install locust$ locust --version  # 查看版本号
使用前需要编写压力测试脚本,这里用来测试 QWQ-32B 性能:
from locust import HttpUser, task, betweenclass OllamaUser(HttpUser):    # 每1-3秒间隔启动下一个任务    wait_time = between(13)    @task    def generate_text(self):        response = self.client.post(            "/api/generate",            json={                "model""qwq:32b",                "prompt""简单解释一下量子计算",                "stream"False            },            # timeout=60  # 超时        )        # 可选:检查超时或失败        if response.status_code != 200:            print(f"Request failed with status {response.status_code}")
测试脚本保存为 test.py,启动 locust :
$ locust -f test.py -P 1111
通过 Web 管理界面对压力测试参数进行设置:
API 压测工具 Locust
这里模拟10个并发的场景,其中 Host 是压力测试的目标。
API 压测工具 Locust
10个并发时,平均响应时间119秒,GPU 负载44%,前端用户在10个并发的情况下使用没有延迟感。
API 压测工具 Locust
API 压测工具 Locust
Locust 的图表展示功能也比较健全,可以通过图表的形式显示每秒请求数以及响应时间。
API 压测工具 Locust
Locust 默认在不手动停止的情况下会一直保持指定的并发数(10个并发)运行。实际用户可以在指定的并发量下感受响应速度与平时使用有没有差异,也就是模拟用户在高并发下的使用场景。
API 压测工具 Locust
通过调整并发数,测试系统性能极限。可以通过locust测试当并发量多少时,真实用户会感受到系统变得卡慢。测试数据可以为系统性能优化提供参考指标。
全文完。

原文始发于微信公众号(生有可恋):API 压测工具 Locust

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年3月18日22:52:29
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   API 压测工具 Locusthttps://cn-sec.com/archives/3814235.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息