目录
可随意转载Update2023.04.05
前言
众所周知,大模型算法通常都比较慢,为了避免请求堆积,一种合理的设计就是用MQ来解耦用户子系统和算法子系统,如下图所示:
一、pika库
零基础的学员请使用cursor人工智能辅助编程软件。
使用cursor输入要求:请编写一个python程序发送json格式message给MQ,message包含imgurl,prompt,n_prompt,就可以得到发送端的源代码。
使用cursor输入要求:请编写一个python程序接受这个message,就可以得到接收端的源代码。
将两个程序代码分别部署到:用户逻辑Server和Prefect工作流服务上调试几遍即可。
二、RabbitMQ
- RabbitMQ依赖Erlang, 下载并安装Erlang。
- 添加Erlang环境变量,在cmd输入erl验证是否安装成功
3. 下载对应版本的rabbitmq,比如我的版本是:rabbitmq-server-3.11.13.exe,
4. 进入rabbitmq的sbin目录输入命令:rabbitmq-plugins enable rabbitmq_management 安装管理控制台插件
5. 输入命令:rabbitmqctl status 验证是否安装成功,它默认以windows 服务运行(可以在window服务里找到它)
6. 打开管理控制台输入默认用户名guest,默认密码guest可以监控本地RabbitMQ的情况。
附录
Q1:执行 rabbitmqctl status 直接报错怎么办?
A1:在win10系统中,当前用户根目录下有一个文件叫:.erlang.cookie;C:\Windows\System32\config\systemprofile\ 也有一个 .erlang.cookie ,这两个文件内容必须保持一致。复制拷贝覆盖即可。
pika-Python RabbitMQ使用介绍 – 知乎 (zhihu.com)