想搭建一个高可用的 chatgpt 服务,目前有三台服务器,如何设计分流和复杂均衡呢?求大神点醒
1
sinecw OP 可付费咨询~~~
|
2
aduangduang 2023-11-03 13:56:13 +08:00
为什么不用阿里云的负载均衡?
|
3
sinecw OP @aduangduang 因为我的服务不在阿里云上
|
4
sobev 2023-11-03 14:14:20 +08:00
看起来可以用 ALB 的样子
|
5
daimaosix 2023-11-03 14:39:13 +08:00
看上去可以用专业的 API Gateway
|
6
daimaosix 2023-11-03 14:39:58 +08:00
PM 我,安排起来
|