rabbitmq

企业级语言模型自托管优秀实践

大型语言模型(LLMs)随处可见,从日常应用到高级工具都可以看到他们的身影。虽说使用起来很容易,但如果要运行自己的模型就是另外一回事了。比如对模型进行微调并处理了一些隐私敏感数据,复杂性就会增加。在这篇文章中,我们将分享在构建我们自己的 LLM 推理系统时所学

模型 llm 语言 rabbitmq sse 2025-06-20 17:23  3

RabbitMQ延迟队列:订单超时背后的技术原理

想象一个场景:你刚在电商平台下单,但忘记支付,系统如何在30分钟后自动取消订单?传统方案可能是定时扫描数据库,但这种方式存在性能瓶颈和时间误差。而RabbitMQ延迟队列正是为解决这类问题而生——它能让消息“休眠”指定时间后再被处理,像闹钟一样精准触发业务逻辑

订单 队列 rabbitmq args ttl 2025-04-18 06:18  14

消息队列(MQ)在高并发架构中的应用

在高并发系统中,传统的同步调用方式可能导致系统负载过高、响应延迟增加,甚至发生服务雪崩。消息队列(Message Queue, MQ)作为一种异步通信机制,能够有效削峰填谷、解耦系统、提高吞吐量,从而提升系统的稳定性和可扩展性。

架构 kafka 消息队列 mq rabbitmq 2025-03-25 06:20  11

消息驱动Stream解决了什么问题?

pring Cloud Stream 旨在解决构建消息驱动的微服务应用时面临的复杂性和挑战。 它提供了一个统一的编程模型,简化了与不同消息中间件 (Message Brokers) 的集成,并抽象了底层消息传输的细节,让开发者可以更专注于业务逻辑,而不是消息基

binder api rabbitmq 消息中间件 kafk 2025-03-17 17:58  11