推理优化
推理优化
百度百舸Meetup聚焦Agent推理基础设施优化
9月22日,百度智能云联合SGLang社区举办"Agent时代的推理基础设施"主题Meetup,围绕多芯适配、上下文缓存等技术展开深度探讨。活动聚焦Agent规模化落地的核心痛点,强调推理基础设施对任务连续性、稳定性及成本控制的关键作用。
1