推理框架
推理框架
DeepSeek开源推理框架推动大模型普惠发展
DeepSeek宣布将内部推理框架DeepInfer全面开源。这家企业表示,大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模模型服务,关键取决于推理框架这一中间层。
1