36 氪获悉，开源贬责有盘算推算提供商红帽公司近日布告推出红帽 AI 推理劳动器（Red Hat AI Inference Server）体育游戏app平台，这是在搀杂云中擢升生成式 AI（gen AI）的蹙迫一步。动作红帽 AI 中的新家具，该企业级推理劳动器源自弘大的 vLLM 社区方法，并通过红帽对 Neural Magic 时刻的集成进一步增强，不错提供更高的速率、加快器箝制和老本效益，助力罢了红帽"在职意云环境中的纵情 AI 加快器上启动纵情生成式 AI 模子"的愿景。