京东宣布开源基于国产芯片自研的一款大模型推理引擎 xLLM，能让企业部署AI应用时，性能更高、成本更低。 此次开源的核心功能包括： 基于请求优先级的动态调度器； 动态自适应的 PD 分离架构，可根据负载实时调整PD实例的比例； 面向多模态场景的 EPD 混合分离调度器； 基于硬件特性的多级流水线的执行引擎； 涵盖图融合、...
京东宣布开源基于国产芯片自研的一款大模型推理引擎 xLLM，能让企业部署AI应用时，性能更高、成本更低。 此次开源的核心功能包括： 基于请求优先级的动态调度器； 动态自适应的 PD 分离架构，可根据负载实时调整PD实例的比例； 面向多模态场景的 EPD 混合分离调度器； 基于硬件特性的多级流水线的执行引擎； 涵盖图融合、...
AI辅助创作，多种专业模板，深度分析，高质量内容生成。从观点提取到深度思考，FishAI为您提供全方位的创作支持。新版本引入自定义参数，让您的创作更加个性化和精准。
鱼阅，AI 时代的下一个智能信息助手，助你摆脱信息焦虑