快速启动，自动扩展，推理服务焕新重构
蓝耘推理服务提供了一种现代化的推理运行方式，采用专有自动扩展技术，可随用户需求灵活扩展。依托全国数据中心网络，将延迟降至最低，为用户提供卓越性能。
AI推理服务
蓝耘推理服务方案深度融合前沿 AI 技术与丰富的GPU算力资源，助力
用户高效完成从模型接入到应用部署的全流程，为客户提供全面、灵
活、便捷的模型推理服务，持续推动AI创新落地。
更优性能、更低延迟，更高成本效益
探索我们解决方案的独特优势
传统的技术堆栈
托管云服务
大多数云服务键供商构建了商向渡用用例和托管环境的架构，而不是面向计算密集型用例。
成拟机VM)托管Kubernetes(K8s)需要通过虚拟化层运行
难以扩展
启动实例可能需要5-10分钟或更长时间
蓝耘的技术堆栈
在云端进行多模式或无服务器的Kubernetes部署
通过Kubernetes部署容器化的工作负载，以增加可移植性，降任复杂性和总体成本。
无虚拟化层干扰，Kubernetes直接在裸金属（硬件）上高效 运行
利用Kubevirt在Kubernetes容器内托管虚拟机（VM）
易于扩展
在几秒钟内启动新实例
自动缩放
优化GPU资源，提升效率并降低成本
根据需求自动扩展容器，快速响应用户请求，新请求到达时，可即刻处理。
无服务器KUBERNETES
无需复杂配置底层框架，轻松部署模型
在易于使用的界面上实现了基于Kubernetes的无服务器推理，支持TensorFlow、XGBoost、scikit-learn、PyTorch和ONNX等常见机器学习框架，轻松解决生产模型服务问题。
