红帽与 Run:ai 为混合云优化人工智能工作负载
作者: CBINEWS
责任编辑: 邹大斌
来源: 电脑商情在线
时间: 2024-05-17 11:40
红帽公司与人工智能(AI)优化和编排厂商Run:ai今日宣布展开合作,将Run:ai的资源优化功能集成到红帽OpenShift AI中。此合作通过简化AI操作和优化底层基础设施,使企业能够充分利用AI资源。在一个可靠的MLOps平台上,企业可以高效地构建、调整、部署和监控AI应用和模型,从而最大化人力和硬件资源的效用。
GPU是推动AI工作流程的核心计算引擎,支持模型训练、推理和实验等。鉴于这些专用处理器的高昂成本,特别是在分布式训练和推理场景中。红帽与Run:ai正联合提供解决方案,通过在红帽OpenShift AI上部署经认证的Run:ai OpenShift Operator,满足GPU资源优化的关键需求,帮助用户在任何场景下扩展和优化其AI工作负载。Run:ai的云原生计算编排平台在红帽OpenShift AI上提供的帮助包括:
- 利用专用工作负载调度程序,解决AI工作负载的GPU调度问题,轻松确定关键任务工作负载的优先级,并确保分配足够资源支持这些工作负载。
- 通过部分GPU使用和监控功能,根据设定的优先级和策略动态分配资源,提升基础设施效率。
- 改善对共享GPU基础设施的控制和可见性,为IT、数据科学和应用开发团队提供更便捷的访问和资源分配方式。
Run:ai的认证OpenShift Operator现已可用。展望未来,红帽和Run:ai计划继续加强合作,在红帽OpenShift AI上为Run:ai引入更多集成功能。此举旨在提供更无缝的客户体验,并进一步加速AI模型向生产工作流的转移,实现更高的一致性。
