从云原生走向AI原生，蚂蚁数科SOFAStack发布大模型服务平台AI Max

6月28日，蚂蚁数科旗下的多云PaaS平台SOFAStack正式发布大模型服务平台AI Max。该平台适配各种主流开源大模型、国产算力，向企业提供包括模型训练、部署、评估、优化等在内的一站式模型工作台，并实现可视化研发、管理多种具备行业知识库的Agent（智能体）应用，助力企业完成AI应用业务落地的最后一公里。

PaaS平台从云原生向AI原生进化

2022年年底ChatGPT的成功，点燃了人们对以大模型为代表的生成式AI技术的热情。生成式AI强大的内容生成能力大大拓展了人工智能技术的边界，越来越多的企业开始思考如何将大模型技术引入，或重构已有应用，或推出新的AI应用。

然而，在生成式AI真正落地时，不少企业发现困难重重，生成式AI应用的落地远不是配置GPU资源、挑选大模型那么简单，还涉及数据的准备、模型的训练以及与现有应用的整合等。为了加速AI应用落地进程，各种PaaS平台纷纷强化了对AI应用的支持力度，推动PaaS平台从云原生向AI原生的方向演进。比如，红帽推出了OpenShift AI，SUSE的Rancher也有类似的计划。

中国信息通信研究院云大所副所长栗蔚说，进入大模型时代，越来越多的组织要开发基于大模型的AI应用，这就对PaaS平台提出了新的要求，而这些要求借助云原生可以帮助很好地满足。

众所周知，大模型需要大量异构算力，这种算力是跨架构、跨域、跨主体的。这里有三个难点：节点高速通信与支持、存储的I/O瓶颈以及集群规模快速扩缩容，而云原生具有屏蔽异构的能力，借助云原生可以实现不同架构的互联互通，再结合云原生的工程化手段可以帮助人工智能来突破困局。

“云原生的本质就是屏蔽底层硬件，实现多元异构管理，向上提供一套标准化的接口，解决企业跨云异构资源协同和一致性的问题，全方位提升效率、降低成本。这是当下多云PaaS的核心能力。”栗蔚表示，“云与AI结合才能充分降低AI的工程化成本，让AI大模型真正地跑起来，变成服务，而单纯的AI产品很难成为服务，它需要与云相结合。”

SOFAStack全面拥抱智能化

作为蚂蚁数科旗下的多云PaaS平台，SOFAStack是蚂蚁集团内部历经多年发展而逐步形成的一套技术体系，从2018年开始走出蚂蚁集团，正式开启商业化之旅。

蚂蚁数科云原生事业部总经理王磊介绍，SOFAStack致力于为各行各业的企业级客户搭建互联网应用。在SOFAStack的发展过程中，经历了三次飞跃：第一次是业务互联网化，大量采用分布式架构；第二次是自主可控，大量采用了国产基础设施和国产软件；现在正在进行第三飞跃，即更加智能、绿色以及更加开放。蚂蚁数科SOFAStack推出大模型服务平台正是这一飞跃的标志。

蚂蚁数字科技SOFAStack产品资深总监马振雄表示，蚂蚁数科针对AI浪潮对PaaS平台需求的变化，对SOFAStack 5.0进行了升级，使其从云原生走向了AI原生，以全面拥抱智能化。

具体而言，在本次升级中，蚂蚁数科对SOFAStack原来的应用基础设施进行了全面AI的重构，包括设计平台、架构治理平台、研发平台、运维平台等都进行了重构，彻底让AI Design、AIOps在产品中落地，并对在线应用构建模式也进行了重构，使其更加智能、更加高效。

而新版SOFAStack最为重要的一个变化就是新增了AI基础设施，发布了AI MAX平台，以支持客户更快构建AI模型和AI应用，让客户和企业今天更全面、更高效地拥抱AI、拥抱智能。

“AI Max平台兼容主流基础大模型。在AI MAX平台上可以对所选任何一款主流大模型基于特定行业数据进行微调，变成定制的行业垂类大模型。同时，平台还内置了我们自己预研的小模型，包含计算机视觉、自然语言处理、多模态等分类和算法，以及我们比较成熟的代码大模型和金融大模型的场景垂类大模型等。”马振雄说。

基于SOFAStack多云兼容属性，AI Max具备两层核心特性：在资源层，支持多种国产GPU算力平台纳管部署，企业按需灵活使用资源，使得有限的GPU资源可以高效地被利用，同时大大降低服务器使用成本；在应用层，企业可以根据业务需求快速输出定制化的AI模型，构建服务业务需求的智能体，极大地简化了技术实施过程。

马振雄表示，SOFAStack作为一个独立的、中立的多云PaaS平台，将始终坚守其独立开放的定位，以确保企业在数字化转型过程中享有更高的自主可控权利。同时，SOFAStack也将构建一个从能力、应用到数据、再到模型的多层次开放平台体系，旨在帮助企业内外快速高效地打通与上下游生态的连接，使业务模式运转更加开放和灵活。

“我们期望，通过SOFAStack 5.0的智能化升级，能够全面拥抱智能，实现从云原生到AI原生的演进，让SOFAStack在提供服务的同时，更加高效、经济，并且保持开放。”马振雄总结道。