8.8万元可本地运行满血版DeepSeek,第四范式大模型推理一体机来了
作者: 文少
责任编辑: 刘沙
来源: 电脑商情在线
时间: 2025-03-25 15:03
3月25日,第四范式发布名为SageOne Lite的大模型推理一体机解决方案,可以在本地运行满血版本的DeepSeek,售价为8.8万元。
SageOne Lite基于KTransformers架构,支持单机运行完整模型服务。该方案还集成了ModelHub平台,支持模型管理及不同模型服务的灵活切换,用户能够根据自己的需求来快速调整模型服务。
此外,SageOne Lite还内置了智能算力池化管理平台,采用第四范式的GPU资源池化技术,能够智能切分算力和显存,动态调度计算任务,让用户可以在不同尺寸的大模型之间灵活切换,从而提升GPU资源的利用效率。
SageOne Lite还搭载了大模型开发平台及开箱即用的AI应用套件,包括AIGC、智能办公、数字员工、智能问答等多个场景,能够帮助企业和开发者快速构建和部署生成式AI应用。
