浪潮信息KOS让大模型“开箱即用”

文章正文
发布时间:2024-11-22 15:10

  日前,龙蜥社区迎来重磅产品升级,社区衍生版——浪潮信息服务器操作系统云峦KeyarchOS(简称KOS)更新支持龙蜥最新5.10内核,新增CXL分层内存优化、代码多副本、增强网络收包能力等功能特性,提升了系统性能和稳定性。面对AIGC时代大模型应用部署需求,KOS将复杂的安装程序及运行环境进行打包,实现了大模型应用的“开箱即用”,为用户带来了全新的使用体验。

  支持龙蜥最新5.10内核 提升系统性能和稳定性

  浪潮信息操作系统KOS升级版支持龙蜥最新5.10内核,充分发挥Linux及龙蜥内核优秀特性。其中,KOS新增的CXL分层内存优化功能,能够根据内存的访问频率动态地将热数据保存到DRAM、冷数据保存到CXL内存中,最小化影响工作负载性能,在典型内存密集型应用Redis使用混合内存时,性能提升达到12%。

  面对各类应用及复杂的硬件环境,全新升级的KOS在稳定可靠方面进行了增强,支持内核热补丁功能,在不停机状态下进行内核漏洞和bug的修复,保证关键业务连续运行,提供集群高可用软件栈,有效支撑了应用高可用部署、故障无感切换,LTP(LinuxTest Project)测试通过率达到98%,RAS性能达到业内领先水平。

  信通院此前发布的用户调研显示,用户意愿迁移至龙蜥操作系统的比例超过半数达53%,排名第一。KOS在社区版本基础上,在一云多芯、人工智能、虚拟化、云原生等方面都得到了增强,并实现规模化部署。

  整合系统环境及组件 简化大模型应用部署

  本次KOS升级版的另一大亮点是支持大模型应用的“开箱即用”。高效部署大模型并开发相关应用成为许多企业和开发者的迫切需求,但传统的部署方式存在依赖库安装复杂、环境配置繁琐等诸多不便,限制了大模型应用的快推广。KOS升级版通过整合系统环境及相关组件,极大简化了大模型部署复杂度,让大模型应用部署变得简单高效。

  以智能AI助手YuanChat安装为例,KOS将NV底层组件、Miniconda相关Linux命令及研发所需环境、源2.0大模型及运行的依赖软件、容器相关组件以及YuanChat官方软件分别打包为rpm包,融入基础ISO镜像中,固化默认最优配置,形成开箱即用的YuanChat的ISO镜像。相比原来复杂繁琐的安装流程,实现了极度简化,让大模型应用变得简单易部署。

  内置安全防御组件 构建内生安全体系

  浪潮信息操作系统KOS通过内置轻量化安全防御组件,提供安全检测和防御能力,提升操作系统安全性和合规性,防止黑客入侵及内部违规操作;同时使用可信增强模块,基于可信度量功能,构建从服务器上电到操作系统启动的信任链。

  为了进一步提升操作系统的安全性,浪潮信息牵头成立了龙蜥社区系统安全特别兴趣小组(SIG),该SIG深入研究系统安全领域,不断完善操作系统安全基础,加强安全知识的共享和交流。

  截至目前,KOS累计装机量突破25万台,广泛服务于金融、教育、能源、通信等关键行业,为用户提供稳定可靠、安全易用、高性能的操作系统底座。(科文)

[ 责编:战钊 ]

首页
评论
分享
Top