言犀AI开发计算平台上线,低代码开发让大模型“触手可及”

人工智能浪潮迭起,大模型持续“涌现”。大模型的训练与应用对数字基础设施提出了更高的要求——更强算力、更大存力、更加易用、更低门槛的数字基础设施,是建好大模型、用好大模型的前提。

大模型之家讯 9月26日,京东云城市大会西安站圆满落幕。基于多年来对研发大模型的能力积累和对行业需求的理解,京东云在会上重磅发布数智算力矩阵。从MaaS服务到到智算集群,再到硬件基础设施,京东云为千行百业不同需求的客户,打造一站式大模型服务,为孕育大模型提供“肥沃土壤”,筑牢产业发展的数字基底。

言犀AI开发计算平台上线,低代码开发让大模型“触手可及”

为了应对大模型训练资源稀缺,以及缺乏专业开发人员等问题,京东云将京东大模型能力开放出来,将开发大模型的底层能力解耦,推出言犀AI开发计算平台,提供一站式模型训练推理能力。

超算资源的成本、模型计算效率、资源弹性等都成为制约大模型训练的关键因素,京东云高性能计算集群、超低延迟网络、高性能分布式存储等,提供极致的数字基础设施能力,并基于混合多云操作系统,对异构资源进行灵活调度,更好地满足大模型的算力需求。

在底层硬件层面,京东云提供硬件/网络算力资源、智能算力模块,以及算力中心和边缘节点等能力,为大模型训练提供坚实的保障。

此外,京东云完善的安全体系,可有效保障客户云上云下整体资产应用和业务系统的安全稳定,为大模型服务保驾护航。

AI开发计算平台 让大模型“触手可及”

目前,言犀AI开发计算平台已正式上线,提供公有云版、私有化部署版、API接口等多种服务方式,为客户的大模型开发和行业应用,提供一站式的解决方案,让大模型的能力轻松触达每一位开发者。

将大模型能力应用到产业领域,实现垂直行业的“智能涌现”,并非易事。高质量的行业知识作为稀缺要素,决定了大模型的“智商”。言犀AI开发计算平台具备丰富的行业知识库,京东在零售、物流、健康、金融等行业多年积累的知识都沉淀在平台上。

同时,平台不仅提供京东自研的言犀大模型,也支持行业各类开源通用模型;此外,平台精选了京东技术团队多年来开发出的100多种训练和推理优化工具,可提供更加高效的大模型开发环境,让用户可以快速地把通用模型,转化成适合自身场景的专业模型,尤其是面对没有代码开发经验的应用开发者,平台低代码的开发方式,进一步降低门槛,让大模型真正变得“触手可及”。

通过言犀AI开发计算平台,不到一周时间,即可完成从数据准备、模型训练、到模型部署的全流程;之前需要10余人的科学家团队工作,现在只需要1-2个算法人员;通过平台模型加速工具优化,节约90%的推理成本。

高性能计算集群 打造大模型网络“高速公路”

算力集群的灵活调度,是大模型训练的底层基础。全新的云舰异构资源池化解决方案,在原有支持混合多云CPU+GPU异构算力池化能力基础上,针对大模型场景,支持训练+微调+推理混合部署,进一步增加了针对AI应用所需的调度管理能力,提供一站式算力池化解决方案,算力利用率提升70%,从而全面推动大模型应用落地降本增效。

大模型训练本身带来的高昂成本,让很多企业想用不敢用,兼具高性价比和高性能的计算集群,对降低大模型训练成本尤为重要。

京东云高性能计算集群HPC,使用了高速RDMA网络互联的弹性服务器集群,提供高计算性能和并行加速效率的弹性计算服务。 在算力层面,京东云提供的超级计算集群、京刚裸金属、第五代云主机等多种高性能产品形态,可提供极致算力,最大支持十万级GPU节点规模;在网络层面,京东云自研RDMA拥塞算法,全局调控RDMA网络流量路径,不同GPU节点最大支持3.2 Tbps RDMA网络带宽,传输时延低至2 us左右。

大模型需要大规模的算力,由此也带来海量的存储需求,云海作为京东云自主研发的高性能、高稳定、低成本分布式存储产品,历经10余年京东自身复杂场景的历练,能够满足大模型所需要的海量数据存储需求,并提供超大量数据传输所需的极致性能。同时,存算分离的技术架构,可为客户节省整体基础设施成本超30%,现已在高性能计算、AI训练等新兴场景以及音视频存储、数据报表等传统场景广泛应用。

智能算力模块 筑牢大模型坚实底座

随着大模型等系列 AIGC 产品的应用落地,对于AI 服务器的需求快速提升,且AI 服务器中大量使用高功率 CPU、GPU芯片,带动单台AI 服务器功耗不断上升,因此提高单机柜功率密度,成为调和快速增长的算力需求,与有限的数据中心承载力之间的有效方案。

基于多年算力基础设施部署交付的最佳实践,京东云在业内率先推出“阿尔法”智能算力模块高功率密度解决方案,含括风冷型智能算力模块及液冷型智能算力模块双系列产品,可实现智能高算力应用业务部署的安全、稳定、高效节能运行。

京东云液冷型智能算力模块,可全面兼容GPU、CPU服务器,PUE制冷因子可降低至0.1以内,并支持风冷、液冷系统一体化交付,预制模块化部署,全面满足算力密度20-100kW/柜数据中心部署需求。

共创共建,探索大模型落地

目前,京东云以前沿的数智技术,共服务100座城市、2500余家大型企业、944家金融机构和超250万家中小微企业。具体到陕西省,京东云为“中国西部能源航母”陕煤集团搭建了运销云,促进煤炭行业数字化转型和国家能源供应的改善,推动陕煤业务流程缩短了40%;此外,京东云已与陕数集团达成合作,针对政府及重点国企数据及关基防护的需求,推进密改、密评及相关业务合作,持续深化在智慧物流、大数据等创新应用等方面的业务合作。

会议当天,京东云还与陕数集团、农信通集团、宁算科技集团、青山湖产控、智云天工、兰杜科技进行合作签约,携手探索数智技术在产业端的落地,塑造全新增长空间。

技术只有在产业端形成扎实的应用,才能勾画出一条以实助实的产业价值创造路径。面向未来,京东云愿与合作伙伴一道,以极致性价比的数字基础设施助推大模型抵达产业智能。

言犀AI开发计算平台上线,低代码开发让大模型“触手可及”

原创文章,作者:志斌,如若转载,请注明出处:http://damoai.com.cn/archives/1088

(0)
上一篇 2023年9月26日
下一篇 2023年9月27日

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注