大模型之家讯 国家知识产权局公告显示，中国电信股份有限公司于2023年10月申请了一项名为“基于GPU网络拓扑的大模型容量编排方法、系统及介质”的专利，公开号为CN117391163A。
该专利涉及一种基于GPU网络拓扑的大模型容量编排方法，包括检测多个设备之间的网络带宽信息，通过设备网络拓扑发现GPU之间的网络带宽，选择与训练请求对应的训练网络拓扑，创建大模型容器并通过配置大模型容器执行训练任务。该方法有助于提高大模型训练的性能、效率以及资源利用率，广泛应用于大模型训练技术领域。
大模型之家讯 国家知识产权局公告显示，中国电信股份有限公司于2023年10月申请了一项名为“基于GPU网络拓扑的大模型容量编排方法、系统及介质”的专利，公开号为CN117391163A。
该专利涉及一种基于GPU网络拓扑的大模型容量编排方法，包括检测多个设备之间的网络带宽信息，通过设备网络拓扑发现GPU之间的网络带宽，选择与训练请求对应的训练网络拓扑，创建大模型容器并通过配置大模型容器执行训练任务。该方法有助于提高大模型训练的性能、效率以及资源利用率，广泛应用于大模型训练技术领域。