Llama 3加入亚马逊云科技“大模型豪华套餐”，推动开源大模型发展

志斌 • 2024年4月19日下午4:29 • 人工智能

大模型之家讯当地时间4月18日晚，Meta公司宣布发布了备受期待的全新开源模型——Llama 3。这一消息立即在全球范围内引发了广泛的瞩目和讨论。Llama 3的发布标志着开源世界再次掀起了巨浪，而这一模型的性能是否足以挑战闭源大模型成为了热议的话题。Llama 3的发布不仅为人工智能领域带来了新的焦点，还将数据扩展到了新的高度。

Llama 3涵盖了两个版本，即8B和70B，为各种广泛应用提供了强大的支持。Meta公司表示，这两个版本在同等体量下性能最佳，其中8B版本甚至在某些测试集上的表现超越了之前的70B版本。除了性能提升外，Llama 3还在可扩展性和应用支持方面取得了显著进展，特别是在语言理解、上下文理解以及诸如翻译和对话生成等复杂任务方面。

值得一提的是，尽管商业使用受到一定条件的限制，但Llama 3仍然可以算作是免费商用，这使得它对开发者和研究人员具有极大的吸引力。随着Llama 3的发布，Meta公司还更新了相应的《负责任使用指南》，提供了与LLM负责任开发相关的最全面信息，以支持更加安全和可靠的应用。

不仅如此，Llama 3的性能在一系列评测中也得到了广泛认可，表现出色。甚至在与其他领先模型的比较中，Llama 3也取得了巨大成功，凸显了其在开源模型中的卓越地位。

随着Llama 3的加入，亚马逊云科技提供的“大模型豪华套餐”也得到了扩展，客户现在可以通过Amazon SageMaker JumpStart来发现部署Llama 3模型，并运行推理。Amazon SageMaker JumpStart是亚马逊云科技专门构建的一个机器学习中心，为客户提供了预训练的模型、内置算法和预构建的解决方案，帮助客户快速开始机器学习项目。

通过Amazon SageMaker JumpStart部署Llama 3，客户将能够享受到降低部署所需时间、提供灵活的部署路径、丰富的功能支持以及安全的隔离环境等好处，从而更加高效地开展机器学习项目。

据悉，客户现在可以在Amazon SageMaker Studio中通过几次点击或通过SageMaker Python SDK编程方式发现并部署Llama 3模型，还可以利用SageMaker Pipelines、SageMaker Debugger或容器日志等功能，提升模型性能并实施MLOps控制。此外，该方式部署的模型始终处在亚马逊云科技的安全环境下，由客户的VPC控制，以确保数据安全。

Meta Llama 3基础模型现已在Amazon SageMaker Studio的美东（北弗吉尼亚州）、美东（俄亥俄州）、美西（俄勒冈州）、欧洲（爱尔兰）和亚太（东京）区域提供部署和推理服务。

目前，随着Meta Llama 3的加入，亚马逊云科技目前提供的“大模型豪华套餐”已包括：通过Amazon Bedrock提供的来自AI21 Labs, Amazon, Anthropic, Cohere, Meta, Mistral AI和Stability AI的领先大模型，以及通过Amazon SageMaker JumpStart提供的包括Meta Llama 3在内的各种模型。

亚马逊云科技首席执行官Adam Selipsky和首席执行官安迪·贾西也表示，选择最优技术时应该有多个模型提供者的选项，以确保技术过硬且可靠。他们认为，亚马逊云科技的服务将推动人工智能技术的普及化，并为内外部构建者带来更多创新机会。