对话亚马逊云科技代闻:把安全作为企业AI战略发展中的核心环节

如今,随着生成式AI已经广泛应用于各行各业,为企业带来了前所未有的创新和效率提升。从自然语言处理到计算机视觉,生成式AI在医疗、金融、零售、制造等领域都展现出了强大的潜力。

然而,随着生成式AI的普及,企业和组织不仅需要关注数据的隐私和安全,还需要确保模型和应用程序受到充分的保护,以防止潜在的攻击和数据泄露。人工智能的安全问题也愈发引起了行业的重视,促使各行各业对寻求可靠的解决方案以平衡创新和安全性的需求。

对话亚马逊云科技代闻:把安全作为企业AI战略发展中的核心环节

在近日落下帷幕的“2023亚马逊云科技re:Inforce中国站”大会上,亚马逊云科技指出:“安全是构建生成式AI不可回避的重要议题,企业只有在AI旅程中做好数据、模型和应用的安全防护,才能更好地借助AI加速业务创新。”

亚马逊云科技大中华区解决方案架构部总监代闻强调:“从构建开始,我们就需要把安全作为企业AI战略发展中的核心环节。这就要求我们不能只是关注AI应用本身,而是从一个全栈的角度,去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。生成式AI应用就像是海面上的冰山,我们想要在企业里安全地驾驭这项新技术,还需要关注海面下的冰川。”

此外,亚马逊云科技还正式推出了“敏感数据保护解决方案”,这一解决方案可实现对企业敏感数据的自动化发现和统一管理,为数据治理提供了便利。同时,他们还引入了多项新的安全服务和功能,如Amazon Verified Permissions、Amazon CodeGuru Security、Findings Groups for Amazon Detective等,这些工具和服务帮助客户构建应用程序的零信任管理,提高漏洞发现和响应的智能化程度。

在会后,大模型之家与亚马逊云科技在人工智能安全领域的相关负责人,更加深入地探讨了在生成式AI能力与应用爆发的今天,云安全呈现出的全新局面,以及面对新格局,亚马逊云科技又进行了哪些前瞻布局。

数据和模型安全是构建AI应用的关键

如今,生成式AI已经从+AI(AI赋能)时代转变为AI+(AI原生)时代,由业务部门主导需求的变化是明显的趋势,生成式AI为企业带来了更高的效率和业务价值,但同时也带来了新的安全挑战。全球性安全组织OWASP列出的2023年大语言模型面临的十大威胁,包括数据泄露等问题。同时,生成式AI和大语言模型对企业内部管控机制也带来了新的挑战。

对话亚马逊云科技代闻:把安全作为企业AI战略发展中的核心环节

对此,代闻指出,在面对这些新挑战时,需要执行“负责任的AI(Responsible AI)”原则,并使用合适的工具和解决方案来解决问题,包括数据保护、隐私数据处理、运行环境安全等。代闻还谈到了将AI的能力纳入安全审计流程,以实现安全和合规性。

在以大模型为代表的生成式AI的发展过程中,数据和模型安全是构建AI应用的关键。数据安全方面,亚马逊云科技提供全周期的数据治理,从数据源的获取到数据的存储和查询,再到数据传输给AI平台进行模型训练、调优和推理,以及数据分类和治理。他们强调了高质量的数据对于构建生成式AI的重要性,并采取了多层次的数据保护措施,包括数据存储的安全密钥管理、数据传输的加密以及使用中的数据保护,以防止数据泄漏和篡改。

在模型安全方面,模型训练后进入生产环境的安全同样关键。亚马逊云科技推出了Amazon Bedrock,提供广泛的基础模型,并确保客户可以选择适合其需求的模型。Amazon Bedrock负责管理底层基础设施,同时与合作伙伴合作,以提供最合适和最强大的基础模型。他们强调了客户数据的隐私和安全,保证数据只在客户账户内使用,并不会与其他模型共享。此外,亚马逊云科技提供了一系列安全功能,如Amazon KMS和Amazon IAM,以管理加密、权限控制和行为日志。他们还提供了自己的大模型Amazon Titan,支持负责任AI的实现,以减少和消除不当或有害的内容。

应用安全是实现AI价值的保障

在实现AI的价值过程中,应用安全是一道不可忽视的环节。首先,它保障了用户数据的隐私和完整性,防止未经授权的访问和泄露,确保敏感信息得到妥善保护。其次,应用安全对抗恶意攻击,包括数据篡改、拒绝服务攻击等,维护了应用的可用性和性能,减少了潜在的损害。此外,通过建立强大的安全性,应用能够赢得用户的信任,维护声誉,避免用户流失,从而保持商业成功。合规性要求也需要应用安全,以确保符合国际、行业或地区的法规,避免法律风险。最后,应用安全有助于长期可持续性,减少未来维护和修复漏洞的成本,降低法律诉讼和损失的风险。

随着云上负载业务的增长,安全全面云化正在成为行业的大势所趋。亚马逊云科技大中华区安全合规与治理产品总监白帆指出,云上业务正在呈现由物理边界向逻辑边界的演变,这对云安全产生了重大影响,因此安全必须在产品设计的早期考虑,而不是事后补救。

因此,在开发流程中的安全(DevSecOps)阶段,亚马逊云科技通过将安全融入整个软件开发的生命周期,从开发、持续集成、持续部署、投产、监控到反馈,来确保应用程序的安全性。其提供的AI开发安全能力包括Amazon CodeWhisperer,这是一个实时生成代码建议的AI编程助手,内置代码安全扫描功能,有助于查找和修复漏洞,以及Amazon CodeGuru Security,可用于扫描代码以寻找漏洞,并在CICD过程中自动降低误报率,易于集成到开发工作流中。

此外,在运行安全阶段,亚马逊云科技采用零信任的应用安全访问策略,以确保只有具有特定权限的应用程序才能访问或调用大模型的特定API。亚马逊云科技提供了多个工具来帮助客户构建这种机制,包括Amazon Verified Access,用于构建可信任的无需VPN的网络通道,Amazon Verified Permissions,提供细粒度的授权和权限管理,以及开源语言CEDAR,用于编写和执行授权策略。

此外,在网络控制放面,亚马逊云科技提供了一系列工具来应对网络防护和威胁识别,其中Amazon GuardDuty使用人工智能和机器学习技术来减少安全事件的误报率,实现初期的检测和持续分析,以智能化的方式提供采取行动的建议。

白帆向大模型之家透露,在亚马逊云科技内部,“零信任”这个名词由来已久,并已经发展成为一套完整的机制,这个机制基于工具、方法论以及实践。亚马逊云科技一直在身体力行地推进这三个方面。零信任涉及到许多工具,如Amazon Verified Permissions和Amazon Verified Access,以及依托于IAM的权限管控,这些工具共同构成了零信任的工具生态。此外,生成式AI和大模型的兴起让更多公司接触到AI技术,但可能缺乏完备的IT和安全基础。因此,亚马逊云科技提供了工具如Amazon CodeWhisperer来生成安全代码并检测安全漏洞,并提供Verified Permissions来管理内部权限,支持策略管理、审计等功能,以帮助企业轻松应对权限管控和安全需求。亚马逊云科技将零信任理念以更易用的方式呈现,让开发者和企业可以根据自身需求构建零信任的能力,因此这些服务和能力都可以根据需要拆分使用,而不是一个封闭的整体方案。这种零信任的实践方式有助于提高应用程序的安全性和可管理性。

对于云上安全产品,白帆还强调了可扩展性和自动化的重要性,以适应不断增长的业务需求。他指出,亚马逊云科技所有的能力也是秉持长期主义,而且一定是要自身打磨和使用了以后才走向市场,并高度推崇自动化,将人为错误降至最低。这种自动化应用于权限控制、检测能力以及底层技术架构,确保安全能力能够自动扩展,而不需要手动重新部署或调整,这对于应对业务激增至关重要。

AI技术的发展必须与安全同行,将安全视为首要和最高的优先级。亚马逊云科技也在会上呼吁,客户需始终处于AI应用的核心,安全必须深入到每一个环节,只有如此,才能共同构建更加安全、可靠和有益的AI未来。在大模型之家看来,随着生成式AI技术的不断进步,企业在追求创新的同时,只有充分考虑安全问题的前提下,生成式AI才能充分发挥其潜力,为企业带来可持续的商业增长,共同开创更加美好的未来。

原创文章,作者:志斌,如若转载,请注明出处:http://damoai.com.cn/archives/688

(0)
上一篇 2023年9月6日
下一篇 2023年9月7日

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注