生成式AI让人们看到了未来世界AI的无限潜力，应用场景井喷，业务部门需求旺盛，但在技术成果涌现之时，内容和数据的安全问题也变得格外重要。
事实上，AI在赋能产业应用、降本增效的同时，也带来了一系列新的安全应用风险与挑战，诸如模型安全、数据安全、算法安全、内容安全、应用安全等。这是因为，生成式AI需要依赖大量的数据和模型，任何一个环节的安全疏漏，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。
“数据在哪里？查询和任何相关数据会发生什么？生成式AI模型的输出是否足够准确？”亚马逊首席安全官Steve Schmidt认为，任何企业在谈及使用生成式AI的安全问题时,都必须弄清楚这三个问题。
在他看来，企业首先需要知道用数据训练模型的整个工作流程中，这些数据来自哪里，以及是如何被处理和保护的。
其次，训练数据并不是企业需要关注的唯一敏感数据集。当企业及其用户开始使用生成式AI和大型语言模型时,他们很快就会掌握如何让查询更有效。之后，他们会在查询中添加更多细节和具体要求，从而获得更好的结果。企业在使用生成式AI进行查询时，需要清楚的知道生成式AI服务会如何处理输入进模型的数据以及查询结果。企业查询本身也是敏感的，应该成为数据保护计划的一部分。
最后是非常重要的一点，从安全角度来看，生成式AI的使用场景定义了风险，也就是说不同的场景对准确度的要求是不同的。如果企业正在使用大型语言模型来生成定制代码，那么就必须要确认这个代码是否写得足够好，且是否遵循了企业内部的最佳实践等。
为了帮助企业更好地利用生成式AI进行创新，Steve Schmidt提出了三条安全建议：第一，培训内部员工了解公司关于使用人工智能的政策,可以安全正确地使用它。对于安全团队来说，说“不”很容易，但对于所有业务团队、开发人员等来说，绕过安全团队也同样容易。“企业在使用生成式AI时最好的做法是教育、告知、指导、设置防护栏，并使用能够满足预设目标的云服务，同时还需要精确了解这些服务如何使用和保留数据。”
第二，要通过可见性的工具来了解员工如何使用数据：限制在工作需求之外的数据访问，同时监控他们如何使用外部服务访问这些数据。
第三，通过机制解决问题。机制是可重复使用的工具，允许随着时间的流失精确地驱动特定的行为。例如，当员工违规操作时，系统会通过如弹窗来提示员工，并建议使用特定的内部工具，并就相关问题进行报告。
“亚马逊安全团队多年来一直使用各种人工智能来改善客户体验。”Steve Schmidt表示，在最开始阶段编写更加安全的代码是生成式AI带来的重大影响，对任何企业包括亚马逊都是如此。
从安全和成本的角度来看，一开始就编写安全的代码，比在编写完成后、已经进行了集成测试，甚至交付给客户后再去修改要好得多。可以说，代码的编写方式是信息安全中最大的杠杆因素之一。
亚马逊云科技提供的Amazon CodeWhisperer代码助手以及新型生成式AI助手Amazon Q，都可以帮助企业生成更好的代码或在软件工程师编写代码时直接提供建议。
Amazon CodeWhisperer是具有内置安全扫描功能的AI编码助手，能够帮助开发者基于注释生成代码，追踪开源参考，扫描查找漏洞，同时对个人开发者免费。它还提供定制化功能，允许企业安全地将CodeWhisperer连接到企业内部代码存储，以提升CodeWhisperer的效果，加快开发任务的完成速度。
Amazon Q可以在Amazon CodeWhisperer中回答开发人员的各种代码相关的问题并附上可一键实施的代码，并提供代码转换功能，以帮助开发者大幅减少应用程序维护和升级所需的繁琐工作，将所需的时间从几天缩短至几分钟。
“我认为利用生成式AI提升安全代码的编写工作能够有效地推动整个行业进入更高级别的安全领域。”Steve Schmidt说。
此外，在防范黑客方面，生成式AI也加快了安全工程师的效率。客户可以使用生成式AI模型构建自动响应流程，可以对预定事件进行快速响应和输出。尤其是在人工交互领域，大模型可以让不懂技术的管理人员也能够在安全事件发生时快速理解发生了什么。
在亚马逊云科技2023 re:Invent 全球大会上，亚马逊云科技推出了主要具有生成式AI能力的安全服务能力。
其中Amazon Inspector的Amazon Lambda函数代码扫描功能现在能够利用生成式AI和自动推理实现代码修复。此前的扫描功能能够突出显示问题代码的位置、潜在影响并提供建议，现在生成式AI同能够为多种类别的漏洞创建与情境相关的代码补丁。开发者可以快速进行验证和代码替换等操作，从而快速有效地解决问题。
Amazon Detective则是有一个基于生成式AI的流程来构建安全事件的文字描述，这意味着安全工程师可以拿到准备好的内容，对其进行调整，确保准确，用于解释正在发生的事件，从而节省数小时的时间。
值得一提的是，借助生成式AI可以缓解网络安全人才短缺的难题。
“我们想要做的，以及现在正在使用生成式AI所做的，是将一些繁重的工作从我们的工程人才身上移走，让他们专注于那些真正需要专业知识或人类判断力的事情。”Steve Schmidt的分享了自己的看法：生成式AI在检测客户账户中的异常行为方面发挥了很大的作用，可帮助更准确地隔离和提醒个别用户的高度可疑行为。生成式AI可以非常有效地识别和提醒这种行为。这种方法可以让安全团队将精力集中在战略业务计划和更高价值的任务上，而不仅仅是发现和响应事件，因为对于企业客户来说，他们都希望能够防患于未然，而不只是事后响应。
据了解，亚马逊云科技在安全领域又有了新的动向：在亚马逊云科技与英伟达最新联合发布中，亚马逊云科技表示，GB200将受益于 Amazon Nitro 系统，该系统增强的安全性可以在客户端和云端全程保护客户的代码和数据在处理过程中的安全。这一独有的功能已经获得了领先的网络安全公司 NCC Group 的独立验证。
NCC Group的报告指出“Nitro系统通过从硬件层面到系统的部署和终止的全过程管理，实现了安全目标，亚马逊云科技没有其他替代的访问Nitro EC2主机系统的路径。”
写在最后
作为云计算的开创者的引领者，安全是亚马逊云科技的最高优先级，亚马逊云科技构在实践中总结经验，构建了行之有效的安全文化。Steve也是亚马逊安全文化的践行者和倡导者之一：2010年Steve加入亚马逊，并在亚马逊云科技首席信息安全官任职长达12年，2022年起就任亚马逊首席安全官至今。作为资深的安全工程师，Steve拥有十多项云安全架构领域的专利。
“我们不仅在前所未有的大规模企业中构建和运行起对应的超大规模安全体系，而且还形成了一种在安全领域中非同寻常的文化。我最引以为豪的事情就是在企业中塑造正确的文化。”在Steve看来，正是亚马逊云科技塑造的正确的安全文化：安全是公司每一个人的责任、通过自动化工具来提高效率和竞争力，将安全嵌入整个开发过程、以及把安全当作是一条基线和安全团队成员保持多样性，推动了亚马逊云科技始终帮助客户朝着他们的目标向前迈进。
京公网安备 11010202008829号