在Amazon Bedrock上构建生成性人工智能应用

by Vasi Philomin 2024年6月27日 发布于 Amazon Bedrock，人工智能 ，生成性人工智能 ，思想领导力 永久链接 评论 分享

关键要点

生成性人工智能在多种行业中创造了丰富的内容。Amazon Bedrock为构建安全、合规且负责任的生成性人工智能应用提供了基础。关注安全性、合规性和负责任的人工智能是实现最佳应用效果的重要因素。实际的应用案例展示了Amazon Bedrock在不同行业的实际应用。

生成性人工智能Generative AI已经彻底改变了多个行业，能够从文本、图像到音频和代码生成内容。虽然它带来了大量的可能性，但将生成性人工智能整合进应用需要仔细的规划。Amazon Bedrock 是一项全托管服务，通过单一API提供来自领先人工智能公司的大型语言模型LLMs和其他基础模型FMs的访问权限。它拥有丰富的工具和能力，帮助构建生成性人工智能应用。

从今天开始，我将撰写一系列博客文章，强调推动客户选择Amazon Bedrock的一些关键因素。最重要的原因之一是，Bedrock使客户能够为生成性人工智能应用建立一个安全、合规和负责任的基础。在这篇文章中，我将探讨Amazon Bedrock如何帮助解决安全和隐私问题，促进安全的模型定制，加速审计和事件响应，并通过透明和负责任的人工智能建立信任。此外，我还将展示真实世界的案例，展示公司如何在Amazon Bedrock上构建安全的生成性人工智能应用展现其在不同领域的实际应用。

倾听客户的声音

在过去的一年中，我的同事杰夫巴尔Jeff BarrAWS的副总裁兼首席代言人，以及我有机会与众多客户就生成性人工智能进行对话。他们提到了选择Amazon Bedrock来构建和扩展其变革性生成性人工智能应用的令人信服的理由。杰夫的视频强调了推动客户今天选择Amazon Bedrock的一些关键因素。

在构建和运营生成性人工智能时，重要的是不要忽视一些关键要素安全性、合规性和负责任的人工智能特别是在涉及敏感数据的用例中。OWASP面向大型语言模型的十大风险列出了最常见的漏洞，但解决这些问题可能需要额外的努力，包括严格的访问控制、数据加密、防止提示注入攻击以及遵守政策。您需要确保AI应用既可靠又安全。

将数据安全与隐私放在首位

像许多开始其生成性人工智能旅程的组织一样，首要关注点是确保组织的数据在模型调优或检索增强生成RAG时依然安全和私密。Amazon Bedrock提供了一种多层次的方法来解决这个问题，帮助您确保数据在构建生成性人工智能应用的整个生命周期中保持安全和私密：

安全措施描述数据隔离和加密任何通过Amazon Bedrock处理的客户内容如客户输入和模型输出不会与任何第三方模型提供者共享，也不会用于训练基础模型。此外，数据在传输过程中使用TLS 12进行加密，并通过AWS密钥管理服务加密静态数据。安全的连接选项客户可以灵活选择如何连接到Amazon Bedrock的API端点。可以使用公共互联网网关、AWS PrivateLinkVPC端点进行私密连接，甚至通过AWS Direct Connect反向传输流量，从本地网络连接。模型访问控制Amazon Bedrock提供多个层次的强大访问控制。模型访问策略允许您明确允许或拒绝您账户启用特定基础模型。AWS身份与访问管理IAM策略让您进一步限制应用和角色可以调用哪些已配置模型以及可以调用这些模型的哪些API。

Druva 提供了数据安全软件即服务SaaS解决方案，以使所有企业具备网络、数据和运营的韧性。他们利用Amazon Bedrock快速实验、评估和实施不同的LLM组件，旨在满足特定客户的保护需求，而无需担心基础设施管理。

“我们在Amazon Bedrock上构建的全新服务Dru这是一个AI助手，IT和业务团队都可以使用它来访问有关其保护环境的关键信息并以自然语言执行操作因为它提供了全面托管且安全的访问各种基础模型的能力。”

David Gildea Druva的生成性AI产品副总裁。

确保安全的定制

对许多组织而言，生成性人工智能采用的关键方面是能够安全地定制应用，以符合您的特定用例和需求，包括RAG或微调基础模型。Amazon Bedrock提供了一种安全的方法进行模型定制，确保敏感数据在整个过程中得到保护：

vpa加速器安全措施描述模型定制数据安全在微调模型时，Amazon Bedrock通过私密的VPC连接使用来自Amazon Simple Storage ServiceAmazon S3存储桶的加密训练数据。Amazon Bedrock不会将模型定制数据用于其他目的。您的训练数据不会用于训练基础的Amazon Titan模型或分发给第三方。实际上，您为微调或继续专门培训提供的训练或验证数据不会被Amazon Bedrock存储。当模型定制工作完成后，它将保持孤立，并通过您的KMS密钥加密。安全部署微调模型预训练或微调的模型将在专为您的账户设计的独立环境中部署。您还可以使用您自己的KMS密钥进一步加密这些模型，防止未获得授权的访问。集中多账户模型访问AWS Organizations使您能够集中管理跨多个账户的环境。您可以在组织中创建和组织账户，整合成本并应用自定义环境的政策。对于拥有多个AWS账户或分布式应用架构的组织，Amazon Bedrock支持集中治理和对基础模型的访问您可以保护环境、创建和共享资源，并集中管理权限。通过标准的AWS跨账户IAM角色，管理员可以授予不同账户间安全访问模型的权限，实现受控和可审计的使用，同时保持集中控制的节点。

借助Amazon Bedrock的LLMs，无缝接入并且所有数据在传输和静态时均经过加密宝马集团安全地向全球司机提供高质量的连接移动解决方案。

“使用Amazon Bedrock，我们能够扩展我们的云治理，降低成本和上市时间，并为客户提供更好的服务。这一切都帮助我们提供全球各地人们对宝马所期待的安全、优质的数字体验。”

Dr Jens Kohl 宝马集团脱机架构负责人。

实现审计能力和可见性

除了数据隔离、加密和访问的安全控制，Amazon Bedrock还提供能力，以实现审计能力并加速事件响应：

审计能力描述合规认证对于具有严格监管要求的客户，您可以在遵循一般数据保护条例GDPR、健康保险流通与责任法案HIPAA等法规的情况下使用Amazon Bedrock。此外，AWS已成功扩展Amazon Bedrock在欧洲数据保护行为规范公共注册中的注册状态CISPE CODE。此声明提供了独立验证和额外层次的保障，确认Amazon Bedrock可以遵守GDPR。对于联邦机构和公共部门组织，Amazon Bedrock最近宣布获得FedRAMP Moderate，对于我们在美国东部和西部的AWS区域可以使用。Amazon Bedrock也在AWS GovCloud美国中接受高安全性认证的JAB审查。监控与日志记录与Amazon CloudWatch和AWS CloudTrail的原生集成提供全面的监控、日志记录和API活动、模型使用指标、令牌消费及其他性能数据的可见性。这些能力支持持续监控以便必要时改进、优化和审计这一点我们在过去18年的云服务中积累了丰富的经验。Amazon Bedrock允许您启用详细日志记录，记录所有模型输入和输出，包括IAM调用角色，以及与您账户中的所有调用相关的元数据。这些日志有助于监控模型响应，以遵循您组织的人工智能政策和声誉准则。当您启用模型调用日志记录时，可以使用AWS KMS加密日志数据，并使用IAM策略保护谁可以访问您的日志数据。所有这些数据不会存储在Amazon Bedrock中，仅在客户的账户中可用。

实施负责任的人工智能实践

AWS致力于负责任地发展生成性人工智能，采取以人为本的方法，优先考虑教育、科学和客户，旨在将负责任的人工智能整合到整个人工智能生命周期中。通过AWS全面的负责任人工智能开发和治理方法，Amazon Bedrock使您能够根据您的负责任人工智能原则构建可信赖的生成性人工智能系统。

我们为客户提供所需的工具、指导和资源，以开始使用目的明确的服务和功能，包括Amazon Bedrock中的多个特性：

负责任AI特性描述保护生成性人工智能应用Amazon Bedrock Guardrails 是一项由主要云提供商提供的唯一负责任AI功能，能够使客户自定义并应用安全性、隐私及真实性检查。这可以帮助客户阻止多达85比一些基础模型提供的原生保护更多的有害内容。它与Amazon Bedrock中的所有LLMs、微调模型配合使用，还与Amazon Bedrock代理和知识库集成。客户可以定义内容过滤器，设定可配置的阈值，帮助过滤有害内容，例如仇恨言论、侮辱性语言、色情语言、暴力、失职包括犯罪活动和注入攻击。在简短的自然语言描述下，Amazon Bedrock Guardrails允许您检测和阻止用户输入以及基础模型的响应，这些内容属于受限主题或敏感内容，包括个人身份信息PII。您可以结合多种策略类型为不同场景配置这些保障，并将其应用于Amazon Bedrock中的基础模型，从而确保您的生成性人工智能应用符合组织的负责任AI政策，并提供一致、安全的用户体验。来源追踪目前可用的Amazon Bedrock的模型评估功能，帮助客户根据自定义指标如准确性和安全性评估、比较和选择最适合其具体用例的基础模型。客户可以使用自动化或人工评估两种方式来评估AI模型。在进行自动评估时，他们可以选择标准，例如准确性或毒性，并使用自己的数据或公共数据集。对于需要人工判断的评估，客户可以轻松设置人力审核的工作流。设置完成后，Amazon Bedrock会运行评估并提供报告，显示模型在重要的安全性和准确性指标上的表现。这份报告帮助客户选择最适合其需求的模型，尤其在帮助客户评估迁移至Amazon Bedrock的新模型与现有应用模型时。水印检测所有Amazon Titan基础模型都以负责任的人工智能为核心。Amazon Titan图像生成器创建嵌入不可察觉的数字水印的图像。水印检测功能允许您识别通过Amazon Titan图像生成器生成的图像，这是一种基于自然语言提示生成大量逼真、工作室质量图像的基础模型。凭借这一功能，您可以增强AI生成内容的透明度，减轻有害内容的生成并减少虚假信息的传播。它还提供信心评分，使您能够评估检测的可靠性，即使原始图像已被修改。只需在Amazon Bedrock控制台中上传图像，API将检测Amazon Titan图像生成器生成的图像中嵌入的水印，包括基础模型生成的图像以及任何定制版本。AI服务卡提供透明度并记录AWS AI服务的预期用例和公平性考量。我们的最新服务卡包括Amazon Titan Text Premier和Amazon Titan Text Lite与Titan Text Express，后续将会推出更多。

Aha! 是一家软件公司，帮助超过100万人实现其产品战略。

“我们的客户每天都依赖我们设定目标、收集客户反馈并创建视觉路线图。正因如此，我们使用Amazon Bedrock来驱动我们的许多生成性人工智能能力。Amazon Bedrock提供负责任的AI特性，使我们能够通过其数据保护和隐私政策全面掌控我们的信息，并通过Amazon Bedrock Guardrails阻止有害内容。”

Dr Chris Waters Aha!的联合创始人兼首席技术官。

通过透明度建立信任

通过全面解决安全性、合规性和负责任的人工智能，Amazon Bedrock帮助客户释放生成性人工智能的变革潜力。随着生成性人工智能能力的快速发展，通过透明度建立信任显得尤为重要。Amazon Bedrock始终致力于帮助开发安全和可靠的应用及实践，帮助负责任地构建生成性人工智能应用。

总结来说，Amazon Bedrock使您能够轻松解锁生成性人工智能的持续增长，同时体验大型语言模型的强大功能。今天就开始行动吧使用您的数据安全构建AI应用或定制模型，稳步开启您的生成性人工智能旅程。

相关资源

想要了解更多关于生成性人工智能和Amazon Bedrock的信息，请浏览以下资源：

宣布新工具和能力以支持负责任的人工智能创新AWS的生成性人工智能安全方法保护生成性人工智能：生成性人工智能安全范围矩阵简介使用OWASP十大准则构建生成性人工智能应用的深度防御安全架构实施Amazon Bedrock知识库以支持GDPR被遗忘权请求CISPE数据保护行为规范公共注册现在有113种合规的AWS服务使用AWS Nitro Enclaves进行机密数据的大型语言模型推理[使用AWS PrivateLink为Amazon Bedrock设置私密访问](https//awsamazoncom/blogs/machinelearning/useaws