DeepSeek-R1 现已作为 Amazon Bedrock 中完全托管的无服务器模型提供

自 1 月 30 日起,DeepSeek-R1 模型已通过Amazon Bedrock Marketplace和Amazon Bedrock Custom Model Import在 Amazon Bedrock 中上线。自此以后,已有数千名客户在 Amazon Bedrock 中部署了这些模型。客户非常重视其强大的防护措施和全面的 AI 安全部署工具。今天,我们通过扩展选项(包括全新的无服务器解决方案),让DeepSeek 在 Amazon Bedrock 中的使用更加便捷。

完全托管的 DeepSeek-R1 模型现已在 Amazon Bedrock 中正式发布。Amazon Web Services (AWS)是首家将 DeepSeek-R1 作为完全托管的正式发布模型进行交付的云服务提供商 (CSP)。您可以使用 AWS 上的 DeepSeek 加速创新并创造切实的商业价值,而无需管理复杂的基础设施。您可以使用 Amazon Bedrock 完全托管服务中的单个 API,利用 DeepSeek-R1 的功能为您的生成式 AI应用程序提供支持,并充分利用其丰富的功能和工具。

据DeepSeek介绍,他们的模型在 MIT 许可下公开可用,并在推理、编码和自然语言理解方面提供了强大的功能。这些功能为智能决策支持、软件开发、数学问题解决、科学分析、数据洞察和综合知识管理系统提供了支持。

与所有 AI 解决方案一样,在生产环境中实施时,请仔细考虑数据隐私要求,检查输出中是否存在偏差,并监控结果。在实施像 DeepSeek-R1 这样的公开模型时,请考虑以下事项:

数据安全– 您可以访问Amazon Bedrock 的企业级安全、监控和成本控制功能,这些功能对于以负责任的方式大规模部署 AI至关重要,同时还能完全控制您的数据。用户的输入和模型输出不会与任何模型提供商共享。您可以默认使用这些关键的安全功能,包括静态和动态数据加密、细粒度的访问控制、安全连接选项,以及在与 Amazon Bedrock 中的 DeepSeek-R1 模型通信时下载各种合规性认证。
负责任的 AI – 您可以使用Amazon Bedrock Guardrails实施根据您的应用程序需求定制的安全措施和负责任的 AI 策略。这包括内容过滤、敏感信息过滤和可自定义的安全控制等关键功能,以使用上下文基础和自动推理检查来防止幻觉。这意味着您可以通过定义的策略集来控制用户与 Bedrock 中的 DeepSeek-R1 模型之间的交互,方法是过滤生成式 AI 应用程序中不良和有害的内容。
模型评估– 您可以使用Amazon Bedrock 模型评估工具,通过自动或人工评估,在几个步骤内评估和比较模型,从而找到适合您使用案例的最佳模型(包括 DeepSeek-R1)。您可以选择使用预定义指标(例如准确性、稳健性和毒性)的自动评估。或者,您可以选择使用人工评估工作流程,针对主观或自定义指标(例如相关性、风格以及与品牌形象的一致性)。模型评估提供内置的精选数据集,您也可以引入自己的数据集。
我们强烈建议您将 Amazon Bedrock Guardrails 集成到您的 DeepSeek-R1 模型中,并使用 Amazon Bedrock 模型评估功能,为您的生成式 AI 应用程序提供强大的保护。如需了解更多信息,请访问使用 Amazon Bedrock Guardrails 保护您的 DeepSeek 模型部署和评估 Amazon Bedrock 资源的性能。

开始在 Amazon Bedrock 中使用 DeepSeek-R1 模型。
如果您是第一次使用 DeepSeek-R1 模型,请转到Amazon Bedrock 控制台,在左侧导航窗格中的Bedrock 配置下选择“模型访问”。要访问完全托管的 DeepSeek-R1 模型,请在DeepSeek中请求DeepSeek-R1的访问权限。然后,您将被授予在 Amazon Bedrock 中访问该模型的权限。

接下来,要在 Amazon Bedrock 中测试 DeepSeek-R1 模型,请
在左侧菜单窗格中选择
Playgrounds下的
Chat/Text 。然后在左上角选择
Select model ,并选择DeepSeek作为类别,
DeepSeek-R1作为模型。然后选择
Apply

使用选定的DeepSeek-R1模型,我运行以下提示示例:

A family has $5,000 to save for their vacation next year. They can place the money in a savings account earning 2% interest annually or in a certificate of deposit earning 4% interest annually but with no access to the funds until the vacation. If they need $1,000 for emergency expenses during the year, how should they divide their money between the two options to maximize their vacation fund?

这个提示需要复杂的思路,并产生非常精确的推理结果。