最新文章 / 作者：

DeepSeek-R1 现已作为 Amazon Bedrock 中完全托管的无服务器模型提供

DeepSeek-R1 模型已通过Amazon Bedrock Marketplace和Amazon Bedrock Custom Model Import在 Amazon Bedrock 中推出。自那时起，成千上万的客户已在 Amazon Bedrock 中部署了这些模型。客户看重的是强大的防护措施和全面的工具，以确保 AI 的安全部署。今天，我们通过扩展的选项范围（包括新的无服务器解决方案），让在 Amazon Bedrock 中使用 DeepSeek变得更加容易。

完全托管的 DeepSeek-R1 模型现已在 Amazon Bedrock 中全面推出。Amazon Web Services (AWS)是第一家以完全托管的一般可用模型形式提供 DeepSeek-R1 的云服务提供商 (CSP)。您可以使用 AWS 上的 DeepSeek 加速创新并提供切实的商业价值，而无需管理基础设施的复杂性。您可以使用 Amazon Bedrock 完全托管服务中的单个 API利用 DeepSeek-R1 的功能为您的生成式 AI应用程序提供支持，并享受其广泛的功能和工具。

据DeepSeek介绍，他们的模型在 MIT 许可下公开可用，并在推理、编码和自然语言理解方面具有强大的功能。这些功能为智能决策支持、软件开发、数学问题解决、科学分析、数据洞察和综合知识管理系统提供支持。

与所有 AI 解决方案一样，在生产环境中实施时，请仔细考虑数据隐私要求，检查输出中的偏差并监控结果。在实施 DeepSeek-R1 等公开可用的模型时，请考虑以下事项：

数据安全– 您可以访问Amazon Bedrock 的企业级安全、监控和成本控制功能，这些功能对于负责任地大规模部署 AI至关重要，同时还能完全控制您的数据。用户的输入和模型输出不会与任何模型提供商共享。您可以默认使用这些关键安全功能，包括静态和传输中的数据加密、细粒度访问控制、安全连接选项，以及在与 Amazon Bedrock 中的 DeepSeek-R1 模型通信时下载各种合规性认证。
负责任的 AI – 您可以使用Amazon Bedrock Guardrails实施针对您的应用程序要求和负责任的 AI 策略定制的防护措施。这包括内容过滤、敏感信息过滤和可自定义的安全控制等主要功能，以使用上下文基础和自动推理检查来防止幻觉。这意味着您可以通过过滤生成式 AI 应用程序中不良和有害的内容，使用您定义的一组策略来控制用户与 Bedrock 中的 DeepSeek-R1 模型之间的交互。
模型评估– 您可以使用Amazon Bedrock 模型评估工具通过自动或人工评估，在几个步骤内评估和比较模型，以确定适合您使用案例的最佳模型，包括 DeepSeek-R1。您可以选择使用预定义指标（例如准确性、稳健性和毒性）的自动评估。或者，您可以选择人工评估工作流程，用于主观或自定义指标（例如相关性、风格和与品牌声音的一致性）。模型评估提供内置的精选数据集，或者您可以引入自己的数据集。
我们强烈建议将 Amazon Bedrock Guardrails 集成并将 Amazon Bedrock 模型评估功能与您的 DeepSeek-R1 模型结合使用，为您的生成式 AI 应用程序提供强大的保护。要了解更多信息，请访问使用 Amazon Bedrock Guardrails 保护您的 DeepSeek 模型部署和评估 Amazon Bedrock 资源的性能。

开始使用 Amazon Bedrock 中的 DeepSeek-R1 模型
如果您是第一次使用 DeepSeek-R1 模型，请转到Amazon Bedrock 控制台，在左侧导航窗格中选择Bedrock 配置下的模型访问。要访问完全托管的 DeepSeek-R1 模型，请在DeepSeek中请求对DeepSeek-R1 的访问权限。然后，您将被授予对 Amazon Bedrock 中模型的访问权限。

  1. 访问DeepSeek-R1模型

接下来，要在 Amazon Bedrock 中测试 DeepSeek-R1 模型，请在左侧菜单窗格中选择Playgrounds下的Chat/Text 。然后选择左上角的选择模型，选择DeepSeek作为类别，DeepSeek-R1作为模型。然后选择应用。

2.选择DeepSeek-R1模型

使用选定的DeepSeek-R1模型，我运行以下提示示例：

A family has $5,000 to save for their vacation next year. They can place the money in a savings account earning 2% interest annually or in a certificate of deposit earning 4% interest annually but with no access to the funds until the vacation. If they need $1,000 for emergency expenses during the year, how should they divide their money between the two options to maximize their vacation fund?

这个提示需要复杂的思路链，并产生非常精确的推理结果。

  1. 在聊天游乐场中测试 DeepSeek-R1

要了解有关提示的使用建议的更多信息，请参阅DeepSeek-R1 模型在其 GitHub 存储库中的 README。

通过选择查看 API 请求，您还可以使用AWS 命令​​行界面 (AWS CLI)和AWS SDK中的代码示例访问模型。您可以将其用作us.deepseek.r1-v1:0模型 ID。

以下是 AWS CLI 命令的示例：

aws bedrock-runtime invoke-model \
–model-id us.deepseek-r1-v1:0 \
–body “{\”messages\”:[{\”role\”:\”user\”,\”content\”:[{\”type\”:\”text\”,\”text\”:\”[n\”}]}],max_tokens\”:2000,\”temperature\”:0.6,\”top_k\”:250,\”top_p\”:0.9,\”stop_sequences\”:[\”\n\nHuman:\”]}” \
–cli-binary-format raw-in-base64-out \
–region us-west-2 \
invoke-model-output.txt
猛击
该模型支持InvokeModel和ConverseAPI。以下 Python 代码示例展示了如何使用Amazon Bedrock Converse API将文本消息发送到 DeepSeek-R1 模型进行文本生成。

import boto3
from botocore.exceptions import ClientError

Create a Bedrock Runtime client in the AWS Region you want to use.

client = boto3.client(“bedrock-runtime”, region_name=”us-west-2″)

Set the model ID, e.g., Llama 3 8b Instruct.

model_id = “us.deepseek.r1-v1:0”

Start a conversation with the user message.

user_message = “Describe the purpose of a ‘hello world’ program in one line.”
conversation = [
{
“role”: “user”,
“content”: [{“text”: user_message}],
}
]

try:
# Send the message to the model, using a basic inference configuration.
response = client.converse(
modelId=model_id,
messages=conversation,
inferenceConfig={“maxTokens”: 2000, “temperature”: 0.6, “topP”: 0.9},
)

# Extract and print the response text.
response_text = response["output"]["message"]["content"][0]["text"]
print(response_text)

except (ClientError, Exception) as e:
print(f”ERROR: Can’t invoke ‘{model_id}’. Reason: {e}”)
exit(1)
Python
要在 DeepSeek-R1 模型上启用 Amazon Bedrock Guardrails，请在左侧导航窗格中选择Safeguards下的Guardrails，然后通过配置所需数量的过滤器来创建护栏。例如，如果您过滤“政治”一词，您的护栏将在提示中识别这个词并向您显示被阻止的消息。

您可以使用不同的输入来测试护栏，以评估护栏的性能。您可以通过设置拒绝的主题、单词过滤器、敏感信息过滤器和阻止的消息来优化护栏，直到它满足您的需求。

要了解有关 Amazon Bedrock Guardrails 的更多信息，请访问AWS 文档中的使用 Amazon Bedrock Guardrails 阻止模型中的有害内容，或AWS 机器学习博客频道上有关 Amazon Bedrock Guardrails 的其他深入博客文章。

以下是一个演示演练，重点介绍了如何利用 Amazon Bedrock 中完全托管的 DeepSeek-R1 模型：

现已推出
DeepSeek-R1 现已在美国东部（弗吉尼亚北部）、美国东部（俄亥俄）和美国西部（俄勒冈）AWS 区域的 Amazon Bedrock 中通过跨区域推理全面托管。查看完整区域列表以获取未来更新。要了解更多信息，请查看Amazon Bedrock 中的 DeepSeek 产品页面和Amazon Bedrock 定价页面。

立即在Amazon Bedrock 控制台中试用 DeepSeek-R1 模型，并向AWS re:Post for Amazon Bedrock或通过您常用的 AWS Support 联系方式发送反馈。