AWS推出Kimi K3.1 Pro高速模型,具备100万令牌上下文

Amazon Web Services (AWS) 是亚马逊的云计算部门,已将中国公司 Moonshot AI 的 Kimi K3.1 Pro Highspeed 人工智能模型添加到 Amazon Bedrock 平台。该模型支持最多 100 万个标记的上下文窗口,并通过全球处理配置文件以及美国和印度的独立配置文件提供。
Kimi K3.1 Pro Highspeed 基于 Kimi K3,具有 3 万亿参数的架构和开放权重。在额外训练期间,开发人员使用了更多的计算资源,专注于执行复杂的多步骤任务并减少事实错误的数量。
根据 Moonshot AI 的说法,Highspeed 版本的标记输出生成速度是标准 Kimi K3.1 Pro 的 2-3 倍。AWS 发布中未提供独立的比较测试结果。
该模型支持图像和外部工具的工作
Kimi K3.1 Pro Highspeed 支持图像处理、外部工具调用、结构化响应形成和推理深度定制。这些功能使该模型可用于文档分析、金融建模和编程。
对于已经通过 Amazon Bedrock 使用 Kimi K3 的开发人员,可以通过更改模型标识符升级到新版本,而无需对现有集成进行重大改动。
根据 AWS 文档,请求在公司的基础设施内处理,不会传输到 Moonshot AI。亚马逊还声明用户数据不会用于模型训练,请求和响应的内容在处理后不会保存。
AWS 提供了多种定价模式
对于 Kimi K3.1 Pro Highspeed,提供了 Priority、Standard 和 Flex 模式,成本和请求处理条件不同。
Flex 资费比 Standard 低 50%,但允许更长的响应时间。此模式可用于不需要最低延迟的任务,包括文档处理和自动化计算过程。
此外,该模型支持保存请求的重复部分以供重用,这可以在处理大量相同上下文时降低成本。
使用该模型的实际成本取决于所选区域、定价模式和处理的标记数量。AWS 在原始发布中未提供与竞争模型的任务执行总成本的独立比较。
本材料仅供参考,不构成财务建议或推荐。





