AWS führt Kimi K3.1 Pro Hochgeschwindigkeitsmodell mit 1 Million Token Kontext ein

Amazon Web Services (AWS), die Cloud-Abteilung von Amazon, hat das Kimi K3.1 Pro Highspeed-KI-Modell des chinesischen Unternehmens Moonshot AI zur Amazon Bedrock-Plattform hinzugefügt. Das Modell unterstützt ein Kontextfenster von bis zu 1 Million Tokens und ist über globale Verarbeitungsprofile sowie separate Profile für die USA und Indien verfügbar.
Kimi K3.1 Pro Highspeed basiert auf Kimi K3 mit einer Architektur von 3 Billionen Parametern und offenen Gewichten. Während des zusätzlichen Trainings nutzten die Entwickler mehr Rechenressourcen, wobei der Fokus auf der Durchführung komplexer mehrstufiger Aufgaben und der Reduzierung der Anzahl faktischer Fehler lag.
Laut Moonshot AI ist die Token-Ausgabegeschwindigkeit der Highspeed-Version 2–3 Mal höher als die des Standard-Kimi K3.1 Pro. Unabhängige Vergleichstestergebnisse werden in der AWS-Veröffentlichung nicht angegeben.
Das Modell unterstützt die Arbeit mit Bildern und externen Tools
Kimi K3.1 Pro Highspeed unterstützt die Bildverarbeitung, den Aufruf externer Tools, die strukturierte Antwortbildung und die Anpassung der Argumentationstiefe. Diese Fähigkeiten ermöglichen den Einsatz des Modells für Dokumentenanalyse, Finanzmodellierung und Programmierung.
Für Entwickler, die bereits Kimi K3 über Amazon Bedrock nutzen, gibt es die Möglichkeit, auf die neue Version umzusteigen, indem der Modellbezeichner geändert wird, ohne dass eine wesentliche Überarbeitung der bestehenden Integration erforderlich ist.
Laut AWS-Dokumentation werden Anfragen innerhalb der Infrastruktur des Unternehmens verarbeitet und nicht an Moonshot AI übermittelt. Amazon erklärt außerdem, dass Benutzerdaten nicht für das Modelltraining verwendet werden und der Inhalt von Anfragen und Antworten nach der Verarbeitung nicht gespeichert wird.
AWS hat mehrere Preismodelle bereitgestellt
Für Kimi K3.1 Pro Highspeed sind Priority-, Standard- und Flex-Modi verfügbar, die sich in Kosten und Anfragenverarbeitungsbedingungen unterscheiden.
Der Flex-Tarif bietet Kosten, die 50 % niedriger sind als der Standardtarif, erlaubt jedoch längere Antwortzeiten. Dieser Modus kann für Aufgaben verwendet werden, die keine minimale Latenz erfordern, einschließlich der Dokumentenverarbeitung und automatisierter Berechnungsprozesse.
Zusätzlich unterstützt das Modell das Speichern wiederkehrender Teile von Anfragen zur Wiederverwendung, was die Kosten bei der Arbeit mit großen Mengen identischen Kontexts senken kann.
Die tatsächlichen Kosten für die Nutzung des Modells hängen von der gewählten Region, dem Preismodell und der Anzahl der verarbeiteten Tokens ab. AWS hat in der ursprünglichen Veröffentlichung keinen unabhängigen Vergleich der Gesamtkosten der Aufgabenausführung mit konkurrierenden Modellen bereitgestellt.
Das Material dient ausschließlich zu Informationszwecken und stellt keinen finanziellen Rat oder Empfehlung dar.




