AWS und AI21 Labs freuen sich, die Verfügbarkeit der leistungsstarken neuen Jamba 1.5-Familie großer Sprachmodelle (LLMs) von AI21 Labs in Amazon Bedrock bekannt zu geben. Diese Modelle stellen einen bedeutenden Fortschritt bei den Sprachfunktionen mit langem Kontext dar und bieten Geschwindigkeit, Effizienz und Leistung in einer Vielzahl von Anwendungen.
Die Jamba 1.5-Modelle zeichnen sich durch ein einzigartiges Hybridarchitektur aus, das die Transformer-Modellarchitektur mit der Structured State Space Model (SSM)-Technologie kombiniert. Dieser innovative Ansatz ermöglicht es den Jamba 1.5-Modellen, lange Kontextfenster von bis zu 256.000 Token zu verarbeiten und gleichzeitig die hohe Leistung herkömmlicher Transformer-Modelle beizubehalten.
Zu den Hauptvorteilen der Jamba 1.5-Modelle gehören:
* Lange Kontextverarbeitung: Mit einer Kontextlänge von 256.000 Token können die Jamba 1.5-Modelle die Qualität von Unternehmensanwendungen verbessern, z. B. die Zusammenfassung und Analyse langer Dokumente sowie Agenten- und RAG-Workflows.
* Mehrsprachigkeit: Unterstützung für Englisch, Spanisch, Französisch, Portugiesisch, Italienisch, Niederländisch, Deutsch, Arabisch und Hebräisch.
* Entwicklerfreundlich: Native Unterstützung für strukturierte JSON-Ausgabe, Funktionsaufrufe und die Möglichkeit, Dokumentobjekte zu verarbeiten.
* Geschwindigkeit und Effizienz: AI21 hat die Leistung der Jamba 1.5-Modelle gemessen und festgestellt, dass die Modelle bei langen Kontexten eine bis zu 2,5-mal schnellere Inferenz aufweisen als andere Modelle vergleichbarer Größe.
Die Jamba 1.5-Modelle eignen sich perfekt für Anwendungsfälle wie die Analyse von Dokumentenpaaren, die Compliance-Analyse und die Beantwortung von Fragen zu langen Dokumenten. Sie können problemlos Informationen aus mehreren Quellen vergleichen, überprüfen, ob Passagen bestimmten Richtlinien entsprechen, und sehr lange oder komplexe Dokumente verarbeiten.
Die Jamba 1.5-Modellfamilie von AI21 Labs ist ab sofort allgemein in Amazon Bedrock in der AWS-Region USA Ost (Nord-Virginia) verfügbar.
Ich bin der Meinung, dass diese Modelle einen bedeutenden Fortschritt im Bereich der Sprachverarbeitung darstellen. Die Möglichkeit, lange Kontexte zu verarbeiten, eröffnet eine Vielzahl neuer Möglichkeiten für Entwickler und Unternehmen. Ich bin gespannt, welche innovativen Anwendungen mit diesen Modellen entwickelt werden.