Google Cloud hat die Einführung von Metas Llama 3.2, der neuesten Generation multimodaler Modelle, in Vertex AI Model Garden angekündigt. Llama 3.2 ist eine neue Generation von Bildverarbeitungs- und Lightweight-Modellen, die für den Einsatz auf Edge-Geräten geeignet sind und auf Anwendungsfälle zugeschnitten sind, die privatere und personalisiertere KI-Erlebnisse erfordern. Mit den neuen Modellen:

Llama wird multimodal: Mit den neuen 11B- und 90B-Vision-LLMs von Llama 3.2 können Sie jetzt auf hochauflösenden Bildern wie Diagrammen, Grafiken oder Bildunterschriften argumentieren. Dies eröffnet neue Möglichkeiten wie die bildbasierte Suche und Inhaltsgenerierung, interaktive Lerntools und vieles mehr.

Llama wird klein: Die neuen 1B- und 3B-Lightweight-Modelle von Llama 3.2 wurden für die nahtlose Integration auf Mobil- und Edge-Geräten entwickelt. Mit diesen Modellen können Sie private, personalisierte KI-Erlebnisse mit minimaler Latenz und minimalem Ressourcenaufwand erstellen. Stellen Sie sich mehrsprachige Zusammenfassungen, Informationsabrufe und lokale KI-Agenten auf dem Gerät vor - und das alles unter Wahrung der Privatsphäre der Benutzer.

Die neuen Llama-Modelle priorisieren Zugänglichkeit, Effizienz und Datenschutz mit einem Fokus auf verantwortungsvolle Innovation und Sicherheit auf Systemebene.

Vertex AI bietet Ihnen eine einheitliche KI-Plattform, mit der Sie Modelle wie Llama 3.2 einfach ausprobieren, anpassen und bereitstellen können. Die Aufnahme von Llama 3.2 in Vertex AI erweitert unsere kuratierte Sammlung von über 160 unternehmensbereiten First-Party-, Open-Source- und Drittanbietermodellen in Model Garden - so können Sie über unser offenes und flexibles KI-Ökosystem die besten Modelle für Ihre Anforderungen auswählen.

Sie können ganz einfach auf das neue 90B-Modell in der Vorschau hier über unser Model-as-a-Service (MaaS)-Angebot zugreifen. Mit MaaS können Sie sofort auf das Modell zugreifen, es mit robusten Entwicklungstools anpassen und mit vollständig verwalteter Infrastruktur und nutzungsbasierter Abrechnung bereitstellen. 90B wird in den kommenden Wochen allgemein verfügbar sein. Das 11B-Vision-Modell wird in den kommenden Wochen auch als MaaS verfügbar sein.

Alle vier Llama 3.2-Modelle sind ab heute für die Self-Service-Bereitstellung über Vertex AI Model Garden bereit.

Kunden, die mit Llama auf Google Cloud entwickeln

Shopify optimiert seine Datengenerierungsprozesse mit Llama auf Vertex AI, um datengestützte Erkenntnisse zu liefern und Unternehmen weltweit zu unterstützen:

"Die Verwendung von Llama 3.1 auf Google Cloud Vertex AI hat die Generierung hochwertiger Daten für Shopify einfacher und effizienter gemacht. Die komfortable Infrastruktur von Vertex AI ermöglicht es uns, konsistent zuverlässige Ergebnisse für kritische Anwendungen zu liefern und so den Prozess für unsere Teams zu optimieren", sagte Mike Tamir, Distinguished ML Engineer bei Shopify. "Mit Vertex AI sind wir in der Lage, präzise, datengestützte Erkenntnisse zu liefern, um Millionen von Unternehmen weltweit zu unterstützen und die Zukunft des Handels mitzugestalten."

TransCrypts nutzt Llama auf Google Cloud, um seinen KI-gestützten Finanzberater Castello Tausenden von Kunden zugänglich zu machen:

"Die Verwendung von Llama 3.1 auf Google Cloud war ein Wendepunkt für TransCrypts. Die Leistung und Kosteneffizienz von TPUs ermöglicht es uns, diese fortschrittlichen Modelle blitzschnell bereitzustellen und komplexe Workloads zu bewältigen, die sonst unerreichbar wären", sagte Zain Zaidi, Mitbegründer und CEO von TransCrypts. "Die einfache Skalierbarkeit von Google Cloud hat es uns ermöglicht, unsere Lösung Castello innerhalb weniger Tage Zehntausenden von Kunden anzubieten."

BMC hat Llama 3.1 in seine Flaggschiff-Plattform BMC Helix integriert, um das IT-Service- und Betriebsmanagement durch Konversations-KI, Empfehlungen und Analysen zu beschleunigen:

"Wir freuen uns sehr über die Partnerschaft mit Google Cloud, die die Leistungsfähigkeit von Vertex AI und Llama 3.1 auf unsere BMC Helix-Plattform bringt", sagte Margaret Lee, GM und SVP der Geschäftseinheit Digital Service and Operations Management bei BMC. "Diese Integration erhöht die Genauigkeit von Konversations-KI- und AIOps-Empfehlungen erheblich und bietet unseren Kunden Zugang zu hochmodernen KI-Lösungen, die auf ihre Bedürfnisse zugeschnitten sind."

Verwendung von Llama 3.2 auf Google Cloud

Durch die Verwendung von Llama 3.2 auf Vertex AI können Sie:

Experimentieren Sie mit Zuversicht: Erkunden Sie die Möglichkeiten von Llama 3.2 durch einfache API-Aufrufe und unseren umfassenden Bewertungsservice für generative KI in der intuitiven Umgebung von Vertex AI, ohne sich um komplexe Bereitstellungsprozesse kümmern zu müssen.

Passen Sie Llama 3.2 an Ihre Bedürfnisse an: Optimieren Sie das Modell mit Ihren eigenen Daten, um maßgeschneiderte Lösungen zu erstellen, die auf Ihre individuellen Bedürfnisse zugeschnitten sind.

Verankern Sie Ihre KI in der Realität: Stellen Sie mit den vielfältigen Optionen von Vertex AI für Grounding und RAG sicher, dass Ihre KI-Ausgaben zuverlässig, relevant und vertrauenswürdig sind. Sie können Ihre Modelle beispielsweise mit Unternehmenssystemen verbinden, Vertex AI Search für die Informationsbeschaffung in Unternehmen verwenden, Llama für die Generierung nutzen und vieles mehr.

Erstellen Sie intelligente Agenten: Erstellen und orchestrieren Sie Agenten, die mit Llama 3.2 betrieben werden, und verwenden Sie dabei die umfassenden Tools von Vertex AI, einschließlich LangChain auf Vertex AI. Integrieren Sie Llama 3.2 mit dem Vertex AI-Plugin von Genkit in Ihre KI-Erlebnisse.

Bereitstellung ohne Overhead: Vereinfachen Sie die Bereitstellung und Skalierung von Llama 3.2-Anwendungen mit flexibler automatischer Skalierung, nutzungsbasierter Preisgestaltung und erstklassiger Infrastruktur, die für KI entwickelt wurde.

Arbeiten Sie innerhalb Ihrer Unternehmensschutzvorrichtungen: Stellen Sie mit Zuversicht bereit, nicht nur mit Unterstützung für Metas Llama Guard für die Modelle, sondern auch mit den integrierten Sicherheits-, Datenschutz- und Compliance-Maßnahmen von Google Cloud. Darüber hinaus bieten Unternehmenskontrollen, wie z. B. die neue Organisationsrichtlinie von Vertex AI Model Garden, die richtigen Zugriffskontrollen, um sicherzustellen, dass nur auf genehmigte Modelle von Benutzern zugegriffen werden kann.

Erste Schritte mit Llama 3.2 auf Google Cloud

Mit jeder neuen Innovation bei KI-Modellen werden KI-Ökosysteme für Unternehmen vielfältiger. Unsere Partnerschaft mit Meta zeugt vom Engagement beider Unternehmen, erstklassige Innovationen bereitzustellen, die von einem offenen und zugänglichen KI-Ökosystem unterstützt werden. Wir werden weiterhin eng mit Meta und anderen Partnern zusammenarbeiten, um unsere Kunden an der Spitze der KI-Fähigkeiten zu halten.

Besuchen Sie Model Garden und sehen Sie sich unsere Dokumentation an, um mit der Entwicklung mit Llama 3.2 zu beginnen.