Google hat Trillium vorgestellt, die Tensor Processing Unit (TPU) der sechsten Generation, die speziell für das Training großer generativer KI-Modelle entwickelt wurde. Im Vergleich zur vorherigen Generation Cloud TPU v5p bietet Trillium eine bis zu 1,8-fach bessere Leistung pro Dollar und eine beeindruckende Skalierungseffizienz von 99 %. Google hat sich auf die Verbesserung der Konvergenzskalierungseffizienz konzentriert, die misst, wie effektiv zusätzliche Rechenressourcen den Trainingsprozess bis zum Abschluss beschleunigen. Die Testergebnisse zeigen, dass Trillium eine ähnliche Konvergenzskalierungseffizienz wie Cloud TPU v5p bei geringeren Kosten erreicht. Trillium bietet eine kosteneffiziente Lösung für das Training generativer KI-Modelle und ermöglicht es Unternehmen, leistungsfähigere und effizientere Modelle zu entwickeln.
Entfesseln der LLM-Trainingseffizienz mit Trillium - eine Leistungsanalyse
Google Cloud