�bersicht �ber die Modellabstimmung f�r Gemini

Die Modellabstimmung ist ein wichtiger Prozess bei der Anpassung von Gemini, um bestimmte Aufgaben mit höherer Präzision und Genauigkeit auszuführen. Bei der Modellabstimmung wird einem Modell ein Trainings-Dataset bereitgestellt, das eine Reihe von Beispielen für bestimmte nachgelagerte Aufgaben enthält.

Diese Seite bietet einen Überblick über die Modellabstimmung für Gemini, beschreibt die für Gemini verfügbaren Abstimmungsoptionen und hilft Ihnen dabei, festzustellen, wann die einzelnen Abstimmungsoptionen verwendet werden sollten.

Vorteile der Modellabstimmung

Die Modellabstimmung ist eine effektive Möglichkeit, große Modelle an Ihre Aufgaben anzupassen. Dies ist ein wichtiger Schritt, um die Qualität und Effizienz des Modells zu verbessern. Die Modellabstimmung bietet folgende Vorteile:

  • Höhere Qualität für Ihre spezifischen Aufgaben.
  • Erhöhte Robustheit des Modells.
  • Niedrigere Inferenzlatenz und Kosten aufgrund kürzerer Prompts.

Abstimmung im Vergleich zum Prompt-Design

Die Abstimmung bietet folgende Vorteile gegenüber dem Prompt-Design.

  • Sie ermöglicht eine tiefgreifende Anpassung des Modells und führt zu einer besseren Leistung bei bestimmten Aufgaben.
  • Sie bietet einheitlichere und zuverlässigere Ergebnisse.
  • Sie kann eine größere Anzahl von Beispielen gleichzeitig verarbeiten.

Parametereffiziente Abstimmung

Die parametereffiziente Abstimmung, auch Adapterabstimmung genannt, erm�glicht eine effiziente Anpassung gro�er Modelle an Ihre spezifischen Aufgaben oder Bereiche. Bei der parametereffizienten Abstimmung wird eine relativ kleine Teilmenge der Modellparameter w�hrend des Abstimmungsprozesses aktualisiert.

Weitere Informationen dazu, wie Vertex AI die Adapterabstimmung und -bereitstellung unterst�tzt, finden Sie im folgenden Whitepaper Anpassung gro�er Basismodelle.

Parametereffiziente Abstimmung im Vergleich zur vollst�ndigen Feinabstimmung

Parametereffiziente Abstimmung und vollst�ndige Feinabstimmung sind zwei Ans�tze zum Anpassen gro�er Modelle. Beide Methoden haben ihre Vorteile und Auswirkungen in Bezug auf die Modellqualit�t und Ressourceneffizienz.

Bei der vollst�ndigen Feinabstimmung werden alle Parameter des Modells aktualisiert. Sie eignet sich daher zur Anpassung des Modells an hoch komplexe Aufgaben, wodurch eine h�here Qualit�t erzielt werden kann. Eine vollst�ndige Feinabstimmung erfordert jedoch h�here Rechenressourcen sowohl f�r die Abstimmung als auch f�r die Bereitstellung, was zu h�heren Gesamtkosten f�hrt.

Die parametereffiziente Abstimmung ist im Vergleich zur vollst�ndigen Feinabstimmung ressourceneffizienter und kosteng�nstiger. Dabei werden deutlich geringere Rechenressourcen zum Trainieren ben�tigt. Mit ihr kann das Modell mit einem kleineren Dataset schneller angepasst werden. Die Flexibilit�t der parametereffizienten Abstimmung bietet eine L�sung f�r das Multi-Task-Lernen, ohne dass ein umfassendes erneutes Training erforderlich ist.

Vertex AI unterst�tzt die parametereffiziente Abstimmung und die vollst�ndige Feinabstimmung f�r verschiedene Modelle in verschiedenen Szenarien.

Gemini-Modelle abstimmen

Die folgenden Gemini-Modelle unterst�tzen die �berwachte Abstimmung mit parametereffizienter Abstimmung:

  • gemini-1.0-pro-002

Die �berwachte Feinabstimmung ist eine gute Option, wenn Sie eine klar definierte Aufgabe mit verf�gbaren, mit Labels versehenen Daten haben. Sie ist besonders effektiv bei domainspezifischen Anwendungen, bei denen sich die Sprache oder der Inhalt erheblich von den Daten unterscheiden, mit denen das gro�e Modell urspr�nglich trainiert wurde.

Bei der �berwachten Abstimmung wird das Modellverhalten mit einem mit Labels versehenen Dataset angepasst. Bei diesem Prozess wird die Gewichtung des Modells angepasst, um den Unterschied zwischen den Vorhersagen und den tats�chlichen Labels zu minimieren. Dies kann die Modellleistung f�r die folgenden Aufgabentypen verbessern:

  • Klassifizierung
  • Sentimentanalyse
  • Entit�tsextraktion
  • Zusammenfassung von nicht komplexen Inhalten
  • Domainspezifische Abfragen schreiben

Kontingent f�r die Abstimmung von Gemini-Modellen

Das Kontingent wird f�r die Anzahl der gleichzeitigen Abstimmungsjobs erzwungen. Jedes Projekt verf�gt �ber ein Standardkontingent, mit dem mindestens ein Abstimmungsjob ausgef�hrt werden kann. Dies ist ein globales Kontingent, das von allen verf�gbaren Regionen gemeinsam genutzt wird. Wenn Sie weitere Jobs gleichzeitig ausf�hren m�chten, m�ssen Sie f�r Global concurrent tuning jobs zus�tzliche Kontingente anfordern.

N�chste Schritte