GitHub Copilot: Token-Kosten werden pro Modell und Cache sichtbar

Schema: Copilot-Verbrauch je Modell mit Input-, Output- sowie Cache-Tokens und AI Credits

GitHub macht Copilot-Verbrauch erstmals bis auf Token-Klassen pro Modell nachvollziehbar. Der AI Usage Report weist für jedes verwendete Modell jetzt Input-, Output-, Cache-Read- und Cache-Write-Tokens neben den verbrauchten AI Credits aus. Für Teams ist das ein kleiner, aber wichtiger FinOps-Schritt: Eine Credits-Zeile lässt sich damit endlich erklären, statt nur weiterzuverrechnen.

Was sich im Report ändert

  • Die Aufschlüsselung erfolgt pro Modell, nicht nur als Gesamtsumme der AI Credits.
  • Ausgewiesen werden vier Token-Klassen: Input, Output, Cache Read und Cache Write.
  • Die Token-Werte stehen direkt neben den Credits, die das jeweilige Modell verbraucht hat.
  • Der Export liegt im AI Usage Report unter den Billing Settings bereit.

Warum das operativ relevant ist

AI Credits sind für Budget- und Engineering-Teams bisher eine grobe Abrechnungsgröße. Die neue Aufschlüsselung trennt nun zwei unterschiedliche Fragen: Welches Modell treibt den Verbrauch – und entsteht dieser Verbrauch überwiegend durch neue Eingaben, generierte Antworten oder wiederverwendeten Kontext?

Der Report liefert keine Optimierungsempfehlung. Aber er schafft die Datengrundlage, um Modellwahl, Kontextdisziplin und Cache-Nutzung nicht mehr im Blindflug zu diskutieren.

Was Admins jetzt tun sollten

  • Den nächsten Export nach Modell und Token-Klasse segmentieren, bevor pauschale Kostenlimits diskutiert werden.
  • Hohe Input-Anteile gegen Prompt- und Kontextpraktiken prüfen; hohe Output-Anteile gegen typische Agenten- und Review-Aufgaben halten.
  • Cache-Reads und Cache-Writes getrennt betrachten: Sie sind Nutzungsdaten, kein pauschaler Beleg für Einsparungen.
  • Die Auswertung mit Teams teilen, die Modellrichtlinien oder Copilot-Budgets verantworten.

Die Funktion steht Admins von Copilot Business und Copilot Enterprise sowie allen Nutzerinnen und Nutzern von Copilot Individual zur Verfügung. GitHub verweist dafür auf den Download des AI Usage Reports in den Billing Settings.

Quelle

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *