Artikel

Google hat Gemini 3.7 Flash veröffentlicht. Der neue Flash-Ableger zielt nicht auf ein luxuriöses Spitzenmodell, sondern auf den täglichen Durchsatz von Coding- und Agenten-Workloads. Entscheidend für Teams: Google …

Liquid AI veröffentlicht mit LFM2.5-VL-3B ein kompaktes Vision-Language-Modell für lokale Bild- und Bildschirmaufgaben. Der interessante Teil ist nicht eine neue Benchmark-Tabelle, sondern ein praxistauglicher Bereitstellungspfad: OCR, UI-/Layout-Verständnis, Grounding …

Google hat Version 2.18.0 seines Gen-AI-Python-SDKs veröffentlicht. Der operative Kern der Änderung: Der bislang nicht öffentlich verfügbare deferred-Service-Tier ist jetzt im Vertex-Pfad des SDKs verfügbar. Das ist kein …

OpenAI stellt mit Version 3.0 seines Python SDKs den HTTP-Unterbau von httpx auf httpx2 um. Die OpenAI-API bleibt kompatibel; für produktive Deployments sind Trust-Store, Custom Clients, Proxies, Mocks …

AWS zeigt auf SageMaker HyperPod einen interessanten nächsten Schritt für LLM-Inferenz: KV-Cache bleibt nicht mehr auf einen vLLM-Pod beschränkt. Eine dreistufige Architektur aus GPU-Speicher, Host-RAM und einem gemeinsam …

Mistral macht seine gehostete Inferenz für regulierte und latenzkritische Workloads konkreter steuerbar: Die neuen regionalen API-Endpunkte für EU und USA sind allgemein verfügbar; dazu kommt ein Priority Tier …

GitHub macht Copilot-Verbrauch erstmals bis auf Token-Klassen pro Modell nachvollziehbar. Der AI Usage Report weist für jedes verwendete Modell jetzt Input-, Output-, Cache-Read- und Cache-Write-Tokens neben den verbrauchten …