LLM News
Aktuelle LLM- und KI-News: Releases, Infrastruktur, Modelle und die operative Einordnung für Teams.
-
Serie LLM Ops Stack (Teil 2): Observability, Fallbacks und Kostenkontrolle
Artikel lesen →: Serie LLM Ops Stack (Teil 2): Observability, Fallbacks und KostenkontrolleSerie: LLMs produktiv betreiben (Teil 2 von 2) Serien-Navigation: Teil 1 · Teil 2 Im zweiten Teil geht es um die Realität nach dem Go-live: inkonsistente Antwortqualität, Spitzenlast, …
Verfasst von
-
LiteLLM-Vorfall zeigt die neue Angriffsfläche für Agentic Ops
Artikel lesen →: LiteLLM-Vorfall zeigt die neue Angriffsfläche für Agentic OpsWenn ein AI-Gateway wie LiteLLM in der Lieferkette getroffen wird, ist das nicht nur ein Security-Thema – das ist ein Betriebsrisiko für jedes Team mit Agenten, Automationen oder …
Verfasst von
-
Local vs Cloud Check (Teil 2): Kosten, Latenz und der reale Break-even
Artikel lesen →: Local vs Cloud Check (Teil 2): Kosten, Latenz und der reale Break-evenSerien-Navigation · Local vs Cloud Check Teil 1 · Teil 2 · Teil 3 Serie: Local vs Cloud Check (Teil 2 von 3) Teil 2 vertieft Kosten-, Latenz- …
Verfasst von
-
Serie MCP im Enterprise (Teil 1): Vom Agenten-Hype zur Infrastruktur
Artikel lesen →: Serie MCP im Enterprise (Teil 1): Vom Agenten-Hype zur InfrastrukturSerien-Navigation · MCP im Enterprise Teil 1 (aktuell) · Teil 2 (in Arbeit) · Teil 3 (in Arbeit) Zur Serienübersicht → Serie: MCP im Enterprise-Betrieb (Teil 1 von …
Verfasst von
-
Microsoft veröffentlicht Agent Governance Toolkit für autonome AI-Agenten
Artikel lesen →: Microsoft veröffentlicht Agent Governance Toolkit für autonome AI-AgentenAutonome Agenten können heute nicht nur chatten, sondern reale Aktionen auslösen: Tools aufrufen, Workflows starten, Infrastruktur anfassen. Genau dort liegt das Risiko – und genau dort setzt Microsofts …
Verfasst von
-
MLPerf Inference v6.0 zeigt, wo Inference-Stacks jetzt wirklich gewinnen
Artikel lesen →: MLPerf Inference v6.0 zeigt, wo Inference-Stacks jetzt wirklich gewinnenInference-Benchmarks sind nicht sexy — aber sie entscheiden gerade, welche AI-Stacks in Produktion bestehen. Mit MLPerf Inference v6.0 hat MLCommons diese Woche die bislang größte Überarbeitung der Suite …
Verfasst von
-
Gemma 4 macht Local-First plötzlich enterprise-tauglich
Artikel lesen →: Gemma 4 macht Local-First plötzlich enterprise-tauglichGoogle hat mit Gemma 4 ein Update veröffentlicht, das für Teams mit Local-/Edge-Fokus mehr ist als nur ein Modell-Refresh. Der eigentliche Hebel ist die Kombination aus zwei Dingen: …
Verfasst von
-
Inference wird zum Betriebssystem: Dynamo, 1M-Context-Shift, Runtime-Routing
Artikel lesen →: Inference wird zum Betriebssystem: Dynamo, 1M-Context-Shift, Runtime-RoutingDie letzten Tage zeigen ein klares Muster: Der LLM-Markt liefert weniger „Big Bang“-Modelle, dafür deutlich mehr produktionsnahe Infrastruktur und Runtime-Änderungen. Für Teams heißt das: weniger Hype-Slides, mehr Betriebsdisziplin. …
Verfasst von
-
Serie LLM Ops Stack (Teil 1): Basis für produktiven Betrieb
Artikel lesen →: Serie LLM Ops Stack (Teil 1): Basis für produktiven BetriebStand: April 2026 In den letzten Monaten habe ich viel damit gearbeitet, lokale LLMs von „läuft auf meinem Rechner“ auf „läuft stabil im Alltag“ zu bringen. Der Unterschied…
Verfasst von
-
Homelab Setup: Docker + Monitoring in 60 Minuten
Artikel lesen →: Homelab Setup: Docker + Monitoring in 60 MinutenDocker und Monitoring in unter einer Stunde ist realistisch, wenn das Setup klar bleibt. Der Artikel zeigt ein schlankes Homelab-Grundgerüst mit Fokus auf Wartbarkeit statt Tool-Overkill.
Verfasst von
