Ollama 0.32.15: Metadaten-Cache senkt Request-Overhead
Kurz gesagt: Ollama 0.32.15 entfernt einen wiederkehrenden Overhead vor der Inferenz. Der neue Cache hält aufgelöste GGUF-Modellmetadaten und Capabilities vor; laut Ollamas eigenem Benchmark sank die mittlere Time …
Copy and paste this URL into your WordPress site to embed
Copy and paste this code into your site to embed