Das Werkzeug Ollama führt Sprachmodelle aus und dient bei Bedarf als Model-Server. Die neue Version 0.6.2 arbeitet besser mit Googles Gemma-3-Modell zusammen und kann die GPU in AMDs neue Prozessoren der Strix-Halo-Reihe einspannen.
Kaufen kann man solche Chips unter dem Markennamen Ryzen AI Max. Die Prozessoren kommen sowohl in Consumer-Produkten als auch Workstations zum Einsatz. Ollama 0.6.2 ist dabei in der Lage, die integrierte GPU für die KI-Berechnungen zu nutzen.
Die weiteren Änderungen betreffen vor allem Googles Gemma 3. So übergibt Ollama ab sofort mehrere Bilder an das Modell. Der Befehl „ollama create –quantize“ funktioniert zudem auch dann, wenn man Gemma 3 aus dem Safetensor-Dateiformat konvertiert. Abschließend haben die Entwickler ein Problem behoben, bei dem Gemma 3 im Betrieb einen riesigen Batzen Speicherplatz an sich reißt.
Wer Ollama 0.6.2 einsetzen möchte, sollte allerdings im Hinterkopf behalten, dass diese neue Version auf GitHub als „Pre-Release“ gekennzeichnet ist.
