Ollama

Aus ahrensburg.city
Version vom 20. Februar 2025, 01:41 Uhr von Thorsten (Diskussion | Beiträge) (// via Wikitext Extension for VSCode)
(Unterschied) ← Nächstältere Version | Aktuelle Version (Unterschied) | Nächstjüngere Version → (Unterschied)
Zur Navigation springen Zur Suche springen

Ollama ist ein Tool, das es ermöglicht, Sprachmodelle effizient und ressourcenschonend im Servermodus zu betreiben. Es ist in der Lage, die Anfragen von mehreren Clients gleichzeitig zu verarbeiten und die Modelle in einem Cache zu speichern, um die Antwortzeiten zu verkürzen.

Installation

Ubuntu

curl -fsSL https://ollama.com/install.sh | sh