Ollama

Quelloffene Software zum lokalen Betrieb von KI-Sprachmodellen auf eigener Hardware und ohne Cloud-Anbindung.

Ollama lädt offene Sprachmodelle herunter und stellt sie über eine einheitliche Schnittstelle bereit, sodass sie direkt auf dem eigenen Server oder Rechner laufen. So lassen sich KI-Funktionen nutzen, ohne dass Anfragen oder Daten das eigene Netzwerk verlassen, z.B. in Kombination mit einer Oberfläche wie Open WebUI.