Home Catalogus Ollama LLM Engine
Lokale AI & LLM

Ollama LLM Engine

Open-source framework voor het lokaal uitvoeren van geavanceerde LLM's zoals Llama 3, Mistral, Qwen en DeepSeek op eigen hardware.

ARM64 & AMD64
Docker & Rootless Podman
100% Self-Hosted (Geen Lock-in)
RAM Profiel: Laag
Standaard Poort: Poort 11434
Draai je dit op een thuisserver? NjordDeploy automatiseert de volledige installatie, SSL, opslag en netwerk op je Raspberry Pi of Proxmox server.
Ontdek 128+ Apps

Waarom deze configuratie?

Snelle Start (Standalone Docker Compose)

Onderstaand compose-fragment is direct te gebruiken in elke Docker- of Podman-omgeving:

services:
  ollama:
    container_name: njorddeploy-ollama
    image: "ollama/ollama:latest"
    volumes:
      - "./data/ollama/data:/root/.ollama"
    ports:
      - "11434:11434"
    networks:
      - njorddeploy_net
    tty: true
    restart: unless-stopped

networks:
  njorddeploy_net:

Start de service direct via de commandline:

Docker Engine
docker compose up -d
Rootless Podman
podman compose up -d

Configuratie & Omgevingsvariabelen

Belangrijkste configuratieparameters en standaardwaarden uit de NjordDeploy component-sjabloon:

Variabele Standaardwaarde Beschrijving
OLLAMA_PORT 11434 The port on the host to expose the Ollama API.

Ecosysteem & Bedrijfsintegratie

Eenvoudig beheren via NjordDeploy

Installeer, bewaak en update deze service met 1 klik op uw eigen Raspberry Pi of Proxmox server via de NjordDeploy Configurator.