Home Catalogus Ollama LLM Engine
Lokale AI & LLM

Ollama LLM Engine

Ollama is an open-source, lightweight, and extensible framework for running Large Language Models (LLMs) locally, such as Llama 3, Qwen, Mistral, and DeepSeek.

ARM64 & AMD64
Docker & Rootless Podman
100% Self-Hosted (Geen Lock-in)
RAM Profiel: Laag
Standaard Poort: Port 11434

Waarom deze configuratie?

Snelle Start (Standalone Docker Compose)

Onderstaand compose-fragment is direct te gebruiken in elke Docker- of Podman-omgeving:

services:
  ollama:
    container_name: njorddeploy-ollama
    image: "ollama/ollama:latest"
    volumes:
      - "./data/ollama/data:/root/.ollama"
    ports:
      - "11434:11434"
    networks:
      - njorddeploy_net
    tty: true
    restart: unless-stopped

networks:
  njorddeploy_net:

Start de service direct via de commandline: docker compose up -d

Configuratie & Omgevingsvariabelen

Belangrijkste configuratieparameters en standaardwaarden uit de NjordDeploy component-sjabloon:

Variable Default Value Description
OLLAMA_PORT 11434 The port on the host to expose the Ollama API.

Ecosysteem & Bedrijfsintegratie

Eenvoudig beheren via NjordDeploy

Installeer, bewaak en update deze service met 1 klik op uw eigen Raspberry Pi of Proxmox server via de NjordDeploy Configurator.