Zum Inhalt springen
Lokale KI lernen
Kernmodul 1

Lokale KI wirklich verstehen

Sprachmodelle, Tokens, Kontext, Quantisierung — ohne Fachchinesisch.

Druckansicht / PDF-Export

  1. Erklärlektion · ca. 25 Min.

    Was ist lokale KI — und wie «denkt» ein Sprachmodell?

    Du nutzt ChatGPT oder Claude — aber was passiert dabei eigentlich? Und was ändert sich, wenn die KI auf deinem eigenen Notebook läuft?

  2. Erklärlektion · ca. 25 Min.

    Modellarten: Vom Rohmodell zum Spezialisten

    Basis, Instruct, Reasoning, Vision, Embedding — Modellnamen tragen viele Zusätze. Hier lernst du, sie zu lesen und das richtige Werkzeug für die Aufgabe zu wählen.

  3. Erklärlektion · ca. 20 Min.

    Genauigkeit gegen Grösse: Quantisierung bewusst wählen

    FP16, Q8, Q5, Q4 — hinter den Kürzeln steckt ein einfacher Handel: Wie viel Präzision gibst du her, damit das Modell auf dein Gerät passt?