Zum Inhalt springen
Lokale KI lernen

Druckansicht: Lokale KI installieren und betreiben

Diese Ansicht enthält alle bisher produzierten Lektionen des Moduls in Lesereihenfolge. Über den Druckdialog deines Browsers («Als PDF speichern») erhältst du eine PDF-Datei.

Lokale KI lernen · Kernmodul 4

Lokale KI installieren und betreiben

Von der Installation bis zum stabilen Alltag.

Stand: 4. Juli 2026

Lektion 1: Dein Notebook KI-bereit machen — sicher installieren, sauber entfernen

Praxislektion· ca. 30 Minuten · Lernziel: Du kannst dein System einschätzen (RAM, Speicherplatz, Prozessor), KI-Software nach Sicherheitsregeln installieren und jedes Experiment vollständig rückgängig machen.

Worum es geht

In Mission 1 installierst du deine erste lokale KI. Diese Lektion legt das Fundament dafür — und für jedes weitere Experiment im Kurs: Du lernst dein System einschätzen, richtest eine saubere Ordnerstruktur ein und übst die zwei wichtigsten Gewohnheiten sicherer Bastler: nur aus offiziellen Quellen laden und jeden Schritt rückgängig machen können.

Schritt 1: Dein System kennenlernen

Öffne zuerst den Task-Manager mit der Tastenkombination Ctrl + Shift + Esc und wechsle zum Reiter Leistung:

  • Arbeitsspeicher: Wie viel RAM ist eingebaut, wie viel ist gerade belegt? Auf einem 16-GB-Notebook sind nach dem Start oft schon 6–8 GB durch Windows und Programme belegt — der Rest ist dein Spielraum für KI-Modelle.
  • CPU: Notiere dir die Prozessorbezeichnung (z. B. «Intel Core i5-1235U») — sie hilft später bei der Fehlersuche.
  • GPU: Steht dort nur eine integrierte Grafik (z. B. «Intel Iris Xe»), hast du keinen eigenen Grafikspeicher (VRAM) — kein Problem, die KI rechnet dann auf der CPU.

Jetzt der freie Speicherplatz. Öffne PowerShell (Startmenü → «PowerShell» tippen → Enter) und führe aus:

Get-PSDrive C | Select-Object @{n='Frei (GB)'; e={[math]::Round($_.Free/1GB)}}, @{n='Belegt (GB)'; e={[math]::Round($_.Used/1GB)}}

Der Befehl liest die Laufwerksdaten von C: aus und rechnet sie in Gigabyte um — er verändert nichts an deinem System.

Schritt 2: Einen Experimentier-Ordner anlegen

Alles, was wir im Kurs bauen, bekommt ein festes Zuhause — so vermischen sich Experimente nie mit deinen wichtigen Dateien. Führe in PowerShell aus:

New-Item -ItemType Directory -Path "$HOME\KI-Experimente", "$HOME\KI-Experimente\Eingang", "$HOME\KI-Experimente\Ausgang", "$HOME\KI-Experimente\Notizen"

Der Befehl erstellt in deinem Benutzerordner den Ordner KI-Experimente mit drei Unterordnern. Eingang und Ausgang brauchst du ab Mission 5 für deinen ersten Agenten; in Notizen sammelst du Erkenntnisse.

Erwartetes Ergebnis: PowerShell listet die vier neu erstellten Ordner auf. Du findest sie im Explorer unter C:\Users\<dein Name>\KI-Experimente.

Schritt 3: Die Download-Grundregeln

Für KI-Software gelten dieselben Regeln wie für jede Software — nur konsequenter, weil das Ökosystem jung ist und viele Trittbrettfahrer anzieht:

  1. Nur die offizielle Quelle. Immer die Adresse des Herstellers direkt eintippen oder aus der offiziellen Dokumentation folgen (z. B. lmstudio.ai, ollama.com). Nie über Werbelinks oder «Download-Portale» gehen — dort werden Installer gern mit Beigaben «angereichert».
  2. Auf https:// achten. Das Schloss-Symbol im Browser bestätigt, dass du mit der echten Website verbunden bist.
  3. Vor dem Öffnen prüfen lassen. Windows prüft Downloads automatisch (Defender SmartScreen). Zusätzlich kannst du jede Datei im Explorer mit Rechtsklick → Mit Microsoft Defender überprüfen scannen.
  4. Misstrauisch bleiben bei Warnungen. Blockiert Windows einen Installer eines angeblich bekannten Programms, brich ab und prüfe die Quelle — echte Installer grosser Projekte sind in der Regel signiert.

Schritt 4: Wissen, wo alles landet

KI-Programme legen Daten an zwei Orten ab — beide solltest du kennen:

  • Das Programm selbst landet wie üblich unter C:\Programme bzw. C:\Users\<Name>\AppData\Local und erscheint in der Windows-App-Liste.
  • Die Modelle speichern die meisten Programme in einem eigenen Ordner in deinem Benutzerverzeichnis. Modelle sind der Speicherfresser: Ein einzelnes kann 2–20 GB belegen. Wo genau dein Programm sie ablegt, findest du in dessen Einstellungen (in LM Studio etwa im Bereich «My Models») — schau dort einmal nach und notiere dir den Pfad.

So behältst du den Überblick, welche Ordner die meisten Daten belegen — direkt in den Windows-Einstellungen: Einstellungen → System → Speicher.

Schritt 5: Der Rücksetzweg — jedes Experiment rückstandsfrei entfernen

Damit du es einmal komplett geübt hast, hier der allgemeine Rückbau in drei Schritten (er gilt sinngemäss für jede Software im Kurs):

  1. Programm deinstallieren: Einstellungen → AppsInstallierte Apps → Programm suchen → Deinstallieren.
  2. Modelle und Daten löschen: Den in Schritt 4 notierten Modell-Ordner im Explorer löschen (erst in den Papierkorb — endgültig leeren, wenn du sicher bist).
  3. Kontrolle: Unter Einstellungen → System → Speicher prüfen, ob der Platz wieder frei ist.

Auch unser heutiger Experimentier-Ordner hat einen Rücksetzweg — falls du je alles entfernen willst:

Remove-Item "$HOME\KI-Experimente" -Recurse -Confirm

Der Zusatz -Confirm sorgt dafür, dass PowerShell vor dem Löschen jedes Ordners nachfragt — eine gute Angewohnheit bei jedem Remove-Item. Führe das jetzt nicht aus — wir brauchen den Ordner im ganzen Kurs; er steht hier nur der Vollständigkeit halber.

Fehlerbehebung

  • «Die Ausführung von Skripts ist auf diesem System deaktiviert» — betrifft nur .ps1-Skriptdateien, nicht die direkt eingetippten Befehle dieser Lektion. Kommt die Meldung trotzdem, tippst du die Befehle direkt ins PowerShell-Fenster statt sie als Datei auszuführen.
  • PowerShell findet den Befehl nicht: Prüfe, ob du wirklich PowerShell geöffnet hast (blaues Fenster) und nicht die alte Eingabeaufforderung (schwarzes Fenster, versteht andere Befehle).
  • Ältere Prozessoren: Moderne KI-Programme setzen auf x64-Systemen den Befehlssatz AVX2 voraus (LM Studio nennt das offiziell als Anforderung). Intel- und AMD-Prozessoren ab etwa 2013–2015 unterstützen ihn praktisch durchgehend. Startet eine KI-Software auf einem deutlich älteren Gerät nicht, ist das die wahrscheinlichste Ursache.
Vertiefung: Warum kein Administrator-Konto für den Alltag?

Viele Windows-Nutzer arbeiten dauerhaft mit Administratorrechten. Für KI-Experimente — und besonders später für Agenten, die Dateien verarbeiten — ist das Prinzip der minimalen Berechtigung goldwert: Was mit normalen Rechten läuft, kann im schlimmsten Fall auch nur normale Dinge kaputt machen. Die Agenten-Module vertiefen das; für heute reicht die Haltung: Rechte nur erteilen, wenn ein Programm sie nachvollziehbar braucht.

Kurz geprüft

3 Fragen zum Festigen — Feedback kommt sofort.

Du willst LM Studio herunterladen. Welcher Weg ist richtig?
Was belegt bei lokaler KI erfahrungsgemäss den meisten Speicherplatz?
Wozu dient der Zusatz «-Confirm» bei Remove-Item?

Das kann ich jetzt

  • Ich kann RAM, freien Speicherplatz und Grafikausstattung meines Notebooks selbst auslesen und einordnen.
  • Ich habe eine saubere Ordnerstruktur für alle Kurs-Experimente.
  • Ich wende die Download-Grundregeln an und weiss, warum Modell-Dateien und Programme unterschiedlich riskant sind.
  • Ich kann jedes Experiment vollständig zurückbauen — Programm, Modelle, Daten.

Nächster Schritt: Mission 1 — Meine erste lokale KI. Dein System ist jetzt bereit dafür.

Lektion 2: Vom Laufen zum Beherrschen: Kontext, Systemprompt, lokale API

Praxislektion· ca. 35 Minuten · Lernziel: Du stellst Kontextgrösse und Systemprompt bewusst ein und aktivierst die lokale API als Grundlage für spätere Automatisierung.

Schritt 1: Die Kontextgrösse bewusst setzen

Beim Laden eines Modells übernimmt LM Studio eine Standard-Kontextgrösse — oft deutlich kleiner als das Modellmaximum, um Speicher zu sparen. Du findest die Einstellung bei den Ladeoptionen des Modells (Bezeichnung je nach Version, suche nach «Context Length»).

Probiere den Effekt aus Kernmodul 2 bewusst aus:

  1. Modell mit kleiner Kontextgrösse laden (z. B. 4’096) → Task-Manager: Speicherstand notieren.
  2. Dasselbe Modell mit grossem Kontext laden (z. B. 16’384 oder mehr) → Speicherstand vergleichen.

Erwartetes Ergebnis: Grösserer Kontext reserviert spürbar mehr Speicher — du siehst den KV-Zwischenspeicher jetzt als konkrete Zahl. Wähle für den Alltag so viel wie nötig, so wenig wie möglich; der Kontext-Rechner übersetzt dir Tokens in Seiten.

Schritt 2: Der Systemprompt — dein mächtigster Hebel

Der Systemprompt macht aus demselben Modell verschiedene Assistenten. Lege in LM Studio für dein Standardmodell einen an (Feld «System Prompt» in den Chat-/Modelleinstellungen) und teste diese Vorlage:

Du bist ein präziser Assistent. Antworte auf Deutsch (Schweizer Rechtschreibung, «ss» statt «ß»). Halte dich kurz: maximal fünf Sätze, ausser ich verlange ausdrücklich mehr. Wenn du etwas nicht sicher weisst, sage «Da bin ich nicht sicher» statt zu raten.

Stelle danach dieselben drei Testfragen aus Mission 1 erneut — und vergleiche Ton, Länge und Ehrlichkeit. Besonders die letzte Anweisung ist Gold wert: Sie gibt dem Modell die Erlaubnis zur Unsicherheit und reduziert Halluzinationen spürbar (ganz verhindern kann sie sie nicht).

Schritt 3: Die lokale API einschalten

Jetzt der Schritt mit Zukunft: LM Studio kann als lokaler Server laufen, den andere Programme auf deinem Rechner ansprechen — über eine API (englisch Application Programming Interface, eine Programmierschnittstelle; hier im verbreiteten OpenAI-kompatiblen Format). Genau so werden ab Kernmodul 7 deine Agenten mit der lokalen KI sprechen.

  1. Aktiviere in LM Studio den Server (Bereich «Developer» bzw. «Local Server»; Standardport ist üblicherweise 1234).
  2. Prüfe ihn — PowerShell:
Invoke-RestMethod http://localhost:1234/v1/models

Der Befehl fragt den lokalen Server, welche Modelle verfügbar sind — er geht nicht ins Internet: localhost ist immer dein eigener Rechner.

Erwartetes Ergebnis: Eine kleine Datenantwort (JSON) mit deinem geladenen Modell. Glückwunsch — deine lokale KI ist jetzt programmierbar.

Vertiefung: Warum «OpenAI-kompatibel»?

Das Anfrageformat von OpenAI hat sich als Quasi-Standard etabliert. Lokale Programme ahmen es nach, damit tausende bestehende Werkzeuge ohne Anpassung mit deinem lokalen Modell funktionieren — du tauschst einfach die Adresse gegen localhost. Kompatibles Format heisst aber nicht Cloud-Verbindung: Die Daten bleiben auf deinem Gerät, wie dich jeder Blick auf die Adresse überzeugt.

Fehlerbehebung

  • Invoke-RestMethod meldet Verbindungsfehler: Läuft der Server? Stimmt der Port (LM Studio zeigt ihn an)? Modell geladen?
  • Antworten im Chat plötzlich abgeschnitten: Kontextgrösse zu klein gewählt — Verlauf plus Antwort sprengen das Fenster.
  • Speicher voll nach Kontext-Erhöhung: Der erwartete Effekt. Kontext kleiner stellen oder kleineres Modell.

Kurz geprüft

3 Fragen zum Festigen — Feedback kommt sofort.

Warum reserviert eine grössere Kontexteinstellung schon beim Laden mehr Speicher?
Was bewirkt «Wenn du etwas nicht sicher weisst, sage das» im Systemprompt?
Wohin gehen Anfragen an http://localhost:1234?

Das kann ich jetzt

  • Ich stelle die Kontextgrösse bewusst ein und kenne ihren Speicherpreis.
  • Ich schreibe Systemprompts, die Ton, Länge und Ehrlichkeit steuern.
  • Meine lokale KI läuft als API-Server auf localhost — die Grundlage für alle Agenten-Module.

Nächster Schritt: «Pflegen, aktualisieren, reparieren» — der Langzeitbetrieb.

Lektion 3: Pflegen, aktualisieren, reparieren

Entscheidungslektion· ca. 25 Minuten · Lernziel: Du hältst deine KI-Umgebung aktuell und aufgeräumt, kennst die Werkzeug-Landschaft neben LM Studio und diagnostizierst die häufigsten Probleme selbst.

Updates: ja — aber mit System

KI-Software entwickelt sich rasant; Updates bringen Tempo und neue Modellunterstützung. Damit ein Update nie dein funktionierendes Setup zerstört, gilt der Drei-Punkte-Ritus:

  1. Vorher festhalten, was funktioniert: Modellname, Quantisierung, Kontextgrösse, Systemprompt (deine Notizen aus den letzten Lektionen — genau dafür sind sie da).
  2. Update einspielen (Programme aktualisieren sich meist selbst oder melden neue Versionen).
  3. Nachher den Prüfungsbogen fahren: zwei, drei Standardfragen aus Mission 2. Läuft alles? Erst dann weiterexperimentieren.

Wichtig zu wissen: Programm-Updates verändern deine Modelle nicht. Modelle sind Dateien; ein neues LM Studio lädt dieselben Modelle wie das alte. Getrennte Welten — wie Textverarbeitung und Dokumente.

Speicherplatz im Griff

Modelle sammeln sich an. Einmal im Monat lohnt der Kassensturz:

  • In der Modellliste (My Models) siehst du alle Downloads samt Grösse. Was du seit Wochen nicht genutzt hast: löschen — du kannst jedes Modell jederzeit erneut laden.
  • Windows-Gesamtsicht: Einstellungen → System → Speicher.
  • Regel aus der ersten Praxislektion: mindestens 10 GB frei halten, sonst leidet auch Windows selbst.

Die Werkzeug-Landschaft: bleiben oder wechseln?

LM Studio ist unsere Standardwahl für den Einstieg — nicht die einzige gute. Die Landschaft im Charakterprofil (Einordnung: Stand Kurserstellung 07/2026; Details und Prüfdaten folgen im Technologiekatalog):

Werkzeug Charakter Wechseln, wenn …
LM Studio grafisch, alles eingebaut, anfängerfreundlich — (unser Standard)
Ollama schlank, Terminal + API im Zentrum du viel automatisierst und die Kommandozeile magst
Jan grafisch, quelloffen dir Quelloffenheit der Oberfläche wichtig ist
GPT4All grafisch, einfach, mit lokaler Dokumentensuche du primär Dokumente durchsuchen willst
Open WebUI Weboberfläche für (auch entfernte) Modelle, mehrbenutzerfähig du einen Heimserver betreibst (Kernmodul 10 / Labor 8)
AnythingLLM RAG-Spezialist mit Arbeitsbereichen Kernmodul 5 — dort setzen wir ihn ein

Beruhigend: Die Modelle (GGUF-Dateien) verstehen alle diese Programme. Ein Wechsel kostet dich Einarbeitung, nicht deine Downloads.

Fehlerbehebungs-Fahrplan

Der Diagnoseweg für 90 % aller Probleme — immer von billig nach teuer:

  1. Modell entladen und neu laden (löst Speicherfragmente).
  2. Programm neu starten, dann Rechner neu starten.
  3. Speicher prüfen: Task-Manager — ist RAM voll? Kleineres Modell/kleinerer Kontext.
  4. Ein Update verfügbar? Bekannte Fehler sind oft schon behoben.
  5. Fehlermeldung dokumentieren (Screenshot + genauer Wortlaut) und gezielt suchen — wie das professionell geht, zeigt Kernmodul 10.
  6. Neuinstallation nach dem Rücksetzweg — die Modelle bleiben erhalten, wenn du nur das Programm entfernst.

Kurz geprüft

3 Fragen zum Festigen — Feedback kommt sofort.

Nach einem Programm-Update wirkt ein Modell verändert. Was stimmt?
Du wechselst von LM Studio zu einem anderen Programm. Was passiert mit deinen Modellen?
Erster Schritt im Fehlerbehebungs-Fahrplan?

Das kann ich jetzt

  • Ich aktualisiere mit dem Drei-Punkte-Ritus: dokumentieren, updaten, nachtesten.
  • Ich halte den Modellbestand aufgeräumt und weiss, dass Downloads wiederholbar sind.
  • Ich kenne die Werkzeug-Landschaft und den sechsstufigen Fehlerbehebungs-Fahrplan.

Nächster Schritt: Kernmodul 5 — deine eigenen Dokumente kommen ins Spiel (und mit Mission 4 wird es sofort praktisch).