Lokale KI lernen · Kernmodul 4
Lokale KI installieren und betreiben
Von der Installation bis zum stabilen Alltag.
Stand: 4. Juli 2026
Lektion 1: Dein Notebook KI-bereit machen — sicher installieren, sauber entfernen
Worum es geht
In Mission 1 installierst du deine erste lokale KI. Diese Lektion legt das Fundament dafür — und für jedes weitere Experiment im Kurs: Du lernst dein System einschätzen, richtest eine saubere Ordnerstruktur ein und übst die zwei wichtigsten Gewohnheiten sicherer Bastler: nur aus offiziellen Quellen laden und jeden Schritt rückgängig machen können.
Schritt 1: Dein System kennenlernen
Öffne zuerst den Task-Manager mit der Tastenkombination Ctrl + Shift + Esc und wechsle zum Reiter Leistung:
- Arbeitsspeicher: Wie viel RAM ist eingebaut, wie viel ist gerade belegt? Auf einem 16-GB-Notebook sind nach dem Start oft schon 6–8 GB durch Windows und Programme belegt — der Rest ist dein Spielraum für KI-Modelle.
- CPU: Notiere dir die Prozessorbezeichnung (z. B. «Intel Core i5-1235U») — sie hilft später bei der Fehlersuche.
- GPU: Steht dort nur eine integrierte Grafik (z. B. «Intel Iris Xe»), hast du keinen eigenen Grafikspeicher (VRAM) — kein Problem, die KI rechnet dann auf der CPU.
Jetzt der freie Speicherplatz. Öffne PowerShell (Startmenü → «PowerShell» tippen → Enter) und führe aus:
Get-PSDrive C | Select-Object @{n='Frei (GB)'; e={[math]::Round($_.Free/1GB)}}, @{n='Belegt (GB)'; e={[math]::Round($_.Used/1GB)}}
Der Befehl liest die Laufwerksdaten von C: aus und rechnet sie in Gigabyte um — er verändert
nichts an deinem System.
Schritt 2: Einen Experimentier-Ordner anlegen
Alles, was wir im Kurs bauen, bekommt ein festes Zuhause — so vermischen sich Experimente nie mit deinen wichtigen Dateien. Führe in PowerShell aus:
New-Item -ItemType Directory -Path "$HOME\KI-Experimente", "$HOME\KI-Experimente\Eingang", "$HOME\KI-Experimente\Ausgang", "$HOME\KI-Experimente\Notizen"
Der Befehl erstellt in deinem Benutzerordner den Ordner KI-Experimente mit drei Unterordnern.
Eingang und Ausgang brauchst du ab Mission 5 für deinen ersten Agenten; in Notizen sammelst
du Erkenntnisse.
Erwartetes Ergebnis: PowerShell listet die vier neu erstellten Ordner auf. Du findest sie im
Explorer unter C:\Users\<dein Name>\KI-Experimente.
Schritt 3: Die Download-Grundregeln
Für KI-Software gelten dieselben Regeln wie für jede Software — nur konsequenter, weil das Ökosystem jung ist und viele Trittbrettfahrer anzieht:
- Nur die offizielle Quelle. Immer die Adresse des Herstellers direkt eintippen oder aus
der offiziellen Dokumentation folgen (z. B.
lmstudio.ai,ollama.com). Nie über Werbelinks oder «Download-Portale» gehen — dort werden Installer gern mit Beigaben «angereichert». - Auf
https://achten. Das Schloss-Symbol im Browser bestätigt, dass du mit der echten Website verbunden bist. - Vor dem Öffnen prüfen lassen. Windows prüft Downloads automatisch (Defender SmartScreen). Zusätzlich kannst du jede Datei im Explorer mit Rechtsklick → Mit Microsoft Defender überprüfen scannen.
- Misstrauisch bleiben bei Warnungen. Blockiert Windows einen Installer eines angeblich bekannten Programms, brich ab und prüfe die Quelle — echte Installer grosser Projekte sind in der Regel signiert.
Schritt 4: Wissen, wo alles landet
KI-Programme legen Daten an zwei Orten ab — beide solltest du kennen:
- Das Programm selbst landet wie üblich unter
C:\Programmebzw.C:\Users\<Name>\AppData\Localund erscheint in der Windows-App-Liste. - Die Modelle speichern die meisten Programme in einem eigenen Ordner in deinem Benutzerverzeichnis. Modelle sind der Speicherfresser: Ein einzelnes kann 2–20 GB belegen. Wo genau dein Programm sie ablegt, findest du in dessen Einstellungen (in LM Studio etwa im Bereich «My Models») — schau dort einmal nach und notiere dir den Pfad.
So behältst du den Überblick, welche Ordner die meisten Daten belegen — direkt in den Windows-Einstellungen: Einstellungen → System → Speicher.
Schritt 5: Der Rücksetzweg — jedes Experiment rückstandsfrei entfernen
Damit du es einmal komplett geübt hast, hier der allgemeine Rückbau in drei Schritten (er gilt sinngemäss für jede Software im Kurs):
- Programm deinstallieren: Einstellungen → Apps → Installierte Apps → Programm suchen → Deinstallieren.
- Modelle und Daten löschen: Den in Schritt 4 notierten Modell-Ordner im Explorer löschen (erst in den Papierkorb — endgültig leeren, wenn du sicher bist).
- Kontrolle: Unter Einstellungen → System → Speicher prüfen, ob der Platz wieder frei ist.
Auch unser heutiger Experimentier-Ordner hat einen Rücksetzweg — falls du je alles entfernen willst:
Remove-Item "$HOME\KI-Experimente" -Recurse -Confirm
Der Zusatz -Confirm sorgt dafür, dass PowerShell vor dem Löschen jedes Ordners nachfragt —
eine gute Angewohnheit bei jedem Remove-Item. Führe das jetzt nicht aus — wir brauchen den
Ordner im ganzen Kurs; er steht hier nur der Vollständigkeit halber.
Fehlerbehebung
- «Die Ausführung von Skripts ist auf diesem System deaktiviert» — betrifft nur
.ps1-Skriptdateien, nicht die direkt eingetippten Befehle dieser Lektion. Kommt die Meldung trotzdem, tippst du die Befehle direkt ins PowerShell-Fenster statt sie als Datei auszuführen. - PowerShell findet den Befehl nicht: Prüfe, ob du wirklich PowerShell geöffnet hast (blaues Fenster) und nicht die alte Eingabeaufforderung (schwarzes Fenster, versteht andere Befehle).
- Ältere Prozessoren: Moderne KI-Programme setzen auf x64-Systemen den Befehlssatz AVX2 voraus (LM Studio nennt das offiziell als Anforderung). Intel- und AMD-Prozessoren ab etwa 2013–2015 unterstützen ihn praktisch durchgehend. Startet eine KI-Software auf einem deutlich älteren Gerät nicht, ist das die wahrscheinlichste Ursache.
Vertiefung: Warum kein Administrator-Konto für den Alltag?
Viele Windows-Nutzer arbeiten dauerhaft mit Administratorrechten. Für KI-Experimente — und besonders später für Agenten, die Dateien verarbeiten — ist das Prinzip der minimalen Berechtigung goldwert: Was mit normalen Rechten läuft, kann im schlimmsten Fall auch nur normale Dinge kaputt machen. Die Agenten-Module vertiefen das; für heute reicht die Haltung: Rechte nur erteilen, wenn ein Programm sie nachvollziehbar braucht.
Kurz geprüft
3 Fragen zum Festigen — Feedback kommt sofort.
Das kann ich jetzt
- Ich kann RAM, freien Speicherplatz und Grafikausstattung meines Notebooks selbst auslesen und einordnen.
- Ich habe eine saubere Ordnerstruktur für alle Kurs-Experimente.
- Ich wende die Download-Grundregeln an und weiss, warum Modell-Dateien und Programme unterschiedlich riskant sind.
- Ich kann jedes Experiment vollständig zurückbauen — Programm, Modelle, Daten.
Nächster Schritt: Mission 1 — Meine erste lokale KI. Dein System ist jetzt bereit dafür.
Lektion 2: Vom Laufen zum Beherrschen: Kontext, Systemprompt, lokale API
Schritt 1: Die Kontextgrösse bewusst setzen
Beim Laden eines Modells übernimmt LM Studio eine Standard-Kontextgrösse — oft deutlich kleiner als das Modellmaximum, um Speicher zu sparen. Du findest die Einstellung bei den Ladeoptionen des Modells (Bezeichnung je nach Version, suche nach «Context Length»).
Probiere den Effekt aus Kernmodul 2 bewusst aus:
- Modell mit kleiner Kontextgrösse laden (z. B. 4’096) → Task-Manager: Speicherstand notieren.
- Dasselbe Modell mit grossem Kontext laden (z. B. 16’384 oder mehr) → Speicherstand vergleichen.
Erwartetes Ergebnis: Grösserer Kontext reserviert spürbar mehr Speicher — du siehst den KV-Zwischenspeicher jetzt als konkrete Zahl. Wähle für den Alltag so viel wie nötig, so wenig wie möglich; der Kontext-Rechner übersetzt dir Tokens in Seiten.
Schritt 2: Der Systemprompt — dein mächtigster Hebel
Der Systemprompt macht aus demselben Modell verschiedene Assistenten. Lege in LM Studio für dein Standardmodell einen an (Feld «System Prompt» in den Chat-/Modelleinstellungen) und teste diese Vorlage:
Du bist ein präziser Assistent. Antworte auf Deutsch (Schweizer Rechtschreibung, «ss» statt «ß»). Halte dich kurz: maximal fünf Sätze, ausser ich verlange ausdrücklich mehr. Wenn du etwas nicht sicher weisst, sage «Da bin ich nicht sicher» statt zu raten.
Stelle danach dieselben drei Testfragen aus Mission 1 erneut — und vergleiche Ton, Länge und Ehrlichkeit. Besonders die letzte Anweisung ist Gold wert: Sie gibt dem Modell die Erlaubnis zur Unsicherheit und reduziert Halluzinationen spürbar (ganz verhindern kann sie sie nicht).
Schritt 3: Die lokale API einschalten
Jetzt der Schritt mit Zukunft: LM Studio kann als lokaler Server laufen, den andere Programme auf deinem Rechner ansprechen — über eine API (englisch Application Programming Interface, eine Programmierschnittstelle; hier im verbreiteten OpenAI-kompatiblen Format). Genau so werden ab Kernmodul 7 deine Agenten mit der lokalen KI sprechen.
- Aktiviere in LM Studio den Server (Bereich «Developer» bzw. «Local Server»; Standardport ist üblicherweise 1234).
- Prüfe ihn — PowerShell:
Invoke-RestMethod http://localhost:1234/v1/models
Der Befehl fragt den lokalen Server, welche Modelle verfügbar sind — er geht nicht ins
Internet: localhost ist immer dein eigener Rechner.
Erwartetes Ergebnis: Eine kleine Datenantwort (JSON) mit deinem geladenen Modell. Glückwunsch — deine lokale KI ist jetzt programmierbar.
Vertiefung: Warum «OpenAI-kompatibel»?
Das Anfrageformat von OpenAI hat sich als Quasi-Standard etabliert. Lokale Programme ahmen
es nach, damit tausende bestehende Werkzeuge ohne Anpassung mit deinem lokalen Modell
funktionieren — du tauschst einfach die Adresse gegen localhost. Kompatibles
Format heisst aber nicht Cloud-Verbindung: Die Daten bleiben auf deinem Gerät, wie dich
jeder Blick auf die Adresse überzeugt.
Fehlerbehebung
Invoke-RestMethodmeldet Verbindungsfehler: Läuft der Server? Stimmt der Port (LM Studio zeigt ihn an)? Modell geladen?- Antworten im Chat plötzlich abgeschnitten: Kontextgrösse zu klein gewählt — Verlauf plus Antwort sprengen das Fenster.
- Speicher voll nach Kontext-Erhöhung: Der erwartete Effekt. Kontext kleiner stellen oder kleineres Modell.
Kurz geprüft
3 Fragen zum Festigen — Feedback kommt sofort.
Das kann ich jetzt
- Ich stelle die Kontextgrösse bewusst ein und kenne ihren Speicherpreis.
- Ich schreibe Systemprompts, die Ton, Länge und Ehrlichkeit steuern.
- Meine lokale KI läuft als API-Server auf localhost — die Grundlage für alle Agenten-Module.
Nächster Schritt: «Pflegen, aktualisieren, reparieren» — der Langzeitbetrieb.
Lektion 3: Pflegen, aktualisieren, reparieren
Updates: ja — aber mit System
KI-Software entwickelt sich rasant; Updates bringen Tempo und neue Modellunterstützung. Damit ein Update nie dein funktionierendes Setup zerstört, gilt der Drei-Punkte-Ritus:
- Vorher festhalten, was funktioniert: Modellname, Quantisierung, Kontextgrösse, Systemprompt (deine Notizen aus den letzten Lektionen — genau dafür sind sie da).
- Update einspielen (Programme aktualisieren sich meist selbst oder melden neue Versionen).
- Nachher den Prüfungsbogen fahren: zwei, drei Standardfragen aus Mission 2. Läuft alles? Erst dann weiterexperimentieren.
Wichtig zu wissen: Programm-Updates verändern deine Modelle nicht. Modelle sind Dateien; ein neues LM Studio lädt dieselben Modelle wie das alte. Getrennte Welten — wie Textverarbeitung und Dokumente.
Speicherplatz im Griff
Modelle sammeln sich an. Einmal im Monat lohnt der Kassensturz:
- In der Modellliste (My Models) siehst du alle Downloads samt Grösse. Was du seit Wochen nicht genutzt hast: löschen — du kannst jedes Modell jederzeit erneut laden.
- Windows-Gesamtsicht: Einstellungen → System → Speicher.
- Regel aus der ersten Praxislektion: mindestens 10 GB frei halten, sonst leidet auch Windows selbst.
Die Werkzeug-Landschaft: bleiben oder wechseln?
LM Studio ist unsere Standardwahl für den Einstieg — nicht die einzige gute. Die Landschaft im Charakterprofil (Einordnung: Stand Kurserstellung 07/2026; Details und Prüfdaten folgen im Technologiekatalog):
| Werkzeug | Charakter | Wechseln, wenn … |
|---|---|---|
| LM Studio | grafisch, alles eingebaut, anfängerfreundlich | — (unser Standard) |
| Ollama | schlank, Terminal + API im Zentrum | du viel automatisierst und die Kommandozeile magst |
| Jan | grafisch, quelloffen | dir Quelloffenheit der Oberfläche wichtig ist |
| GPT4All | grafisch, einfach, mit lokaler Dokumentensuche | du primär Dokumente durchsuchen willst |
| Open WebUI | Weboberfläche für (auch entfernte) Modelle, mehrbenutzerfähig | du einen Heimserver betreibst (Kernmodul 10 / Labor 8) |
| AnythingLLM | RAG-Spezialist mit Arbeitsbereichen | Kernmodul 5 — dort setzen wir ihn ein |
Beruhigend: Die Modelle (GGUF-Dateien) verstehen alle diese Programme. Ein Wechsel kostet dich Einarbeitung, nicht deine Downloads.
Fehlerbehebungs-Fahrplan
Der Diagnoseweg für 90 % aller Probleme — immer von billig nach teuer:
- Modell entladen und neu laden (löst Speicherfragmente).
- Programm neu starten, dann Rechner neu starten.
- Speicher prüfen: Task-Manager — ist RAM voll? Kleineres Modell/kleinerer Kontext.
- Ein Update verfügbar? Bekannte Fehler sind oft schon behoben.
- Fehlermeldung dokumentieren (Screenshot + genauer Wortlaut) und gezielt suchen — wie das professionell geht, zeigt Kernmodul 10.
- Neuinstallation nach dem Rücksetzweg — die Modelle bleiben erhalten, wenn du nur das Programm entfernst.
Kurz geprüft
3 Fragen zum Festigen — Feedback kommt sofort.
Das kann ich jetzt
- Ich aktualisiere mit dem Drei-Punkte-Ritus: dokumentieren, updaten, nachtesten.
- Ich halte den Modellbestand aufgeräumt und weiss, dass Downloads wiederholbar sind.
- Ich kenne die Werkzeug-Landschaft und den sechsstufigen Fehlerbehebungs-Fahrplan.
Nächster Schritt: Kernmodul 5 — deine eigenen Dokumente kommen ins Spiel (und mit Mission 4 wird es sofort praktisch).