Modul 8: Generative KI und große Sprachmodelle
Chat-Assistenten schreiben Texte, fassen Dokumente zusammen und programmieren. In diesem Modul schauen Sie unter die Haube: Tokens, Embeddings, das Vorhersagen des nächsten Wortes, Temperatur und die Trainingsphasen. Danach lernen Sie die drei Wege, ein Sprachmodell für das eigene Unternehmen nutzbar zu machen – Prompting, RAG und Fine-Tuning – sowie KI-Agenten. Zum Schluss geht es um Risiken, Bewertung, Kosten und eine sichere Einführung im Betrieb.
Einleitung und häufige Fragen jedes Kapitels sind frei lesbar. Den vollständigen Inhalt mit Übungen und Quiz schalten Sie einmalig für 29 € frei.
FreischaltenA · Grundlagen
- Lektion 1: Was ist generative KI?Generative KI erzeugt neue Inhalte. Sprachmodelle sind Transformer, die auf riesigen Textmengen vortrainiert wurden und per Prompt gesteuert werden.
- Lektion 2: Tokens und KontextfensterSprachmodelle rechnen in Tokens. Das Kontextfenster begrenzt Eingabe plus Ausgabe. Kosten und Grenzen werden in Tokens gemessen.
- Lektion 3: EmbeddingsEmbeddings übersetzen Bedeutung in Vektoren. Nähe im Vektorraum = ähnliche Bedeutung, gemessen mit Kosinus-Ähnlichkeit.
- Lektion 4: Nächstes Wort und TemperaturEin LLM wählt Token für Token aus einer Wahrscheinlichkeitsverteilung. Die Temperatur macht diese Verteilung spitzer (sachlich) oder flacher (kreativ).
- Lektion 5: Wie ein LLM trainiert wirdVortraining (nächstes Token, selbstüberwacht) → Instruction Tuning (überwacht) → Feedback (RLHF). Wissen hat einen Stichtag.
- Lektion 6: Stärken und GrenzenSprachmodelle sind stark im Formulieren und Strukturieren, schwach bei verlässlichen Fakten. Wichtige Aussagen immer prüfen.
B · Nutzen
- Lektion 7: Prompt-GrundlagenRolle, Kontext, Aufgabe, Format, Grenzen – und wenn möglich ein Beispiel. Je klarer die Anweisung, desto besser das Ergebnis.
- Lektion 8: Fortgeschrittenes PromptingBeispiele zeigen (Few-Shot), schrittweise denken lassen, Ausgabeformat festlegen, Daten klar abgrenzen, große Aufgaben zerlegen.
- Lektion 9: RAGRAG = nachschlagen (Embedding-Suche in der Vektordatenbank) + antworten (LLM mit den Fundstellen). Aktuell, belegbar, ohne Training.
- Lektion 10: Fine-Tuning und der VergleichPrompting zuerst. Wechselndes Wissen per RAG. Fester Stil per Fine-Tuning (meist LoRA). Live-Daten über Werkzeuge.
- Lektion 11: KI-AgentenAgent = Sprachmodell + Werkzeuge + mehrere Schritte. Minimale Rechte und menschliche Freigabe vor folgenreichen Aktionen.
C · Betrieb
- Lektion 12: Risiken und GegenmaßnahmenHauptrisiken: Halluzination, Prompt Injection, Datenschutz, Urheberrecht, Bias, Deepfakes. Gegenmittel: Quellen, Prüfung, minimale Rechte, Freigaben, klare Richtlinien.
- Lektion 13: Generative KI bewertenGenerative Systeme mit festem Testsatz, Kriterien und Stichproben menschlicher Prüfung bewerten; bei RAG Suche und Antwort getrennt messen.
- Lektion 14: Kosten und ModellwahlKosten = Anfragen × Tokens × Preis. Kleinstes geeignetes Modell wählen. Betriebsform nach Datenschutz, Kosten und Know-how entscheiden.
- Lektion 15: Einführung im UnternehmenEinführung: Anwendungsfälle → Richtlinie → Werkzeug → Schulung → Pilot → Ausweitung, mit Betriebsrat und Überwachung.
Abschluss
- ÜbungenTragen Sie Ihre Antworten in die Felder ein. Freitext bewertet die KI wie ein IHK-Prüfer. Öffnen Sie die Musterlösung erst danach.
- Abschlussquiz20 Fragen, jeweils eine richtige Antwort. Ab 14 richtigen Antworten sind Sie gut vorbereitet.
- ZusammenfassungTokens Wortstücke; Deutsch ≈ 1,5 je Wort; Kontextfenster = Ein- + Ausgabe. Embeddings Bedeutung als Vektor; Kosinus-Ähnlichkeit. Generierung Token für Token; Temperatur, Top-p. Training Vortraining → Instruction Tuning → RLHF. Prompting Rolle, Kontext, Aufgabe, Format, Grenzen, Beispiele. RAG nachschlagen + antworten, mit Quellen. Fine-Tuning Stil und Format; LoRA. Agenten Werkzeuge, minimale Rech