Modul 10: Recht, Ethik und Datenschutz

Eine KI darf nicht alles, was sie kann. In diesem Modul lernen Sie die Regeln des EU AI Act mit seinen Risikoklassen und Pflichten, die Datenschutz-Grundverordnung aus Sicht eines KI-Projekts, wie Diskriminierung durch Algorithmen entsteht und gemessen wird und wie man Entscheidungen von Modellen erklärt. Zum Schluss setzen Sie alles in einer Fallstudie zur Bewerbervorauswahl zusammen.

Einleitung und häufige Fragen jedes Kapitels sind frei lesbar. Den vollständigen Inhalt mit Übungen und Quiz schalten Sie einmalig für 29 € frei.

Freischalten
  1. EinführungKI verantwortungsvoll einsetzen: EU AI Act, Datenschutz, Fairness und Erklärbarkeit Eine KI darf nicht alles, was sie kann. In diesem Modul lernen Sie die Regeln des EU AI Act mit seinen Risikoklassen und Pflichten, die Datenschutz-Grundverordnung aus Sicht eines KI-Projekts, wie Diskriminierung durch Algorithmen entsteht und gemessen wird und wie man Entscheidungen von Modellen erklärt. Zum Schlu

A · AI Act

  1. Lektion 1: AI Act im ÜberblickAI Act: risikobasiert, gilt unmittelbar, gestaffelt ab 2025 bis 2027. Anbieter entwickelt und bringt in Verkehr, Betreiber setzt beruflich ein.
  2. Lektion 2: RisikoklassenVerboten – hoch – begrenzt – minimal. Entscheidend ist der Einsatzzweck, nicht die Technik. Personalauswahl und Kreditwürdigkeit sind typische Hochrisiko-Fälle.
  3. Lektion 3: Verbotene PraktikenVerboten: Manipulation, Ausnutzen von Schwächen, Social Scoring, Emotionserkennung am Arbeitsplatz und in der Schule, ungezielte Gesichtsdatenbanken und weitere Eingriffe in Grundrechte. Seit 2. Februar 2025.
  4. Lektion 4: Pflichten bei HochrisikoHochrisiko: Anbieter weisen Qualität, Daten, Dokumentation, Aufsicht und Konformität nach. Betreiber nutzen bestimmungsgemäß, beaufsichtigen, informieren und protokollieren.
  5. Lektion 5: Transparenz, GPAI, SanktionenChatbots und Deepfakes kennzeichnen. KI-Kompetenz ist Pflicht für alle. Bußgelder bis 35 Mio. € oder 7 % – für KMU der niedrigere Wert.

B · Datenschutz

  1. Lektion 6: DSGVO-GrundlagenPersonenbezug? → Rechtsgrundlage nach Art. 6 → Zweck, Minimierung, Speicherdauer → besondere Kategorien beachten → alles dokumentieren.
  2. Lektion 7: Betroffenenrechte und Art. 22Bei erheblichen Entscheidungen: echte menschliche Prüfung, Recht auf Eingreifen und Erklärung der Logik. Betroffenenrechte gelten auch für Trainingsdaten.
  3. Lektion 8: DSFA und SchutztechnikenHohes Risiko → DSFA. Pseudonymisiert bleibt personenbezogen, anonymisiert nicht. Privacy by Design (Art. 25): Datenschutz von Anfang an einbauen.
  4. Lektion 9: Sicherheit, Dienstleister, BeschäftigteDienstleister brauchen einen AVV, Drittländer eine Grundlage, Pannen eine Meldung binnen 72 Stunden. KI am Arbeitsplatz: Beschäftigtendatenschutz und Betriebsrat.

C · Fairness

  1. Lektion 10: Algorithmischer BiasBias entsteht aus historischen, unvollständigen oder falsch gemessenen Daten, aus Proxys und Rückkopplung. Merkmal löschen genügt nicht – messen!
  2. Lektion 11: Fairness messenFairness getrennt nach Gruppen messen: Auswahlquote (4/5-Regel), Richtig-Positiv-Rate, Fehlalarme. Welche Kennzahl gilt, wird bewusst entschieden und dokumentiert.
  3. Lektion 12: Erklärbare KIGlobal: Was zählt insgesamt? Lokal: Warum dieser Fall? SHAP verteilt die Vorhersage auf die Merkmale, kontrafaktische Erklärungen zeigen den Weg zu einem anderen Ergebnis.
  4. Lektion 13: Ethik und menschliche AufsichtVertrauenswürdige KI: menschliche Aufsicht, Robustheit, Datenschutz, Transparenz, Fairness, Gemeinwohl, Rechenschaft. Achtung vor Automation Bias.

D · Praxis

  1. Lektion 14: Fallstudie BewerbervorauswahlBei KI über Menschen greifen mehrere Regelwerke zugleich: AI Act, DSGVO, AGG, BetrVG. Eine gute Antwort prüft sie der Reihe nach.
  2. Lektion 15: Prüfschema für KI-VorhabenZwölf Fragen vor jedem KI-Einsatz: Verbot, Risikoklasse, Transparenz, Datenschutz, Art. 22, DSFA, Dienstleister, Fairness, Mitbestimmung, Aufsicht, Urheberrecht, Schulung.

Abschluss

  1. ÜbungenTragen Sie Ihre Antworten in die Felder ein. Freitext bewertet die KI wie ein IHK-Prüfer. Öffnen Sie die Musterlösung erst danach.
  2. Abschlussquiz20 Fragen, jeweils eine richtige Antwort. Ab 14 richtigen Antworten sind Sie gut vorbereitet.
  3. ZusammenfassungAI Act VO (EU) 2024/1689; risikobasiert; 2025–2027 gestaffelt. Klassen verboten – hoch – begrenzt – minimal. Rollen Anbieter entwickelt, Betreiber nutzt beruflich. Pflichten Risiko, Daten, Doku, Logs, Aufsicht, Robustheit, Konformität. DSGVO Grundsätze, Art. 6, Art. 9, Art. 22, DSFA, AVV. Anonym/pseudonym Nur echte Anonymisierung beendet den Personenbezug. Bias historisch, Stichprobe, Proxys, Rück