Next Level KI-Training: Wie man lernt, eine KI gezielt scheitern zu lassen

icon
password
LinkedIn-Post erstellen
LinkedIn Post
type
Post
status
Published
date
Jul 19, 2026
slug
wie-man-lernt-eine-ki-gezielt
summary
Studierende erfinden Aufgaben, die selbst starke Modelle zum Scheitern bringen – und lernen dabei mehr über ihr Fach als durch reine Berechnung.
tags
Kompetenzen
Führung
category
human-ai
Seiten-URL
https://ai.growhuman.io/article/wie-man-lernt-eine-ki-gezielt
Bild-URL
Persistente Bild-URL
🖼️ Bilder erstellen
Source-URL
created_at
LinkedIn Post 1
Bild-Prompt
AI summary
Bild-Idee
notion image
Die wirksamste Übung für KI-Kompetenz verbindet drei Elemente: den Aufbau von tieferem Fachwissen, geübte Urteilsfähigkeit und ein realistisches Bild davon, wo ein Modell an seine Grenzen kommt.
Eine Prüfung an der Fudan-Universität in Shanghai hat genau das zur Aufgabe gemacht: Studierende mussten Aufgaben entwerfen, an denen KI-Modelle scheitern, und diese Aufgaben selbst lösen können.
Das Format eignet sich auch für Teams und Führungskräfte, die diese drei Fähigkeiten im Alltag trainieren wollen.

Eine Prüfung, die die Fragen umdreht

An der Fudan-Universität in Shanghai hat Professor Xiao Yanghua die Abschlussprüfung seines Kurses „Data Mining Technology" in diesem Sommer anders aufgebaut als gewohnt. 51 Studierende mussten keine Aufgaben lösen, sie mussten Aufgaben erfinden.
Jede und jeder entwarf zehn Rechenaufgaben aus dem Kursstoff, von Entscheidungsbäumen bis Bayes-Klassifikation. Jede Aufgabe musste eine eindeutige Lösung haben, und die Studierenden mussten sie selbst vollständig und korrekt durchrechnen können.
Anschließend wurden dieselben Aufgaben drei KI-Modellen unterschiedlicher Stärke vorgelegt: DeepSeek, MiniMax und Claude.
Wer ein schwächeres Modell täuschte, bekam wenig Bonus. Wer das stärkste Modell, Claude, ins Straucheln brachte, erhielt die meisten Punkte.
Am Ende hatten 50 von 51 Studierenden mindestens ein Modell bei mindestens einer Aufgabe zum Scheitern gebracht. Nur vier schafften es, ein Modell über die gesamte Aufgabenmenge hinweg auf null Punkte zu bringen.
Wer eine Aufgabe formulieren konnte, die drei unterschiedlich trainierte Modelle gleichzeitig aus der Bahn warf, hatte etwas geschafft, das über Prüfungsroutine hinausging.

Warum das Scheitern der KI die Studierenden weiterbringt

Xiao Yanghua begründet den Umbau seiner Prüfung mit einer einfachen Beobachtung: Klassische Rechenaufgaben sind genau die Aufgaben, in denen KI-Modelle stark sind. Studierende darin gegen ein Modell antreten zu lassen, das schneller und fehlerfreier rechnet, misst wenig über die eigentliche Kompetenz. Interessant wird eine Prüfung erst, wenn sie danach fragt, wo ein Modell an seine Grenzen kommt und ob jemand diese Grenze erkennen kann.
„Herkömmliche Bewertungsmethoden sind im Zeitalter der KI nicht mehr effektiv“
Um eine Aufgabe zu entwerfen, die ein KI-Modell scheitern lässt, reicht es nicht, den Stoff zu kennen. Man muss verstehen, wie das Modell typischerweise vorgeht, welche Muster es aus Trainingsdaten übernimmt und wo es diese Muster unreflektiert anwendet.
Die leistungsstärksten Studierenden nutzten dafür diese Strategien:
  • Manche bauten lange Rechenketten mit vielen Zwischenschritten.
  • Andere überluden Aufgaben mit Datenmengen bis an die Kontextgrenze der Modelle.
  • Wieder andere konstruierten Multiple-Choice-Fragen, bei denen die einzig korrekte Antwort lautete, dass die Aufgabe selbst unzureichend spezifiziert war und nutzten die fehlende Metakognitionsfähigkeit der Modelle aus.
  • Eine Studentin aus den Kommunikationswissenschaften fand ihre wirksamste Aufgabe, indem sie ein Modell gezielt auf eine von zwei relevanten Variablen lenkte und die zweite unauffällig wegließ.
Diese Suche nach Schwachstellen verlangt ein tieferes Verständnis des Fachs als das Nachrechnen eines Lehrbuchbeispiels. Wer nur Zahlen in einer bekannten Aufgabe austauschte, traf keine Schwachstelle; solche Aufgaben hatte das Modell in Trainingsdaten längst gesehen.
Bewährt hat sich dagegen, den Stoff so weit zu durchdringen, dass die eigenen blinden Flecken des Modells sichtbar werden.
Genau darin liegt der Lerneffekt: Wer eine KI überzeugend scheitern lässt, hat nebenbei etwas Verlässliches über die eigenen Fachkenntnisse und über die Funktionsweise des Modells gelernt, nicht nur über die Antwort auf eine einzelne Frage.

Wenn Teams selbst prüfen, wo eine KI scheitert

Dieses Grundmuster lässt sich von der Universität in den Arbeitsalltag übertragen. Statt Mitarbeitende oder Teams zu bitten, eine Aufgabe mit KI-Unterstützung zu lösen, bekommen sie eine andere Aufgabe. Sie sollen eine Fragestellung aus ihrem Fachgebiet formulieren, die ein gängiges KI-Modell nachweislich falsch beantwortet, die sie selbst aber korrekt lösen können.
Das verschiebt das Training von reiner Anwendung hin zu Urteilsfähigkeit. Es zeigt, wer wirklich verstanden hat, wo die Grenzen eines Modells liegen, und schützt vor der Annahme, dass ein KI-Modell jede fachliche Einschätzung zuverlässig übernehmen kann.
Für Teams, die diese Fähigkeit gezielt aufbauen wollen, eignen sich Aufgabenformate wie:
  • Eine Kollegin aus dem Vertrieb entwirft eine Preiskalkulation mit einer bewusst unklaren Rahmenbedingung, bei der die einzig richtige Antwort lautet, dass eine Rückfrage nötig ist, und prüft, ob ein KI-Modell diese Lücke erkennt oder einfach eine Zahl liefert.
  • Ein Team im Kundenservice formuliert einen Beschwerdefall mit einer branchenspezifischen Ausnahme, die nicht in Standardregeln steht, und beobachtet, ob das Modell die Ausnahme berücksichtigt oder ein Standardmuster anwendet.
  • Eine Fachkraft aus dem Controlling baut ein Rechenmodell mit vielen Zwischenschritten und prüft, ab welcher Komplexität ein KI-Modell Zwischenwerte verwechselt oder Rundungsfehler weiterträgt.
  • Eine Projektleitung entwirft ein vertraglich mehrdeutiges Szenario und lässt ein Modell eine Einschätzung abgeben, um zu sehen, ob es die Mehrdeutigkeit benennt oder überspielt.
Entscheidend für die Wirkung ist dieselbe Regel wie in Xiaos Kurs: Die Aufgabe zählt nur, wenn die Person, die sie gestellt hat, die richtige Antwort selbst kennt. Sonst entsteht Rätselraten statt Kompetenzaufbau.
Wird diese Regel eingehalten, verbindet die Übung drei Fähigkeiten, die sonst getrennt trainiert werden: den Aufbau von vertieftem Fachwissen, geübte Urteilsfähigkeit und ein realistisches Bild davon, wo ein KI-Modell zuverlässig ist und wo nicht.

Quellen

Loading...