Bisher lief die Arbeit mit KI meist so ab: Man formuliert einen Prompt, prüft das Ergebnis und gibt die nächste Anweisung. Beim sogenannten Loop Engineering erhält der KI-Agent stattdessen ein Ziel, Kriterien zur Überprüfung seiner Ergebnisse und eine Bedingung, unter der er aufhören soll. Innerhalb dieses Rahmens handelt er wiederholt, bewertet das Ergebnis und richtet die nächsten Schritte danach aus.
Wo Loops sinnvoll sind
Typische Einsatzfelder sind Code, Datenprüfungen, regelmäßige Berichte oder ereignisgesteuerte Abläufe. Der Prompt verschwindet dabei nicht, sondern wird Baustein eines größeren Systems aus Anweisungen, Prüfschritten und Speichermechanismen.
Ein Selbstläufer sind Loops trotzdem nicht. Lange Durchläufe können vom Ziel abweichen und kosten zusätzlich Geld. Am besten eignen sich Aufgaben, deren Ergebnisse sich objektiv messen lassen. Fehlen klare Prüfkriterien oder bringt ein weiterer Durchlauf nichts Neues, ist ein einzelner guter Prompt meist die bessere Wahl.
Menschliche Aufsicht nach dem AI Act
Je selbstständiger Agenten arbeiten, desto wichtiger wird die Frage, wer im Blick behält, was in der Schleife passiert. Für Hochrisiko-KI-Systeme verlangt Art. 14 AI Act eine wirksame menschliche Aufsicht („Human Oversight“). Die zuständigen Personen müssen Fähigkeiten und Grenzen des Systems verstehen, Ergebnisse richtig einordnen und Auffälligkeiten erkennen. Vor allem müssen sie ein Ergebnis verwerfen, eingreifen oder das System anhalten können. Für Loops heißt das: Menschliche Kontrollpunkte gehören bewusst in den Ablauf.
Automatisierte Entscheidungen nach Art. 22 DSGVO
Datenschutzrechtlich wird es heikel, sobald ein Loop Entscheidungen über Menschen vorbereitet, etwa bei der Bewerbervorauswahl oder der Bewertung von Kreditwürdigkeit. Art. 22 DSGVO schützt Betroffene vor ausschließlich automatisierten Entscheidungen mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung.
Dass irgendwo ein Mensch beteiligt ist, genügt nicht. Bestätigt ein Mitarbeiter das Ergebnis nur routinemäßig, bleibt es eine automatisierte Entscheidung. Nach dem SCHUFA-Urteil des EuGH (C-634/21) kommt es auf die tatsächliche Steuerungswirkung des automatisierten Ergebnisses an, nicht darauf, wer formal entscheidet. Eine echte Prüfung setzt Zugang zu den relevanten Informationen, Fachkompetenz, die Befugnis zur Abweichung, ausreichend Zeit und eine Dokumentation voraus.
Was heißt das konkret?
Vor dem Einsatz sollte feststehen, welches Ziel der Agent verfolgt, woran er seine Ergebnisse misst, wann er aufhört und wo ein Mensch mit echter Entscheidungsbefugnis eingreift. Das gilt vor allem, wenn personenbezogene Daten verarbeitet werden oder das Ergebnis Auswirkungen auf einzelne Personen hat. Eine KI-Richtlinie legt zudem fest, welche Systeme wofür genutzt werden dürfen und wer Loops freigibt und kontrolliert. Erst klare Verantwortlichkeiten machen aus menschlicher Aufsicht eine echte Kontrolle. Als Anwälte für IT und Datenschutz erarbeiten wir mit Ihnen eine KI-Richtlinie, die zu Ihrem Unternehmen passt.