Erst verstehen. Dann entscheiden.

Menschen entscheiden gern schnell, besonders dann, wenn sie die Lage noch nicht vollständig verstanden haben.

Das spart Zeit – zumindest bis die Folgen der Entscheidung eintreffen.

Ich nehme mich davon nicht aus. Auch ich kenne den Wunsch, eine offene Frage endlich abzuschließen, eine Richtung festzulegen und weiterzumachen. Irgendwann muss schließlich entschieden werden. Vollständige Gewissheit gibt es ohnehin nicht. Zwischen notwendiger Entschlossenheit und einem voreiligen Abschluss liegt trotzdem ein Unterschied.

Mich treiben dabei zwei Dinge an: die Freude an Erkenntnis und das Leiden an einer sehr menschlichen Inkonsequenz.

Wir sind fähig, genau zu beobachten, Zusammenhänge zu erkennen und unsere Annahmen zu prüfen. Trotzdem entscheiden wir häufig, bevor wir diese Fähigkeiten ausreichend genutzt haben. Wir suchen nach Klarheit – und geben uns dann erstaunlich schnell mit einem überzeugend klingenden Ergebnis zufrieden.

Die Quellenlage ist dünn, aber der Satz sitzt. Also weiter.

Die Freude an Erkenntnis

Erkenntnis bedeutet für mich nicht, möglichst viele Informationen zu sammeln. Sie entsteht in dem Moment, in dem einzelne Beobachtungen plötzlich einen Zusammenhang bilden: Aus etwas zunächst Unklarem wird ein Muster, eine Frage ist nicht bloß beantwortet, sondern besser verstanden. Diese Momente machen mir Freude.

Wenig Freude macht mir dagegen die Verwaltung dieses Weges. Ich möchte nicht im Gedächtnis behalten müssen, welche Annahme zu welcher Schlussfolgerung geführt hat, welche Aussage inzwischen korrigiert wurde und ob eine Empfehlung noch auf dem aktuellen Stand beruht.

Dafür ist mir der Kopf zu schade.

Ich möchte ihn frei halten für die Metaebene und für Schöpfung: Zusammenhänge sehen, Bedeutungen erkennen, neue Fragen stellen und aus dem Verstandenen etwas entstehen lassen.

Eine Maschine kann mir diese Arbeit nicht abnehmen. Sie könnte aber helfen, den Weg dorthin nachvollziehbarer zu machen.

Die Maschine antwortet. Der Mensch ist erleichtert.

Sprachmodelle können innerhalb weniger Sekunden umfangreiche Antworten erzeugen. Sie strukturieren Gedanken, vergleichen Möglichkeiten, formulieren Gegenargumente und schlagen nächste Schritte vor. Das ist beeindruckend und nützlich – und es bringt eine neue Versuchung mit sich: Wir können eine plausible Antwort mit einer verstandenen Lage verwechseln.

Je runder ein Text klingt, desto leichter übersehen wir, dass darin Fakten, Annahmen und Deutungen vermischt sein können. Eine Aussage kann sprachlich sicher auftreten und trotzdem schlecht begründet sein. Ein Modell kann eine Empfehlung schlüssig herleiten, obwohl eine tragende Voraussetzung nie geprüft wurde.

Es greift also zu kurz, nur nach falschen Antworten zu suchen. Zugespitzt formuliert:

KI erzeugt keine Entscheidungen. Sie erzeugt sehr überzeugende Gelegenheiten, mit dem Denken aufzuhören.

Das macht ihre Beiträge nicht wertlos. Sprachmodelle können bei der Bearbeitung komplexer Fragen sehr hilfreich sein. Ihre Stärke liegt im Erzeugen, Ordnen, Verbinden und Prüfen von Erkenntnisbeiträgen. Sie sollten deshalb aber noch lange kein Ziel festlegen, die Güte der eigenen Arbeit abschließend bewerten oder für einen Menschen entscheiden. Das eigentliche Problem liegt im Zusammenspiel.

Was Mensch und Maschine jeweils mitbringen

Am Anfang dieses Forschungsprojekts stand deshalb nicht die Frage, was ein bestimmtes Modell leisten kann. Mich interessierte die Interaktion zwischen Mensch und Maschine.

Was geschieht, wenn beide gemeinsam an einer schwierigen Frage arbeiten? Welche Fähigkeiten bringt die Maschine ein, welche fehlen ihr? Was bleibt beim Menschen, und welche Folgen hat diese Verteilung?

Um das sinnvoll beschreiben zu können, musste ich zunächst Fähigkeiten und Nichtfähigkeiten voneinander trennen.

Ein Sprachmodell kann schnell viele Sichtweisen erzeugen. Es kann Begriffe ordnen, Muster erkennen, Einwände formulieren und große Mengen an Text verarbeiten. Es wird nicht müde und ist selten beleidigt, wenn man eine Antwort verwirft.

Verantwortung für die Folgen einer Entscheidung trägt es nicht. Es besitzt kein eigenes Verständnis des menschlichen Ziels und kennt die Bedeutung einer Situation nur durch die Informationen, die ihm zugänglich gemacht werden. Aus eigener Autorität kann es auch nicht bestimmen, wann eine Lage ausreichend verstanden ist.

Der Mensch bringt Ziel, Bedeutung, Erfahrung, Urteil und Verantwortung ein – allerdings auch Ungeduld, Vorannahmen, blinde Flecken und den starken Wunsch, offene Fragen endlich zu schließen.

Die Maschine kann also sehr viel Material erzeugen. Der Mensch kann daraus Bedeutung und Handlung ableiten. Auf dem Weg vom Material zur Entscheidung fehlt jedoch häufig ein klarer Arbeitsprozess. Diese Beobachtung führte mich zum Kernprojekt Discovery.

Ein Chat ist noch kein Erkenntnisprozess

Die Zusammenarbeit mit einem Sprachmodell findet heute meistens in einem Chat statt: Wir stellen eine Frage, das Modell antwortet, wir ergänzen Informationen, korrigieren einzelne Punkte und fragen weiter. Mit der Zeit wächst der Verlauf.

Das kann sehr produktiv sein. Irgendwann wird jedoch die zeitliche Reihenfolge des Gesprächs mit der logischen Ordnung der Erkenntnisse verwechselt.

Ein Chat kennt vor allem oben und unten. Ein Erkenntnisprozess muss mehr unterscheiden können: Was ist gültig oder veraltet, belegt oder angenommen, geklärt oder widersprüchlich?

In längeren Gesprächen verliere zumindest ich leicht den Überblick:

• Welche Frage soll eigentlich entschieden werden, und welches Ziel steht dahinter?
• Was ist belegt, was nur plausibel, und welche Annahmen tragen eine Empfehlung?
• Welche Gegenargumente und Widersprüche sind noch offen?
• Welche Ergebnisse sind durch eine spätere Korrektur ungültig geworden?
• Wird gerade analysiert, bewertet oder schon eine Lösung entworfen? Reicht die Klarheit für eine Entscheidung – und wurde überhaupt etwas entschieden oder nur überzeugend formuliert?

Ein Chat bildet Kommunikation ab. Für schwierige Fragen benötigen wir jedoch auch Prozess, Herkunft, Grenzen und Korrekturpfade.

Die Qualität einer einzelnen Antwort und die Qualität des gesamten Entscheidungsweges sind nicht dasselbe.

Discovery: genug verstehen, um handeln zu können

Für diesen Arbeitsmodus verwende ich den Begriff Discovery. Den Forschungsstrang insgesamt nenne ich EKC — erst verstehen, dann entscheiden.

Damit meine ich weder unbegrenzte Recherche noch die Suche nach einer endgültigen Wahrheit. Discovery beschreibt den Weg von einer offenen, unklaren Frage zu einer ausreichend begründeten Arbeitsentscheidung.

Eine Arbeitsentscheidung darf vorläufig sein. Sie gilt in einem bestimmten Zusammenhang und auf Grundlage des derzeit erreichbaren Wissens; später kann sie überprüft und korrigiert werden. Trotzdem muss sie konkret genug sein, um handlungsfähig zu werden.

Vollständige Gewissheit ist nicht das Ziel. Wer darauf wartet, hat immerhin eine sehr gründliche Methode gefunden, niemals anzufangen. Es geht darum, Unsicherheit methodisch zu reduzieren und den verbleibenden Rest sichtbar zu halten.

Die Frage, an der ich arbeite, ist deshalb:

Wie können Sprachmodelle dabei helfen, eine schwierige Lage zu verstehen, ohne dem Menschen die Kontrolle über den Erkenntnis- und Entscheidungsprozess abzunehmen?

Eine Arbeitshypothese

Meine derzeitige Hypothese lautet:

Wenn komplexe Fragen nicht als fortlaufender Chat, sondern als begrenzter, sichtbarer und korrigierbarer Discovery-Prozess bearbeitet werden, können Sprachmodelle zu belastbareren Arbeitsentscheidungen beitragen, ohne selbst die Entscheidungshoheit zu übernehmen.

In einem solchen Prozess müsste mindestens erkennbar sein:

• Welches Ziel verfolgt wird, welche Frage zur Entscheidung steht und wie belastbar die Erkenntnisse dafür sein müssen.
• Welche Rollen an der Bearbeitung beteiligt sind.
• Welche Aussagen Fakten, Annahmen oder Deutungen sind und worauf tragende Aussagen zurückgehen.
• Wo Widersprüche und Wissenslücken bestehen.
• Welche Ergebnisse durch Korrekturen veraltet sind und erneut geprüft werden müssen.
• Wann der Mensch eingreifen muss und warum eine Entscheidung möglich oder noch nicht möglich ist.

Der Engpass läge dann weniger bei der Leistung der Antwortmaschinen als bei der Art, wie wir mit den bereits vorhandenen zusammenarbeiten.

Der Prototyp: Operational Discovery Workspace

Um diese Hypothese zu prüfen, entwickle ich einen ersten Prototyp: das Operational Discovery Workspace.

„Operational“ heißt: Die Untersuchung soll nicht in einer endlosen Sammlung von Informationen versanden, sondern zu einer begründeten, arbeitsfähigen Entscheidung führen.

Der geplante Ablauf ist bewusst begrenzt:

1. Der Mensch beschreibt die offene Frage, das Ziel und den benötigten Erkenntnisgrad.
2. Daraus entsteht ein überschaubarer Arbeitsplan.
3. Klar abgegrenzte Rollen bearbeiten unterschiedliche Teile der Frage.
4. Ergebnisse werden geprüft, kritisiert und zueinander in Beziehung gesetzt.
5. Annahmen, Widersprüche und fehlende Belege bleiben sichtbar.
6. Ein regelbasierter Ablauf prüft, ob die Mindestbedingungen für eine Entscheidung erfüllt sind.
7. Der Mensch erhält eine kompakte Entscheidungskarte.
8. Nur der Mensch kann die vorgeschlagene Arbeitsentscheidung annehmen oder ablehnen.

Die Rollen sind dabei keine künstlichen Persönlichkeiten. Unter einer Rolle verstehe ich einen klaren Arbeitsauftrag mit definierten Grenzen und einem erwarteten Ergebnis.

Auch die Steuerung des Prozesses soll nicht bei einem Sprachmodell liegen. Modelle dürfen analysieren, ordnen, kritisieren und Vorschläge machen. Ob ihre Arbeit gut genug ist oder eine Entscheidung getroffen wurde, dürfen sie nicht selbst bestimmen.

Mehr Agenten sind schließlich nur dann automatisch besser, wenn das ursprüngliche Problem ein Mangel an digitalen Gesprächsteilnehmern war.

Ihr Wert bemisst sich für mich an der Qualität und Nachvollziehbarkeit des gemeinsamen Arbeitsprozesses, nicht an der Anzahl der beteiligten Agenten.

Eine Korrektur muss Folgen haben

Ein wichtiger Teil des Projekts ist der Umgang mit Korrekturen. Wird eine Aussage in einem gewöhnlichen Chat berichtigt, steht die neue Fassung einfach weiter unten im Verlauf. Die alte Aussage kann zu diesem Zeitpunkt längst in spätere Analysen und Empfehlungen eingeflossen sein.

Eine Korrektur muss deshalb mehr bewirken, als einen neuen Satz zu erzeugen.

Im geplanten Workspace bleiben frühere Ergebnisse erhalten. Aus einer Korrektur entsteht eine neue Fassung; davon abhängige Ergebnisse werden als möglicherweise veraltet markiert und müssen erneut geprüft werden.

So soll nachvollziehbar werden, wie sich eine veränderte Erkenntnis durch den weiteren Arbeitsprozess bewegt. Ein System, das neue Antworten erzeugen kann, aber mit verändertem Wissen nicht sauber umgeht, hilft schließlich nur in ruhigen Lagen. Und ruhige Lagen sind selten diejenigen, für die wir besondere Werkzeuge benötigen.

Was ich nicht bauen will

Das Operational Discovery Workspace soll kein autonomer Entscheider sein.

Ich will damit weder eine frei wachsende Organisation künstlicher Agenten simulieren noch eine unbegrenzte Forschungsmaschine bauen oder einen Beweis endgültiger Wahrheit versprechen. Auch menschliches Denken soll nicht an eine Maschine ausgelagert werden.

Der Prozess soll Menschen dort entlasten, wo Verwaltung, Wiederholung und Nachverfolgung den Kopf besetzen. Dadurch entsteht hoffentlich mehr Raum für Urteil, Überblick und Schöpfung.

Die Grenze bleibt klar:

Die Maschine darf Erkenntnisbeiträge liefern. Der Prozess soll ihre Herkunft und ihre Folgen sichtbar halten. Der Mensch entscheidet.

Wie die Hypothese scheitern kann

Der erste Prototyp wird bewusst klein sein. Viele Modelle und ein möglichst beeindruckendes System sind zunächst nebensächlich. Ich will den grundlegenden Ablauf prüfbar machen.

Dabei interessieren mich unter anderem folgende Fragen:

• Wird der aktuelle Erkenntnisstand tatsächlich klarer, und lassen sich tragende Aussagen zu ihrer Herkunft zurückverfolgen?
• Bleiben Fakten, Annahmen und Deutungen unterscheidbar?
• Werden die Folgen einer Korrektur zuverlässig sichtbar?
• Helfen getrennte Rollen dabei, vorschnelle Lösungen zu vermeiden und Widersprüche offenzulegen, statt sie nur schöner zu formulieren?
• Ist erkennbar, warum eine Entscheidung möglich oder noch nicht verantwortbar ist? Entsteht am Ende eine brauchbare Arbeitsentscheidung statt lediglich mehr Text?

Die Hypothese wäre geschwächt, wenn die zusätzliche Struktur hauptsächlich Verwaltungsarbeit erzeugt. Das gilt ebenso, wenn Nutzer trotz des Arbeitsraums wieder lange Verläufe durchsuchen müssen oder der Prozess zwar ordentlich aussieht, aber keine besseren Entscheidungen vorbereitet.

Selbst ein negatives Ergebnis hätte einen Wert: Es würde zumindest zeigen, welche Art von Ordnung menschliches Denken unterstützt – und welche es nur beschäftigt hält.

Warum ich jetzt darüber schreibe

Für ein wissenschaftliches Papier im klassischen Sinn ist es zu früh. Es gibt noch keine belastbaren Ergebnisse und keinen Grund, eine fertige Lösung zu behaupten. Ich kann das Problem trotzdem schon beschreiben, meine Beobachtungen offenlegen und eine prüfbare Hypothese formulieren. Diese Veröffentlichung verstehe ich deshalb als Werkstattbericht und Einladung.

Mich interessieren insbesondere Situationen, in denen Menschen bereits heute mit Sprachmodellen an schwierigen Fragen arbeiten:

• Wo entsteht dabei echte Klarheit?
• Wann wird der Chat selbst zum Hindernis?
• Welche Erkenntnisse müssen später noch nachvollziehbar sein?
• Welche Aufgaben sollten Maschinen übernehmen?
• Welche Verantwortung muss beim Menschen bleiben?
• Wie viel Ordnung hilft – und ab wann wird sie zur Last?

Mit dem Operational Discovery Workspace will ich diese Fragen praktisch untersuchen. Ich möchte beobachten, bauen, prüfen und korrigieren.

Nicht um das Denken abzugeben, sondern um den Kopf dafür freizuhalten.