Ich baue INNENSCHAU nicht mit dem Ziel, irgendwann für jede Situation noch eine digitale Funktion zu finden. Gerade bei einem System, das sich mit sehr persönlichen Themen beschäftigt, gehört für mich auch dazu, dass es Stellen gibt, an denen es nicht einfach weiteranalysiert. Manchmal ist die sinnvollste Reaktion des Systems nicht die nächste Auswertung, sondern der Hinweis, dass ab hier ein echter Mensch dazukommen sollte.
Bei akuten Krisen ist diese Grenze für mich ziemlich eindeutig. Wenn Suizidalität, unmittelbare Selbst- oder Fremdgefährdung oder eine andere Situation im Raum steht, bei der konkrete Sicherheit betroffen ist, möchte ich kein System, das versucht, sich besonders intelligent durch das Problem zu coachen. Dort braucht es reale Hilfe und Menschen beziehungsweise Strukturen, die tatsächlich Verantwortung übernehmen und im Zweifel handeln können. INNENSCHAU kann dabei unterstützen, den nächsten Schritt überhaupt möglich zu machen. Es kann dabei helfen, einen Ansprechpartner zu finden, Kontaktdaten bereitzustellen, eine Situation für ein erstes Gespräch zu strukturieren oder gemeinsam vorzubereiten, was man beim Anruf sagen möchte. Es darf aber nicht so tun, als wäre diese Vorbereitung schon die eigentliche Hilfe.
Die Grenze beginnt für mich allerdings nicht erst dort, wo eine Situation akut gefährlich wird. Manchmal kommt ein Mensch bei einem Thema einfach nicht weiter. Er hat etwas wiederholt untersucht, Strategien ausprobiert und vielleicht schon verstanden, wo das Problem liegt, schafft den nächsten Schritt aber trotzdem nicht allein. Genau an dieser Stelle sollte ein digitales System nicht automatisch noch zehn weitere Selbsthilfeübungen erzeugen. Vielleicht ist dann gerade die Information relevant, dass das Problem nicht an fehlendem Wissen liegt, sondern daran, dass für die Umsetzung ein anderer Mensch gebraucht wird.
Das ist für mich der Kern des Human Companion Layer. INNENSCHAU soll nicht versuchen, jede menschliche Begleitung zu digitalisieren. Es soll erkennen beziehungsweise sichtbar machen können, wann reale Zusammenarbeit sinnvoll wird, und die Brücke dorthin möglichst gut vorbereiten. Wenn jemand beispielsweise eine therapeutische, medizinische oder andere fachliche Frage hat, könnte die Anwendung helfen, relevante Beobachtungen zu sammeln und so aufzubereiten, dass nicht im ersten Termin wieder die Hälfte aus dem Gedächtnis rekonstruiert werden muss.
Wie genau diese Übergabe am Ende aussehen soll, ist für mich noch nicht vollständig entschieden. Das möchte ich auch nicht so tun, als wäre es bereits geklärt. Ich spreche darüber gerade bewusst mit Menschen, die später auf der anderen Seite dieser Brücke stehen könnten. Heute Abend habe ich beispielsweise ein Gespräch mit einem Coach, bei dem genau solche Fragen eine Rolle spielen sollen. Mich interessiert dabei nicht nur, was wir technisch bauen können, sondern was für eine reale Fachperson überhaupt hilfreich ist und was eher stören würde.
Ein Grundsatz ist für mich aber schon klar: Die Fachperson braucht nicht automatisch das komplette Innenleben eines Nutzers. Wenn jemand wegen einer konkreten Fragestellung Unterstützung sucht, sollten die dafür relevanten Informationen geteilt werden können. Nicht mehr. Vielleicht sind das bestimmte Beobachtungen aus den letzten Wochen, ein strukturierter Verlauf, bisher ausprobierte Strategien und die Fragen, die noch offen sind. Daraus muss keine vollständige Freigabe des gesamten persönlichen Modells werden.
Das ist auch eine Frage von Macht. Nur weil INNENSCHAU viele Informationen hat, sollte daraus nicht folgen, dass eine Therapeutin, ein Arzt oder ein Coach automatisch auf alles zugreifen kann. Der Nutzer sollte kontrollieren, was für welchen Zweck geteilt wird. Und eine Fachperson sollte durch diese Freigabe nicht plötzlich Schreibrechte über das gesamte persönliche Modell bekommen. Sie bringt ihre Perspektive ein, aber sie übernimmt nicht die Deutungshoheit über das System.
Umgekehrt möchte ich genauso wenig, dass INNENSCHAU zu einem digitalen Klon der Fachperson wird. Wenn wir später mit Coaches, Therapeutinnen oder anderen Experten arbeiten, besteht der Wert für mich nicht darin, ihre Methode möglichst vollständig zu extrahieren und danach ohne sie anzubieten. Dann hätten wir zwar eine sehr skalierbare Software, aber genau die menschliche Beziehung entfernt, für die diese Personen überhaupt relevant sind.
Ein Coach kann im Gespräch nachfragen und merken, dass eine Information anders gemeint war. Eine Therapeutin kann Beziehung und Verlauf über längere Zeit erleben. Ein Arzt übernimmt fachliche Verantwortung für medizinische Entscheidungen. Ein digitales System kann solche Arbeit vorbereiten und zwischen Terminen unterstützen, aber es sollte nicht so tun, als seien diese Rollen nur ineffiziente Versionen einer KI.
Dasselbe gilt für Diagnostik. INNENSCHAU darf Beobachtungen sortieren, Screenings unterstützen und Hinweise darauf geben, dass eine qualifizierte Abklärung sinnvoll sein könnte. Die Diagnose selbst soll dadurch nicht heimlich automatisiert werden. Bei Medikamenten möchte ich ebenfalls keine Anwendung, die aus ein paar Datenpunkten selbstständig Behandlungsentscheidungen produziert. Bei rechtlichen Fragen, Gewalt, Kindeswohl oder anderen Bereichen mit erheblichen Konsequenzen braucht es ebenfalls klare Grenzen dafür, was eine digitale Auswertung überhaupt leisten darf.
Was die verschiedenen Fälle verbindet, ist für mich weniger eine fertige Liste von Themen als eine Frage nach Verantwortung. Kann INNENSCHAU die Konsequenz seiner eigenen Empfehlung tatsächlich tragen? Hat es genug Informationen und die richtige fachliche Grundlage? Gibt es etwas, das nur ein realer Mensch tun kann? Und würde weitere Automatisierung hier die Handlungsfähigkeit des Nutzers erhöhen oder nur den Eindruck erzeugen, dass die Anwendung auch diesen Teil noch übernehmen könne?
Gerade die letzte Frage passt für mich zu dem, was wir bisher gebaut haben. INNENSCHAU soll Autonomie erhöhen und keine neue Abhängigkeit erzeugen. Wenn das System anfängt, Menschen davon zu überzeugen, dass nur es ihre Situation richtig versteht und sie deshalb bei jeder schwierigen Entscheidung wieder zu ihm zurückmüssen, wären wir ziemlich genau bei den Strukturen angekommen, die ich eigentlich kritisiere.
Deshalb muss ein gutes INNENSCHAU auch sagen können: Hier endet mein Scope.
Das ist kein technisches Scheitern. Es ist eine Produktentscheidung.
Wie wir diesen Übergang im Detail gestalten, welche Signale dafür ausreichen und wie die Zusammenarbeit mit realen Fachpersonen in der Oberfläche konkret aussieht, möchte ich bewusst noch nicht endgültig festschreiben. Diese Ebene soll mit den Menschen entwickelt werden, die später tatsächlich damit arbeiten. Der Grundsatz steht für mich aber schon vorher fest: Die Technik soll menschliche Zusammenarbeit besser vorbereiten und strukturieren, nicht sie aus dem System herausoptimieren.
Eine Übergabe darf kein digitales Abschieben sein
Wenn INNENSCHAU an irgendeinem Punkt sagt, dass menschliche Unterstützung sinnvoll oder notwendig wird, reicht mir ein allgemeiner Hinweis wie „Sprich bitte mit einer Fachperson“ nicht. Genau solche Hinweise kennt man aus genug digitalen Angeboten. Sie sind rechtlich wahrscheinlich bequem, helfen einem Menschen in der konkreten Situation aber nur begrenzt weiter. Wer bereits überfordert ist, braucht nicht unbedingt noch eine zusätzliche Aufgabe, bei der er selbst herausfinden muss, wen er sucht, wie er Kontakt aufnimmt und was er dort überhaupt sagen soll.
Eine sinnvolle Übergabe müsste deshalb dort ansetzen, wo die Person gerade steht. Wenn beispielsweise deutlich wird, dass eine therapeutische Frage über längere Zeit nicht weiterkommt, könnte INNENSCHAU zuerst dabei helfen, das Problem so zusammenzufassen, dass überhaupt verständlich wird, warum eine menschliche Begleitung sinnvoll wäre. Welche Situationen treten wiederholt auf? Was wurde bereits ausprobiert? Was hat geholfen und was nicht? Welche Fragen sind noch offen? Dadurch entsteht aus „Du brauchst Hilfe“ etwas wesentlich Konkreteres.
Danach müsste der nächste Schritt möglichst klein werden. Vielleicht braucht jemand zunächst nur eine Liste geeigneter Ansprechpartner. Vielleicht ist die eigentliche Hürde der erste Anruf. Dann könnte das System helfen, einen kurzen Einstieg vorzubereiten: Wer bin ich, worum geht es, was suche ich und welche Informationen sind für dieses erste Gespräch relevant? Ich halte solche Unterstützung für wesentlich sinnvoller als den Versuch, noch eine weitere digitale Selbsthilfeübung zu erzeugen.
Gerade bei Menschen, die mit Telefonaten, Bürokratie oder ungeklärten Zuständigkeiten Schwierigkeiten haben, entscheidet sich an solchen Kleinigkeiten oft, ob aus einem guten Hinweis überhaupt eine Handlung wird. Ein Verweis auf eine Fachperson ist nur dann wirklich hilfreich, wenn die Brücke dorthin ebenfalls benutzbar ist.
Dabei darf die Anwendung aber nicht anfangen, die Entscheidung vollständig zu übernehmen. Sie kann Möglichkeiten aufzeigen und erklären, warum eine bestimmte Art von Unterstützung passen könnte. Welcher konkrete Mensch am Ende gewählt wird, welche Informationen geteilt werden und ob die Zusammenarbeit überhaupt begonnen wird, sollte grundsätzlich beim Nutzer bleiben, soweit keine unmittelbare Gefährdung eine andere Sicherheitslogik erforderlich macht.
Besonders wichtig finde ich die Frage, welche Daten bei so einer Übergabe mitgehen. Ich möchte nicht, dass ein Human Companion automatisch Zugriff auf das gesamte INNENSCHAU-Profil bekommt. Wenn jemand beispielsweise wegen einer konkreten Schlafproblematik mit einer Fachperson arbeitet, braucht diese Person nicht automatisch Beziehungstagebücher, astrologische Auswertungen, alte Schulzeugnisse und sämtliche anderen Informationen, die irgendwo im System liegen.
Sinnvoller wäre für mich ein zweckgebundenes Vorbereitungspaket. Der Nutzer sieht, welche Informationen für die konkrete Fragestellung vorgeschlagen werden, kann sie prüfen und entscheidet, was tatsächlich geteilt wird. Vielleicht gehören aktuelle Beobachtungen dazu, ein Verlauf, relevante Rahmenbedingungen und bisherige Versuche. Alles andere bleibt draußen, solange es für die Zusammenarbeit nicht gebraucht wird.
Das schützt nicht nur die Privatsphäre. Es verhindert auch, dass eine Fachperson von einer riesigen Datenmenge erschlagen wird. Mehr Information ist nicht automatisch bessere Vorbereitung. Gerade weil INNENSCHAU langfristig sehr viel sammeln kann, muss das System auch lernen, für eine konkrete Frage nur das herauszuziehen, was wahrscheinlich relevant ist.
Die Fachperson sollte diese Vorbereitung anschließend aber nicht einfach als Wahrheit übernehmen. Ein von INNENSCHAU erzeugter Überblick bleibt eine strukturierte Zusammenfassung aus bestimmten Quellen und Ableitungen. Im Gespräch kann sich herausstellen, dass etwas anders gemeint war, dass ein wichtiger Kontext fehlt oder dass die Fachperson eine andere Hypothese hat. Genau dort beginnt für mich der Wert des menschlichen Gegenübers.
Idealerweise funktioniert die Brücke deshalb in beide Richtungen. Nicht in dem Sinn, dass eine Therapeutin oder ein Coach anschließend unbegrenzt in das persönliche Modell hineinschreiben darf. Aber möglicherweise kann der Nutzer nach einem Gespräch festhalten, was daraus relevant geworden ist, welche Frage sich verändert hat oder welche Beobachtung in den nächsten Wochen sinnvoll wäre. INNENSCHAU könnte dann zwischen Terminen Struktur geben, ohne die eigentliche Beziehung zu übernehmen.
Genau dieses „zwischen den Terminen“ halte ich für interessant. In vielen Begleitungen passiert ein erheblicher Teil des Lebens schließlich außerhalb der Stunde mit der Fachperson. Man erinnert sich beim nächsten Termin nur noch teilweise daran, was in der Zwischenzeit passiert ist. Ein digitales System kann dort sehr hilfreich sein, weil Beobachtungen nicht erst rückwirkend rekonstruiert werden müssen. Trotzdem bleibt die Interpretation dieser Beobachtungen offen.
Das ist für mich auch der Unterschied zwischen einem Human Companion Layer und einem automatisierten Coach. Ein automatisierter Coach versucht, die menschliche Leistung möglichst vollständig digital abzubilden. Der Human Companion Layer soll dagegen dafür sorgen, dass digitale und menschliche Arbeit vernünftig ineinandergreifen. Die Fachperson bleibt Fachperson. INNENSCHAU bleibt Werkzeug und Infrastruktur.
Gerade deshalb möchte ich Methoden von Partnern auch nicht einfach absorbieren. Wenn später ein Coach mit einer eigenen Arbeitsweise an INNENSCHAU angebunden ist, sollte daraus nicht automatisch folgen, dass wir diese Methode komplett digitalisieren und anschließend ohne ihn anbieten. Es kann sinnvoll sein, Intake-Fragen, Beobachtungsstrukturen oder Vorbereitungsprozesse gemeinsam zu entwickeln. Die eigentliche fachliche Arbeit und Beziehung bleiben trotzdem bei der Person, die dafür verantwortlich ist.
Wie genau Buchung, Freigaben, Rückmeldungen und Datenpakete später aussehen, möchte ich bewusst gemeinsam mit solchen Fachpersonen entwickeln. Ich kenne die Nutzerseite gut. Ich kann technisch und konzeptionell ziemlich viel dazu bauen. Ich weiß aber nicht aus eigener professioneller Praxis, welche Informationen eine Therapeutin, ein Schlafcoach oder eine andere Fachperson im jeweiligen Bereich wirklich braucht und welche nur zusätzliches Rauschen erzeugen.
Genau deshalb finde ich es sinnvoll, diese Grenze nicht im stillen Kämmerchen fertigzudesignen.
Wenn der Human Companion Layer gut funktioniert, sollte er am Ende keine zusätzliche Instanz zwischen zwei Menschen schaffen. Er sollte dafür sorgen, dass beide schneller zu dem Punkt kommen, an dem die eigentliche menschliche Arbeit beginnen kann.
Menschliche Übergabe heißt nicht, Verantwortung einfach weiterzureichen
Für mich ist außerdem wichtig, dass INNENSCHAU sich nicht dadurch aus der Verantwortung ziehen darf, dass irgendwo ein Human Companion existiert. Wenn ein System erkennt, dass eine Situation seinen eigenen Scope überschreitet, reicht es nicht, einfach einen Menschen vorzuschlagen und damit so zu tun, als wäre das Problem erledigt. Die Übergabe selbst gehört noch zum Produkt.
Das wird besonders bei Krisen relevant. Wenn jemand gerade kaum handlungsfähig ist, bringt eine Liste mit zwanzig möglichen Stellen unter Umständen wenig. Dann muss stärker priorisiert werden: Was ist jetzt akut? Welche Art von Hilfe passt zu dieser Situation? Welche Kontaktmöglichkeit ist erreichbar? Was könnte die Person beim ersten Kontakt sagen? Muss jemand aus dem persönlichen Umfeld einbezogen werden? Bei unmittelbarer Gefährdung darf die Anwendung nicht so tun, als wäre noch Zeit für eine ausführliche Selbstanalyse.
Gleichzeitig möchte ich nicht, dass INNENSCHAU bei jeder starken Emotion sofort Alarm schlägt. Menschen dürfen verzweifelt, wütend, überfordert oder widersprüchlich sein, ohne dass daraus automatisch eine akute Krise gemacht wird. Auch hier braucht es Abstufungen. Ein schwieriger Abend ist etwas anderes als konkrete Suizidabsicht. Eine belastende Beziehungssituation ist etwas anderes als unmittelbare Gewaltgefahr. Ein Screening-Hinweis ist etwas anderes als eine klinische Einschätzung.
Deshalb wird die eigentliche Herausforderung nicht darin bestehen, eine Liste mit roten Flaggen einzubauen. Das System muss mit Unsicherheit umgehen können und gleichzeitig lieber einmal zu früh auf reale Hilfe hinweisen als gefährliche Situationen durch eine selbstsichere KI-Antwort weiterlaufen zu lassen. Wo genau diese Schwellen liegen, gehört für mich zu den Bereichen, die nicht allein aus Produktideen entstehen dürfen. Dafür braucht es fachliche Prüfung und Menschen, die solche Situationen professionell kennen.
Dasselbe gilt für Empfehlungen außerhalb akuter Krisen. Wenn INNENSCHAU sagt, dass eine Therapeutin, ein Arzt oder ein Coach sinnvoll sein könnte, sollte möglichst nachvollziehbar sein, warum. Nicht im Sinn einer Diagnose durch die Hintertür, sondern beispielsweise: Dieses Thema tritt wiederholt auf, die bisherigen Selbsthilfestrategien haben wenig verändert, und für den nächsten Schritt wäre fachliche Begleitung wahrscheinlich hilfreicher als weitere automatische Auswertung.
Damit bleibt die Empfehlung überprüfbar. Der Nutzer kann verstehen, warum sie überhaupt erscheint, und sie auch ablehnen. Ich möchte keine Anwendung, die bei Widerspruch sofort noch aggressiver versucht, jemanden in eine bestimmte Hilfeform zu schicken. Solange keine unmittelbare Sicherheitslage besteht, sollte ein Vorschlag ein Vorschlag bleiben.
Der Human Companion darf auf der anderen Seite ebenfalls nicht zur neuen Autorität im persönlichen System werden. Eine Fachperson kann eine sehr wertvolle Einschätzung geben und in ihrem Bereich wesentlich mehr wissen als die KI oder der Nutzer selbst. Trotzdem ist auch diese Perspektive eine Quelle mit einem bestimmten Kontext. Wenn ein Coach etwas beobachtet, sollte klar sein, dass es seine fachliche Einschätzung ist. Wenn eine Therapeutin eine Hypothese entwickelt, ist das nicht automatisch eine neue unumstößliche Tatsache über den Menschen.
Das klingt möglicherweise übervorsichtig, aber genau diese Grenze ist für mich wichtig, weil ich weiß, wie langlebig Fremdeinschätzungen werden können. INNENSCHAU soll nicht erst eine dezentrale Architektur gegen Deutungshoheit bauen und anschließend über den Human Companion wieder eine einzelne Person zum uneingeschränkten Wahrheitslieferanten machen.
Gleichzeitig muss eine Fachperson natürlich echte fachliche Verantwortung behalten. Wenn ein Arzt medizinisch etwas anders bewertet als die KI, möchte ich keine Anwendung, die im Hintergrund versucht, den Nutzer davon zu überzeugen, dass ihr eigenes Modell wahrscheinlich richtiger ist. Dasselbe gilt in Therapie oder anderen Bereichen. INNENSCHAU darf Fragen und Gegeninformationen sichtbar machen, aber es sollte nicht zum Konkurrenten professioneller Behandlung werden.
Gerade deshalb finde ich den Begriff Brücke passend. Eine Brücke verbindet zwei Seiten, ohne eine davon zu ersetzen. Der Nutzer bringt seine Erfahrungen, Beobachtungen und Entscheidungen mit. Die Fachperson bringt Ausbildung, Praxis, Beziehung und Verantwortung mit. INNENSCHAU bringt Struktur, Verlauf, Vorbereitung und gegebenenfalls zusätzliche Perspektiven mit. Wenn das gut funktioniert, muss keine dieser drei Ebenen so tun, als könnte sie die anderen vollständig übernehmen.
Für mich gehört dazu auch, dass der Nutzer nach einer menschlichen Begleitung wieder in sein eigenes System zurückkehren kann, ohne dass dort automatisch alles überschrieben wird. Vielleicht hat ein Gespräch eine Hypothese verändert. Vielleicht wurde eine Diagnose bestätigt oder verworfen. Vielleicht wurde eine neue Strategie vereinbart. Dann sollte diese Information mit ihrer Herkunft aufgenommen werden können. Die Fachperson hat etwas beigetragen, aber das persönliche Modell bleibt weiterhin nachvollziehbar.
Das ist wahrscheinlich auch der Punkt, an dem ich die Grenze zu einem klassischen Plattformmodell sehe. Ich möchte Fachpersonen nicht nur als Content-Lieferanten oder buchbare Erweiterung der Software behandeln. Wenn sie Teil des Human Companion Layer werden, sollen sie mitdefinieren können, welche Informationen ihnen tatsächlich helfen, wo Automatisierung sinnvoll ist und welche Teile ihrer Arbeit gerade nicht automatisiert werden sollten.
Heute Abend spreche ich genau über solche Fragen mit einem Coach. Ich finde es wichtig, dass diese Ebene nicht nur aus meiner Perspektive gebaut wird. Ich kann ziemlich gut sagen, was ich als Nutzer eines solchen Systems brauchen würde. Eine reale Fachperson kann mir sagen, was auf ihrer Seite hilfreich, störend oder fachlich problematisch wäre.
Diese Gespräche werden wahrscheinlich noch einiges an der konkreten Umsetzung verändern.
Am Grundsatz ändert das für mich wenig: Wenn INNENSCHAU an seine Grenze kommt, soll es den Menschen nicht mit dieser Grenze alleinlassen. Es soll aber genauso wenig so tun, als könne es die Grenze dadurch beseitigen, dass es die nächste menschliche Rolle digital kopiert.
Die Übergabe gehört zum System.
Die menschliche Arbeit bleibt menschlich.
Ein Mensch sollte nicht erst dann auftauchen, wenn alles eskaliert
Ich möchte beim Human Companion Layer außerdem vermeiden, dass der Mensch nur als Notfalllösung vorkommt. Wenn die Anwendung alles allein macht, solange es irgendwie geht, und erst bei Krise, Suizidalität oder einem anderen klaren Grenzfall auf eine reale Person verweist, wäre mir das zu wenig. Menschliche Begleitung hat nicht nur dort einen Wert, wo Software versagt.
Es gibt Situationen, in denen INNENSCHAU technisch problemlos weiterarbeiten könnte und ich trotzdem einen Menschen für sinnvoller halte. Jemand kann beispielsweise sehr genau verstanden haben, welches Muster sich in einer Beziehung wiederholt, und trotzdem Schwierigkeiten haben, eine Grenze tatsächlich auszusprechen. Die Anwendung kann noch zehn Formulierungen vorschlagen und fünf mögliche Reaktionen durchspielen. Vielleicht ist das Problem aber gar nicht mehr fehlende Information. Vielleicht braucht die Person jemanden, der mit ihr die Umsetzung begleitet, Rückfragen stellt und nach dem Gespräch wieder mit ihr hinschaut, was tatsächlich passiert ist.
Ähnlich ist es bei Coaching. Ein digitaler Plan kann sehr ausführlich sein und trotzdem nicht erklären, warum die Umsetzung in einer konkreten Familie, einem konkreten Alltag oder bei einem konkreten Menschen nicht funktioniert. Genau dort beginnt oft die eigentliche Arbeit einer guten Fachperson. Sie fragt nach, verändert den Plan, bemerkt Widersprüche und berücksichtigt Dinge, die vorher niemand als relevant erkannt hat. Diese Anpassung ist nicht nur eine ineffiziente Form von Automatisierung. Sie ist ein Teil der Leistung.
Das sehe ich auch bei meiner Schwester und dem Thema Babyschlaf sehr deutlich. Ein allgemeiner Plan oder Informationen über Schlaf reichen nicht automatisch aus. Entscheidend ist häufig, wie Eltern etwas tatsächlich umsetzen können, was bei ihrem Kind passiert, welche Fragen dabei entstehen und wo eine Fachperson auch Grenzen ziehen muss. Wenn wir daraus einfach einen digitalen Klon ihres Coachings bauen würden, hätten wir wahrscheinlich genau den Teil entfernt, für den die Begleitung überhaupt wertvoll ist.
Für mich bedeutet Human Companion deshalb nicht einfach „KI plus Mensch, falls nötig“. Eher geht es darum, bei jeder Aufgabe zu fragen, welche Arbeit das digitale System gut übernehmen kann und welche Arbeit durch einen Menschen qualitativ etwas anderes wird. Strukturierung, Verlauf, Wiederfinden von Informationen und Vorbereitung können digital enorm stark sein. Beziehung, situative Anpassung, fachliche Verantwortung und manche Formen von Umsetzung sind etwas anderes.
Das bedeutet auch, dass nicht jede Fachperson dieselbe Rolle im System haben sollte. Ein Arzt hat einen anderen Scope als eine Therapeutin. Eine Therapeutin wiederum einen anderen als ein Schlafcoach oder Ernährungscoach. INNENSCHAU sollte diese Rollen nicht zu einem allgemeinen „Experten“-Status zusammenwerfen. Welche Daten relevant sind, welche Empfehlungen zulässig sind und wann weiterverwiesen werden muss, hängt auch davon ab, mit wem der Nutzer gerade arbeitet.
Gerade Referral finde ich dabei wichtig. Eine gute Fachperson muss nicht alles selbst können. Wenn ein Coach merkt, dass ein Thema eigentlich in Therapie oder Medizin gehört, sollte das kein Scheitern des Coachings sein. Dasselbe gilt für INNENSCHAU. Ein gutes System sollte nicht versuchen, jeden Nutzer innerhalb der eigenen Produktwelt zu halten, nur weil er einmal dort angefangen hat. Wenn für eine Frage eine andere Qualifikation gebraucht wird, ist eine Weiterleitung Teil guter Arbeit.
Das passt auch zu unserem grundsätzlichen Gegenentwurf zu Plattformabhängigkeit. Ich möchte nicht, dass Fachpersonen ihre eigene Website, ihr eigenes Business oder ihre eigene Arbeitsweise aufgeben müssen, um Teil von INNENSCHAU zu werden. Die Anwendung soll zusätzliche Infrastruktur bieten. Vielleicht irgendwann Discovery, Vorbereitung, freiwillige Datenfreigabe, strukturierte Beobachtungen zwischen Terminen und eine Buchungsmöglichkeit. Daraus muss keine Exklusivität entstehen.
Dasselbe gilt für den Nutzer. Wenn jemand über INNENSCHAU eine Fachperson findet und später ohne die Anwendung weiterarbeitet, ist das kein verlorener Kunde. Dann hat die Brücke funktioniert. Ich möchte den Wert des Systems nicht daran messen, ob jede menschliche Beziehung anschließend dauerhaft durch unsere Plattform laufen muss.
Das zwingt uns allerdings dazu, wirtschaftlich sauber zu überlegen, wofür wir eigentlich bezahlt werden wollen. Wenn das Geschäftsmodell nur funktioniert, wenn jeder Kontakt im System bleibt und jede weitere Interaktion über uns läuft, entsteht automatisch ein Interesse daran, möglichst wenig Unabhängigkeit zuzulassen. Genau das möchte ich vermeiden. Dann müsste der wirtschaftliche Wert aus echter Infrastruktur, sinnvollen Funktionen, freiwilliger Vermittlung oder anderen klaren Leistungen kommen und nicht aus künstlichem Lock-in.
Auch fachlich finde ich diese Unabhängigkeit wichtig. Wenn ein Coach mit uns zusammenarbeitet und später sagt, dass eine bestimmte INNENSCHAU-Funktion für seine Arbeit ungeeignet ist, soll diese Kritik möglich sein. Partner dürfen keine Verkäufer unseres Weltbildes werden. Im Gegenteil. Gerade ihre unabhängige Perspektive ist ein Grund dafür, sie überhaupt einzubeziehen.
Das gehört für mich wieder zur Frage nach Deutungshoheit. Wenn INNENSCHAU eine Hypothese erzeugt und eine reale Fachperson sie anders bewertet, brauche ich kein System, das automatisch entscheidet, welche Seite gewonnen hat. Ich brauche die Herkunft beider Aussagen und, je nach Thema, eine klare fachliche Gewichtung. Bei einer medizinischen Frage hat eine qualifizierte medizinische Einschätzung einen anderen Status als eine automatisierte Hypothese. Bei einer persönlichen Deutung kann die Situation wiederum offener sein.
Der Human Companion Layer soll deshalb nicht nur Menschen hinzufügen. Er muss Rollen, Zuständigkeiten und Grenzen sauber halten.
Wenn uns das gelingt, kann aus der Kombination tatsächlich etwas entstehen, das weder reine Software noch klassische Begleitung allein leisten kann. Die Anwendung kann den langen Verlauf halten, Dinge strukturieren und helfen, dass wichtige Informationen nicht verloren gehen. Der Mensch kann dort übernehmen, wo Kontext, Beziehung, Fachurteil und konkrete Umsetzung entscheidend werden.
Ich möchte nicht weniger menschliche Begleitung bauen.
Ich möchte erreichen, dass die Zeit mit einem echten Menschen weniger dafür draufgeht, überhaupt erst herauszufinden, was in den letzten drei Monaten passiert ist, und mehr für den Teil übrig bleibt, für den dieser Mensch tatsächlich gebraucht wird.
Ein klarer Scope ist keine Schwäche des Systems
Je mehr Funktionen INNENSCHAU bekommt, desto wichtiger wird für mich die Frage, was das System bewusst nicht übernimmt. Technisch lässt sich vieles irgendwann irgendwie abbilden. Eine KI kann Fragen stellen, Pläne erzeugen, Gesprächssimulationen machen, Empfehlungen formulieren und aus sehr vielen Daten eine ziemlich überzeugende Einschätzung bauen. Dass etwas technisch möglich ist, beantwortet aber noch nicht die Frage, ob es in diesem Produkt auch sinnvoll oder verantwortbar ist.
Gerade bei persönlichen und gesundheitlichen Themen kann Funktionsumfang schnell mit Qualität verwechselt werden. Ein System wirkt mächtiger, wenn es für jedes Problem noch einen nächsten Schritt anbietet. Für mich wäre es aber teilweise die bessere Produktentscheidung, wenn INNENSCHAU erkennt, dass weitere automatische Schritte gerade wenig bringen oder außerhalb seines Zuständigkeitsbereichs liegen. Dann muss die Anwendung nicht künstlich weiterreden, nur damit sie nützlich wirkt.
Ich sehe darin auch eine Parallele zu guten Fachpersonen. Ein seriöser Coach wird nicht dadurch schlechter, dass er sagt, ein bestimmtes Thema gehöre in Therapie. Eine Therapeutin verliert keine Kompetenz, wenn sie bei einer medizinischen Frage an einen Arzt verweist. Ein Arzt muss nicht jede soziale oder organisatorische Schwierigkeit lösen können. Professionelle Arbeit besteht auch darin, den eigenen Scope zu kennen.
Genau denselben Anspruch möchte ich an INNENSCHAU stellen.
Das bedeutet allerdings, dass wir diese Grenzen nicht nur irgendwo in Nutzungsbedingungen schreiben dürfen. Sie müssen sich im Verhalten des Systems zeigen. Wenn eine Situation außerhalb des Scopes liegt, darf die Oberfläche nicht trotzdem so tun, als würde sie eine gleichwertige Antwort liefern und unten nur einen kleinen Haftungshinweis ergänzen. Der Unterschied muss in der eigentlichen Interaktion sichtbar werden.
Bei einer diagnostischen Frage könnte das beispielsweise bedeuten, dass INNENSCHAU sehr wohl vorhandene Beobachtungen strukturiert und erklärt, welche Hinweise für eine fachliche Abklärung relevant sein könnten. Es sollte aber an einem bestimmten Punkt nicht mehr versuchen, aus denselben Informationen eine definitive Diagnose zu erzeugen. Bei Medikamenten kann es vielleicht helfen, Einnahmen, Veränderungen und beobachtete Effekte zu dokumentieren. Die Entscheidung, eine Dosierung zu verändern oder ein Medikament abzusetzen, gehört trotzdem nicht in die automatische Empfehlung einer solchen Anwendung.
Bei Beziehungsthemen kann INNENSCHAU Muster und eigene Grenzen sichtbar machen, Gesprächsvorbereitung unterstützen und verschiedene Perspektiven nebeneinanderstellen. Wenn Gewalt, akute Gefährdung oder eine Situation entsteht, in der Sicherheit eine Rolle spielt, verändert sich die Aufgabe. Dann geht es nicht mehr darum, den Konflikt noch genauer zu analysieren, sondern darum, reale Unterstützung erreichbar zu machen.
Diese Übergänge müssen wahrscheinlich je nach Modul unterschiedlich aussehen. Ich glaube deshalb auch nicht, dass wir eine einzige universelle Regel definieren können, nach der ab Punkt X immer ein Mensch übernimmt. Manche Grenzen sind sehr klar, andere hängen vom Verlauf und der Fragestellung ab. Genau deshalb braucht es fachliche Beteiligung an der Entwicklung und nicht nur meine Vorstellung davon, was vernünftig klingt.
Was für mich trotzdem überall gleich bleibt, ist die Richtung: Je größer die mögliche Konsequenz einer Empfehlung, desto weniger darf eine selbstsichere KI allein entscheiden. Je höher das Risiko für einen Menschen, desto wichtiger werden qualifizierte Verantwortung, reale Erreichbarkeit und nachvollziehbare Grenzen.
Dazu gehört auch, dass INNENSCHAU nicht künstlich so formulieren sollte, als hätte es eine Beziehung oder Verantwortung, die es tatsächlich nicht tragen kann. Eine KI kann freundlich und unterstützend sprechen. Sie darf einem Menschen auch helfen, sich in einer schwierigen Situation zu sortieren. Ich möchte nur nicht, dass daraus der Eindruck entsteht, das System sei derjenige, der jetzt persönlich aufpasst oder im Zweifel tatsächlich handeln kann. Genau dort wird eine sprachlich simulierte Beziehung gefährlich, weil die technische Realität etwas anderes ist.
Ein Mensch am anderen Ende einer professionellen Beziehung kann Verantwortung übernehmen, nachfragen, seine Einschätzung ändern und gegebenenfalls reale Schritte einleiten. Eine Anwendung kann das nicht einfach durch bessere Formulierungen ersetzen. Wenn dieser Unterschied relevant wird, sollte er nicht versteckt werden.
Für mich ist das letztlich auch eine Frage von Vertrauen. Ich würde einem System eher vertrauen, das mir an bestimmten Stellen klar sagt, dass es nicht zuständig ist, als einem, das für jede Frage eine überzeugend klingende Antwort produziert. Dasselbe gilt für unser Unternehmen insgesamt. Wir müssen nicht behaupten, alles lösen zu können, um ein wertvolles Produkt zu bauen.
Vielleicht ist genau das sogar ein wichtiger Teil des Gegenentwurfs, den ich mit katharsis.369 immer wieder beschreibe. Keine Guru-Struktur, keine privilegierte Wahrheit und auch keine Software, die sich langsam zur einzigen Instanz für das Leben ihrer Nutzer aufbläst. Wenn ein anderer Mensch, eine andere Fachrichtung oder eine andere Institution an einer Stelle besser geeignet ist, sollte unser System das sagen können.
Und wenn jemand nach der Übergabe außerhalb von INNENSCHAU eine gute Lösung findet, ist das kein Verlust für das Produkt.
Dann hat es seine Aufgabe erfüllt.
Was am Ende menschlich bleiben muss
Je länger ich über diese Übergabe nachdenke, desto weniger sinnvoll finde ich die Vorstellung, dass sich digital und menschlich einfach über eine feste Grenze trennen lassen. Es gibt Dinge, die INNENSCHAU technisch sehr gut machen kann und die trotzdem in einem menschlichen Gespräch noch einmal eine andere Qualität bekommen. Umgekehrt gibt es Aufgaben, für die heute viel menschliche Zeit draufgeht, obwohl ein System sie wahrscheinlich wesentlich besser vorbereiten könnte. Der Human Companion Layer soll genau diese Verteilung verbessern.
Ein Beispiel wäre ein längerer Verlauf. Wenn jemand über Wochen immer wieder dieselben Schwierigkeiten dokumentiert, kann INNENSCHAU diese Informationen wesentlich zuverlässiger zusammenhalten, als wenn beim nächsten Termin versucht wird, sich spontan an alles zu erinnern. Das System kann Zeitpunkte sortieren, wiederkehrende Situationen sichtbar machen und markieren, welche Strategien bereits ausprobiert wurden. Eine Fachperson muss dadurch weniger Zeit damit verbringen, überhaupt erst die Ausgangslage zu rekonstruieren.
Was diese Informationen bedeuten und was daraus praktisch folgt, kann trotzdem eine andere Frage sein. Vielleicht erkennt ein Coach, dass der vermeintliche Kern des Problems an einer ganz anderen Stelle liegt. Vielleicht hört eine Therapeutin in einem Gespräch etwas, das in den strukturierten Daten überhaupt nicht auffällt. Vielleicht sieht ein Arzt eine medizinische Erklärung, die das System aufgrund seines Scopes bewusst nicht bewertet hat. Genau für solche Situationen möchte ich die menschliche Ebene erhalten.
Dabei ist mir wichtig, dass der Übergang für beide Seiten transparent bleibt. Der Nutzer sollte wissen, warum gerade menschliche Unterstützung vorgeschlagen wird. Die Fachperson sollte wissen, wie das Vorbereitungspaket entstanden ist und was darin Selbstauskunft, dokumentierte Beobachtung oder automatische Zusammenfassung ist. Und INNENSCHAU sollte anschließend nicht so tun, als wären sämtliche Aussagen aus dem Gespräch automatisch gleichwertige neue Fakten.
Wenn eine Fachperson etwas ergänzt, braucht auch diese Information Herkunft. Ein ärztlicher Befund hat einen anderen Status als eine Coaching-Hypothese. Eine therapeutische Beobachtung ist etwas anderes als eine biografische Tatsache. Eine Empfehlung wiederum ist nicht dasselbe wie eine Beobachtung. Genau diese Differenzierung, die wir innerhalb von INNENSCHAU ohnehin aufbauen, darf beim Human Companion nicht plötzlich verschwinden.
Das schützt meiner Meinung nach auch die Fachpersonen. Ich möchte ihnen kein System vorsetzen, das aus ihren Aussagen anschließend automatisch weitreichendere Schlussfolgerungen erzeugt, für die sie nie Verantwortung übernommen haben. Wenn eine Therapeutin in einem bestimmten Kontext etwas sagt, darf daraus nicht später ohne Weiteres eine allgemeine Aussage für jedes andere Modul werden. Dasselbe gilt für Coaches, Ärzte oder andere Begleiter.
Der Human Companion Layer braucht deshalb nicht nur Datenschutz auf Nutzerseite, sondern auch klare fachliche Grenzen auf Partnerseite. Eine Fachperson sollte wissen, wofür ihre Beiträge verwendet werden können und wofür nicht. Sie sollte nicht dadurch Teil eines automatisierten Systems werden, dass einzelne Aussagen oder Methoden später stillschweigend für andere Zwecke wiederverwendet werden.
Das passt zu dem Grundsatz, dass wir keine digitalen Klone von Fachpersonen bauen wollen. Wenn jemand mit INNENSCHAU zusammenarbeitet, interessiert mich sein Wissen und seine Praxis, aber daraus entsteht kein Anspruch, diese Person vollständig zu extrahieren und in Software umzuwandeln. Es soll gemeinsam geprüft werden, welche Teile sich sinnvoll digital unterstützen lassen und welche gerade deshalb menschlich bleiben sollten, weil ihr Wert aus Beziehung, Anpassung und Verantwortung entsteht.
Auch die Nutzerseite braucht dabei echte Kontrolle. Wenn ein Vorbereitungspaket erstellt wird, sollte die Person sehen können, was darin enthalten ist. Vielleicht möchte sie eine bestimmte Information herausnehmen. Vielleicht fehlt etwas Wichtiges. Vielleicht soll nur ein enger Zeitraum geteilt werden. Für mich wäre das wesentlich sauberer als ein allgemeines „Fachperson darf auf mein Profil zugreifen“.
Ich möchte überhaupt möglichst wenig mit solchen pauschalen Freigaben arbeiten. Gerade bei einem System, das langfristig sehr unterschiedliche Lebensbereiche enthalten könnte, wäre ein globaler Zugriff unverhältnismäßig. Ein Schlafcoach braucht keine alten Beziehungsauswertungen. Eine Therapeutin braucht für eine konkrete Fragestellung nicht automatisch sämtliche symbolischen Module. Ein Arzt muss nicht wissen, welche numerologischen Hypothesen jemand untersucht. Relevant ist, was für den konkreten Zweck gebraucht wird.
Das bedeutet gleichzeitig, dass INNENSCHAU selbst lernen muss, Informationen zu begrenzen. Nicht möglichst viel teilen, weil mehr Daten technisch verfügbar sind, sondern möglichst sinnvoll auswählen und den Nutzer diese Auswahl kontrollieren lassen. Vielleicht ist das sogar eine der wichtigsten Funktionen des Human Companion Layer: aus einer sehr großen persönlichen Datenmenge ein kleines, verständliches und zweckgebundenes Paket zu machen.
Die Zusammenarbeit sollte danach ebenfalls nicht automatisch dauerhaft werden. Ein Mensch kann für eine bestimmte Phase oder Frage gebraucht werden und später nicht mehr. Vielleicht reicht ein einzelnes Gespräch. Vielleicht entsteht eine längere Begleitung. Vielleicht wird an eine andere Fachperson weiterverwiesen. Das System sollte keine dieser Varianten künstlich verhindern, nur weil eine dauerhafte Bindung wirtschaftlich attraktiver wäre.
Gerade deshalb möchte ich Erfolg beim Human Companion nicht ausschließlich daran messen, wie viele Buchungen oder wie lange laufende Begleitungen entstehen. Wenn ein Nutzer nach einer gut vorbereiteten Übergabe genau die Unterstützung bekommt, die er braucht, und danach weniger Hilfe benötigt, ist das ebenfalls ein gutes Ergebnis.
Für mich schließt sich hier auch der Kreis zu den anderen INNENSCHAU-Artikeln. Das System soll nicht erklären, wer ein Mensch ist. Diagnosen sollen wichtige Informationen bleiben, ohne alles zu bestimmen. Muster dürfen auffällig sein, ohne automatisch kausal zu werden. Und wenn die digitale Untersuchung an einen Punkt kommt, an dem Beziehung, Fachurteil oder reale Verantwortung gebraucht werden, sollte das System nicht versuchen, sich selbst noch größer zu machen.
Es sollte Platz machen.
Nicht weil der Mensch grundsätzlich besser wäre als Technik und auch nicht, weil KI an dieser Stelle automatisch nutzlos wird. Sondern weil unterschiedliche Aufgaben unterschiedliche Formen von Verantwortung brauchen.
Genau darin sehe ich inzwischen den eigentlichen Sinn des Human Companion Layer. INNENSCHAU kann viel vorbereiten, erinnern, strukturieren und vergleichen. Es kann dafür sorgen, dass jemand nicht jedes Mal wieder bei null anfangen muss. Aber dort, wo ein Mensch gebraucht wird, soll die Technik nicht so tun, als wäre das ein Defizit ihres eigenen Systems.
Sie soll dafür sorgen, dass dieser Mensch möglichst gut übernehmen kann.
Die Grenze gehört zur Architektur, nicht in den Haftungsausschluss
Für mich läuft die ganze Frage am Ende darauf hinaus, dass die menschliche Übergabe nicht erst nachträglich an INNENSCHAU angeklebt werden darf. Wenn wir wissen, dass bestimmte Situationen fachliche Verantwortung, reale Beziehung oder konkrete Intervention brauchen, muss diese Grenze von Anfang an Teil der Architektur sein. Es reicht nicht, ein System möglichst weit automatisieren zu lassen und anschließend irgendwo darunterzuschreiben, dass es keinen Arzt, keine Therapie oder keinen anderen professionellen Ansprechpartner ersetzt.
Die eigentliche Grenze zeigt sich im Verhalten des Produkts. Wenn INNENSCHAU an einem Punkt nur noch spekulieren könnte, sollte es das nicht als sichere Empfehlung ausgeben. Wenn eine diagnostische Frage fachlich abgeklärt werden muss, sollte aus dem bisherigen Material eine vernünftige Vorbereitung entstehen und keine Diagnose durch die Hintertür. Wenn eine Situation akut wird, sollte nicht die nächste Analyse im Vordergrund stehen, sondern der Weg zu erreichbarer Hilfe. Und wenn jemand bei der Umsetzung eines grundsätzlich verstandenen Problems immer wieder festhängt, kann die richtige nächste Funktion tatsächlich darin bestehen, einen Menschen hinzuzunehmen.
Dabei möchte ich vermeiden, dass wir irgendwann einen völlig starren Katalog bauen, in dem für jedes Stichwort automatisch derselbe Referral ausgelöst wird. Menschen und Situationen sind dafür zu unterschiedlich. Eine belastende Aussage kann Teil einer normalen schwierigen Lebensphase sein oder Hinweis auf eine akute Krise. Ein wiederkehrendes Problem kann noch gut selbst bearbeitbar sein oder inzwischen so festgefahren, dass weitere automatisierte Hinweise kaum etwas verändern. Diese Unterschiede brauchen Regeln und fachliche Prüfung, aber eben auch Kontext.
Deshalb finde ich es sinnvoll, die Schwellen nicht allein aus unserer Produktperspektive festzulegen. Für einige Bereiche haben wir bereits sehr klare Grenzen, bei anderen müssen wir sie mit Fachpersonen entwickeln. Genau deshalb sind Gespräche mit Coaches, Therapeutinnen und anderen potenziellen Begleitern für mich nicht nur Partnerakquise. Sie gehören zur Produktentwicklung. Ich möchte wissen, an welchen Stellen unsere Vorstellung von einer hilfreichen Übergabe mit der tatsächlichen Praxis übereinstimmt und wo nicht.
Vielleicht stellt sich dabei auch heraus, dass manche Dinge, die ich heute digital vorbereiten möchte, in der Praxis kaum Nutzen bringen. Dann müssen wir sie nicht bauen. Umgekehrt werden Fachpersonen wahrscheinlich Dinge benennen, die ich von der Nutzerseite aus gar nicht als relevant erkannt hätte. Genau für solche Korrekturen soll das System offenbleiben.
Ein wichtiger Grundsatz bleibt für mich trotzdem bestehen: Der Human Companion Layer darf nicht zum Vorwand werden, immer mehr persönliche Daten zu sammeln. Nur weil eine spätere Fachperson theoretisch von einer Information profitieren könnte, muss INNENSCHAU sie nicht vorsorglich überall erfassen. Die Datenfrage beginnt weiterhin beim konkreten Zweck. Was braucht der Nutzer für seine eigene Untersuchung? Was braucht eine Fachperson für eine bestimmte Zusammenarbeit? Was möchte der Nutzer tatsächlich teilen? Diese Fragen müssen getrennt bleiben.
Dasselbe gilt für die wirtschaftliche Seite. Natürlich kann Vermittlung irgendwann Teil eines Geschäftsmodells sein. Buchung, Infrastruktur oder zusätzliche Funktionen können einen Wert haben. Daraus darf aber kein Anreiz entstehen, Menschen möglichst früh in kostenpflichtige Begleitung zu schieben oder sie möglichst lange darin zu halten. Wenn ein Mensch ein Problem selbst lösen kann, soll die Anwendung nicht künstlich erklären, dass dafür unbedingt ein Coach gebraucht wird. Und wenn professionelle Hilfe nötig ist, sollte die Empfehlung nicht davon abhängen, ob wir an genau dieser Fachperson mitverdienen.
Sonst hätten wir nur eine neue Version derselben Mechanismen gebaut, die ich an Coaching- und Plattformmärkten bereits kritisiere.
Für mich ist der Human Companion Layer deshalb auch eine Prüfung unserer eigenen Werte. Es ist leicht zu sagen, dass der Mensch im Mittelpunkt steht. Interessanter wird es dort, wo ein menschlicher Kontakt bedeutet, dass das System selbst weniger wichtig wird. Vielleicht braucht jemand INNENSCHAU danach nur noch zur Dokumentation zwischen zwei Terminen. Vielleicht verschwindet es für dieses Thema vollständig aus dem Prozess. Wenn die Zusammenarbeit dadurch besser wird, muss das Produkt damit leben können.
Ich möchte langfristig ein System bauen, das sehr genau darin werden kann, zu erkennen, wann seine eigene Stärke endet. Nicht weil wir technische Entwicklung begrenzen wollen, sondern weil wir unterscheiden müssen zwischen einer Aufgabe, die noch besser automatisiert werden kann, und einer Aufgabe, deren Wert gerade darin besteht, dass ein realer Mensch Verantwortung übernimmt.
Das ist für mich keine romantische Vorstellung davon, dass menschliche Arbeit grundsätzlich überlegen wäre. Menschen können sich irren, schlechte Diagnosen stellen, Grenzen überschreiten und genauso manipulativ arbeiten wie ein digitales System. Genau deshalb bleiben Provenienz, Widerspruch und Korrektur auch nach einer menschlichen Übergabe wichtig. Der Unterschied besteht darin, dass eine reale Fachperson etwas übernehmen kann, was eine Anwendung nicht simulieren sollte: eine konkrete professionelle Beziehung mit einem klaren Scope und realer Verantwortung.
INNENSCHAU soll diese Beziehung nicht ersetzen. Es soll dafür sorgen, dass sie besser beginnen kann, dass wichtige Informationen nicht verloren gehen und dass zwischen den Kontakten sinnvolle Struktur vorhanden bleibt.
Wenn es irgendwann an einer Stelle sagen muss, dass ab hier ein Mensch gebraucht wird, ist das deshalb keine Fehlermeldung.
Es ist eine der Funktionen, die ich bewusst bauen will.
INNENSCHAU soll wissen, wann es nicht mehr um Analyse geht
Wenn ich den Human Companion Layer auf einen Grundsatz reduzieren müsste, dann wäre es wahrscheinlich dieser: Nicht jedes Problem wird besser, nur weil man es noch genauer analysiert. Irgendwann kann genug verstanden sein. Dann liegt die nächste Schwierigkeit nicht mehr darin, noch einen Zusammenhang zu finden, sondern etwas umzusetzen, auszuhalten, medizinisch abzuklären, gemeinsam zu besprechen oder in einer akuten Situation überhaupt erst sicher durch die nächsten Stunden zu kommen.
Gerade dort muss INNENSCHAU unterscheiden können, welche Aufgabe gerade vorliegt. Wenn jemand seine eigenen Muster besser verstehen möchte, kann ein digitales System sehr weit helfen. Wenn jemand einen Verlauf für eine Diagnostik vorbereitet, kann es Informationen ordnen und Lücken sichtbar machen. Wenn jemand Unterstützung bei der Umsetzung braucht, kann es den Übergang zu einem geeigneten Menschen vorbereiten. Wenn eine unmittelbare Gefährdung besteht, verschiebt sich die Priorität noch einmal vollständig. Dann interessiert mich nicht mehr, ob wir die perfekte Erklärung für die Krise gefunden haben. Dann zählt zuerst, dass reale Hilfe erreichbar wird.
Diese Reihenfolge ist mir wichtig, weil ein analyseorientiertes System sonst leicht seine eigene Logik auf jede Situation überträgt. Wenn das Werkzeug hauptsächlich dafür gebaut wurde, Zusammenhänge zu erkennen, wird der nächste Reflex immer noch eine weitere Analyse sein. Das ist bei einem Hammer dasselbe Problem wie bei einer KI: Irgendwann sieht alles wie die Aufgabe aus, für die das Werkzeug besonders gut geeignet ist. INNENSCHAU braucht deshalb Mechanismen, die bewusst erkennen, wann genau diese Stärke gerade nicht mehr die wichtigste ist.
Manchmal wird die Grenze sehr klar sein. Bei konkreter akuter Selbst- oder Fremdgefährdung, medizinischen Entscheidungen oder Situationen, in denen professionelles Handeln notwendig wird, soll das System keine künstliche Gleichwertigkeit simulieren. Andere Fälle werden schwieriger. Vielleicht kommt jemand seit Wochen bei derselben Sache nicht weiter. Die Lage ist nicht akut, aber auch die fünfzehnte automatische Reflexionsfrage wird wahrscheinlich nichts verändern. Genau dort kann menschliche Begleitung sinnvoll werden, obwohl die KI theoretisch noch genug Text produzieren könnte.
Das ist für mich ein wichtiger Unterschied. Der Scope eines Systems endet nicht erst dort, wo es technisch gar nichts mehr sagen kann. Er kann schon dort enden, wo das, was es noch sagen könnte, nicht mehr die beste Form von Hilfe wäre.
Gerade deshalb möchte ich den Human Companion Layer auch nicht nur als Sicherheitsfunktion verstehen. Er ist genauso eine Qualitätsfunktion. Ein guter Übergang kann verhindern, dass ein Nutzer monatelang in digitaler Selbstanalyse hängen bleibt, obwohl das eigentliche Problem längst eine konkrete Entscheidung oder reale Umsetzung geworden ist. Umgekehrt kann die digitale Vorbereitung verhindern, dass wertvolle menschliche Zeit für Dinge draufgeht, die sich vorher wesentlich besser strukturieren ließen.
Für mich wäre das langfristig eine ziemlich klare Arbeitsteilung. INNENSCHAU hält Informationen über Zeit verfügbar, kann Beobachtungen ordnen, Widersprüche markieren, Fragen vorbereiten und relevantes Material für einen bestimmten Zweck auswählen. Der Mensch bringt etwas hinein, das nicht einfach nur aus mehr Daten besteht: Verantwortung, Beziehung, situative Anpassung, fachliche Praxis und die Möglichkeit, auf eine konkrete Person in einer konkreten Situation zu reagieren.
Dabei soll niemand gezwungen sein, die gesamte persönliche Geschichte offenzulegen. Ein guter Übergang müsste eher das Gegenteil leisten. Aus vielleicht sehr vielen Informationen entsteht ein begrenztes Paket für eine konkrete Frage. Der Nutzer kann nachvollziehen, was darin enthalten ist, und soweit die Situation es zulässt entscheiden, was tatsächlich weitergegeben wird. Die Fachperson bekommt nicht „den Menschen als Datensatz“, sondern genau den Kontext, den sie für die jeweilige Zusammenarbeit braucht.
Dasselbe Prinzip gilt danach weiter. Ein Gespräch mit einem Coach, einer Therapeutin oder einem Arzt soll nicht einfach unsichtbar in das persönliche Modell zurückfließen und dort alles überschreiben. Auch menschliche Einschätzungen brauchen Herkunft, Kontext und einen klaren Status. Sonst würden wir die Deutungshoheit, die wir der KI bewusst nicht geben, nur an der nächsten Stelle wieder einführen.
Ich finde gerade diese Balance wichtig. Ich möchte Fachpersonen ernst nehmen, ohne sie zu Orakeln zu machen. Ich möchte KI sehr weit nutzen, ohne ihr professionelle Rollen anzudichten. Und ich möchte Nutzer in ihrer Selbstbestimmung stärken, ohne so zu tun, als müsse jeder Mensch jede Schwierigkeit allein bewältigen können.
Selbstbestimmung heißt für mich nämlich nicht, dass man keine Hilfe braucht. Sie bedeutet eher, dass Unterstützung die eigene Handlungsfähigkeit vergrößert, statt sie zu ersetzen. Wenn ein digitaler Prozess dazu führt, dass jemand besser vorbereitet in ein Gespräch geht, klarer sagen kann, was er braucht und danach wieder mehr eigene Orientierung hat, dann ist das für mich genau die Richtung.
Vielleicht ist das auch der Grund, warum ich die menschliche Ebene nicht als spätere Zusatzfunktion sehe. Sie gehört eigentlich schon zur Grundidee von INNENSCHAU. Das System soll kein abgeschlossenes Universum werden, in dem jede Frage wieder zu einer neuen Funktion führt. Es soll in ein reales Leben eingebettet bleiben, in dem andere Menschen, Beziehungen, professionelle Hilfe und Entscheidungen außerhalb der Anwendung weiterhin existieren.
Wenn INNENSCHAU irgendwann gut genug wird, soll es deshalb nicht stolz darauf sein, dass kein Mensch mehr gebraucht wird. Mir wäre eher wichtig, dass es sehr genau darin wird, zu unterscheiden, wo Technik wirklich entlastet und wo sie Platz machen sollte.
Dann wäre der Human Companion Layer kein Eingeständnis, dass die KI an einer Stelle versagt hat. Er wäre der Beweis, dass das System seinen eigenen Zweck verstanden hat.