Das Recht verlässt sich bei der Kennzeichnung von KI-Inhalten auf eine einzige Annahme: Ein Mensch kontrolliert. Auf den MEDIENTAGEN MÜNCHEN 2026 wurde diese Annahme an drei Stellen auseinandergenommen – einmal mit Daten, einmal mit einem Selbstversuch und einmal von einer Seite, an die bei KI kaum jemand denkt.
Hält der Mensch wirklich in der Arbeitsschleife?
Wie belastbar diese Annahme ist, hat auf dem Kongress kaum jemand gefragt, denn sie wurde einfach vorausgesetzt. Ein Rechtsanwalt formulierte sie am Donnerstag so: In dem Moment, in dem ein Mensch noch einmal darüberschaue, sei man auch bei KI-generierten Texten im Grunde raus. Am Freitagmorgen auf der Green Stage hielt dann Prof. Shannon Vallor von der University of Edinburgh eine Keynote, die genau diese Annahme auseinandernimmt. Sie leitet dort das Centre for Technomoral Futures.. „Aber das ist eine Leitplanke, die nicht hält. Nicht, dass sie nicht manchmal nötig wäre – aber sie ist fast nie ausreichend.“ Ihre erste Begründung ist schlicht und einleuchtend, denn die Geschwindigkeit und der Umfang, in dem diese Systeme arbeiten, seien für Menschen nicht einholbar. Und sie fügt hinzu, dass wir diese Systeme gar nicht bräuchten, wenn sie in unserem Tempo arbeiten würden, sodass wir sie leicht beaufsichtigen könnten.
Die zweite Begründung in einem Satz: „Die Lektion: ‚Human in the loop‘- oder ‚on the loop‘-Verfahren versagen, wenn es zuvor eine Kaskade gab – vom Auslagern des Denkens über den Verlust der Fähigkeit bis zur Kapitulation. Wichtig zu wissen: Diese Kaskaden sind empirisch auch bei erfahrenen, leistungsstarken Fachleuten nachgewiesen, nicht nur bei Anfängern.“ Wer die Urteilskraft verloren habe, weil er das Denken ausgelagert hat, könne die Maschine auch nicht mehr beaufsichtigen. Das Recht verlässt sich also auf genau die Instanz, die am selben Ort und mit Daten belegt für unzuverlässig erklärt wird.
Beides gehörte zum Programm desselben Kongresses. Aus derselben Keynote stammt noch ein weiterer Befund.. Sie berichtete, junge Menschen stünden der KI am negativsten gegenüber, und die Ablehnung wachse. Sie fügte noch hinzu: denn normalerweise seien junge Leute die Begeisterten und die Älteren die Ängstlichen, und hier sei es genau umgekehrt.
Was passiert, wenn man sich selbst durch eine KI ersetzt?
Den Beweis für genau diese Kaskade hat am Freitagvormittag jemand geliefert, der sie an sich selbst ausprobiert hat. Von allen Vorträgen dieser drei Tage ist mir dieser am nächsten gegangen, weil er meinen eigenen Beruf betrifft. Der Journalist und Autor Yves Bellinghausen, der für das ZEIT-Dossier schreibt, hat sich selbst als telefonierende KI nachgebaut. Erst war es eine Spielerei, nämlich ein Telefonagent mit seiner eigenen, geklonten Stimme, der Restauranttische reserviert. Er spielte den Mitschnitt vor, eine Reservierung für drei Personen um zwanzig Uhr, und es könne ein paar Minuten später werden. Dann fragte er in den Saal, wer bei so einem Anruf aufgelegt hätte, und es gingen fünf, sechs Hände hoch. „Mein Agent hat ein paar Wochen lang einige Leute angerufen, in der Sauna, Fitnessstudio, Klavierhändler – und keiner hat aufgelegt. Jeder hat mit dem gesprochen, als wäre es ein ganz normaler Mensch.“
Irgendwann kam ihm der Gedanke, das Gleiche für seinen Beruf zu probieren, denn sein Job bestehe ja zu großen Teilen aus dem Telefonieren. „Könnte mein Agent nicht einfach auch meinen Job übernehmen?“ Bevor er es ausprobierte, ließ er den Agenten beim Hausjuristen seiner Redaktion anrufen, um zu fragen, ob das überhaupt erlaubt sei. Der Jurist erkannte die Maschine sofort, woraufhin sie ihn anlog und behauptete, ein Mensch zu sein. Seine Lehre daraus: „Kein Mensch hat Bock, sich von einem KI-Agenten anrufen zu lassen und dann auch noch von dem angelogen zu werden.“
Also baute er die Ansage ein, dass es sich um einen KI-Agenten handelt, der im Auftrag anruft. Und dann passierte etwas Eigenartiges: „Sobald mein KI-Agent nicht mehr rumlügt, sondern von Anfang an sagt, dass er ein KI-Agent ist, (…) werden die Leute nicht sauer, sondern die Leute sind auf einmal neugierig.“ Damit die Maschine nicht nur mit seiner Stimme spricht, sondern auch so fragt wie er, hat er ihr seine gesammelten eigenen Interviewaufnahmen gegeben, bereinigt und aufbereitet, mit dem Auftrag, daraus die Regeln abzuleiten, nach denen er Interviews führt. Sie hat es getan. Sie hat die Füllwörter gefunden, aber auch die Mechanismen, die er unbewusst anwendet, und sie in Anweisungen übersetzt. „Vielleicht, wenn ihr sie lest, versteht ihr sie nicht. Ich verstehe sie ehrlich gesagt auch nicht so ganz.“
Danach führte sein Agent vier bis fünf Interviews am Tag, dreißig bis fünfundvierzig Minuten lang, mit Fachleuten und Menschen aus der Wirtschaft – also weit mehr, als er selbst je schaffen könnte. Nicht alle davon waren gut, aber sie waren brauchbar. Eine Interviewpartnerin gab dem Agenten hinterher dieses Feedback: „Mir haben Journalisten ganz selten so detailliert Fragen gestellt. Insofern ist es ein komplett anderes Gespräch gewesen. Ich fand es aber unangenehm.“ Sein trockener Kommentar dazu war, dass er selbst von einer Interviewpartnerin noch nie für ein Interview gelobt wurde. Und dann kamen die drei Dinge, die er gelernt hat. Das erste ist der Satz, wegen dem ich diesen Beitrag überhaupt schreibe: „Ich habe diesen Agenten eigentlich gebaut, weil ich selber einen Assistenten haben wollte. Aber sobald ich den Agenten wirklich an den Kern von meiner Arbeit rangelassen habe, nämlich an das Interview, dann haben sich unsere Rollen irgendwie vertauscht. Auf einmal musste ich ihm die Termine organisieren, und wenn er was in dem Interview vermasselt hat, dann musste ich den Leuten eine Entschuldigungs-E-Mail hinterherschreiben. Es hat sich ein bisschen so angefühlt, als wäre plötzlich ich der Assistent.“
Das zweite ist die Kaskade, von der Shannon Vallor am selben Vormittag gesprochen hatte, nur hier erlebt statt gemessen: „Der hat sich die Fragen überlegt, dann hat er die Fragen gestellt und dann hat er auch noch die Nachfragen gestellt. Und ich habe quasi mein Gehirn einfach ausgeschaltet. Wenn ich das jetzt zwei, drei Jahre lang mache – es ist vollkommen klar, dass ich selber kaum mehr Interviews werde führen können. Und dass ich dann auch nicht mehr beurteilen kann, ob eine KI ein wirklich gutes Interview geführt hat.“
Zwei Vorträge, zwei Bühnen, ein Vormittag. Die eine sagt, der Mensch in der Produktionsschleife verliert seine Urteilskraft, dem anderen ist es passiert. Yves Bellinghausen schloss seinen Vortrag mit den Worten: „Obwohl ein KI-Agent wirklich technisch dazu in der Lage ist, bestimmte Aspekte von Journalismus auszuführen (…) glaube ich, dass das auf keinen Fall die Zukunft von Journalismus ist. (…) Für mich hat es sich in diesen Wochen die ganze Zeit alles ein bisschen falsch angefühlt. Und das macht mich am Ende so ein bisschen hoffnungsfroh, dass es Dinge gibt, die für Menschen erst dann einen richtigen Wert haben, wenn andere Menschen sie erstellt haben.“
Und was ist mit den Gefühlen?
Der Journalist und Autor Christoph Koch begann am Mittwochabend seinen Vortrag mit zwei Fragen ans Publikum. Erstens, wer zu seiner KI bitte und danke sage, woraufhin etwa die Hälfte der Hände hochging. Zweitens, wer einer KI schon einmal ein Geheimnis anvertraut oder etwas erzählt habe, das er sonst niemandem erzählt. Da waren es deutlich weniger Hände, aber in seiner eigenen Arbeitsgruppe, sagte er, seien es hundert Prozent gewesen.
Die Zahlen dazu sehen so aus: Nach einer Erhebung von Anfang des Jahres nutzen achtzehn Prozent der KI-Nutzenden die Systeme inzwischen, um Beziehungsfragen zu besprechen. Bei den unter Dreißigjährigen sind es mehr als doppelt so viele, und fast ein Drittel der unter Dreißigjährigen sagt einer KI Dinge, die sie sonst niemandem erzählen.
Sein Befund: „Wir haben über KI ganz lange immer als Produktivitätstool gesprochen, als Jobkiller (…) Aber es verändert sich gerade, dass wir mehr und mehr KI als emotionales Gegenüber nutzen, als offenes Ohr.“ Er nennt das einen Wettbewerb um Bindung und sagt, die Medien spielten dabei noch nicht mit. Was es auf Medienseiten gebe, seien „eher so bessere Archivdurchsuchungsmaschinen oder vielleicht nachts geklonte Stimmen, die auf dem Radiosender Verkehrsfunk oder Wetter durchsagen.“
Zwei Experimente seien gerade gestartet, denn ein Nachrichtenmagazin hat fünfzig Podcastfolgen seiner Berufe-Reihe in einen Chatbot gefüttert und ein Zeitungsmagazin alle Inhalte seines Ressorts zu Freundschaft, Liebe und Sex. Beide allerdings ohne Gedächtnis, also ohne dauerhafte Bindung. Dann die Aussage, was Medienhäuser können und was Chatbots nicht: „Wir kennen alle diese Überbestätigung von KI-Chatbots, dass uns die KI im Zweifelsfall immer recht gibt und sagt: Das ist eine sehr, sehr gute Frage, das ist eine tolle Idee. Das sind sozusagen Ja-Sager und böse gesagt Speichellecker. Medienhäuser hätten die Chance, auch mal zu widersprechen und zu sagen: So, das deckt sich leider nicht mit den Fakten. (…) Diese Verpflichtung gegenüber der Wahrheit ist vielleicht die größte Chance, die Medienhäuser haben.“
Sein Ratschlag für alle, die sich auf dieses Feld wagen: mit offenen Karten spielen. Denn wenn Medien wegen KI-Einsatz Ärger bekommen hätten, dann fast immer deshalb, weil sie es nicht klar gekennzeichnet hatten. Er hat zu dem Thema ein Buch geschrieben, indem es um Menschen geht, die Trost, Freundschaft und manchmal Liebe in Maschinen suchen.
„Hallo, wie fühlst du dich heute? Wie künstliche Intelligenz unsere Beziehungen verändert“, erschienen bei Kein & Aber und nominiert für den NDR Sachbuchpreis 2026, emotionaleki.de
Im Gespräch nach dem Vortrag erzählte er von Leuten, die durch einen Chatbot glücklich wurden, und von Menschen, die wegen eines Chatbots Liebeskummer haben. Das ist weit weg von Adventsmärkten und Rauhnachtwanderungen. Und doch steht dahinter dieselbe Frage wie überall sonst auf diesem Kongress: Wofür braucht man eigentlich noch einen Menschen? Seine Antwort: darauf: um zu widersprechen.
Was heißt das alles für meine eigene Arbeit?
Shannon Vallor sagt, die Kontrolle durch Menschen hält nicht, wenn die Urteilskraft vorher verloren geht. Yves Bellinghausen ist genau das passiert und innerhalb von wenigen Wochen. Christoph Koch behauptet, das Maschinen nicht widersprechen können. Dazwischen liegt eine Linie, an der ich meine eigene Arbeit ausrichte. Ich entscheide selbst, was eine Nachfrage wert ist, und ich fahre selbst hin, um zu fotografieren. Für mich ist das keine Haltungsfrage und auch kein Misstrauen gegen die Technik, sondern die einzige Methode, die Urteilskraft zu behalten, die man überhaupt braucht, um die Technik zu beaufsichtigen. Denn wer das Prüfen verlernt, kann es auch nicht mehr prüfen lassen.
Was aus meinen weiteren Fragen zu den Medientagen wurde – ob sich KI für kleine Unternehmen rechnet, was die neue Kennzeichnungspflicht fordert und warum Regikonalmedien bei Lizenzgeschäften leer ausgehen steht in meinem Hauptbericht – Drei Tage, drei Versuche, eine Frage – mein Resümee zu den MEDIENTAGEN MÜNCHEN 2026.
Weiterlesen:
Meine Sicht auf die Medientage München
Häufige Fragen
Hält der Mensch in der Schleife wirklich?
Prof. Shannon Vallor von der University of Edinburgh nannte die menschliche Kontrolle eine Leitplanke, die nicht hält: fast nie ausreichend, weil Geschwindigkeit und Umfang der Systeme für Menschen nicht einholbar sind – und weil die Urteilskraft derer schwindet, die das Denken auslagern, nachweislich auch bei erfahrenen Fachleuten.
Was passiert, wenn man sich selbst durch eine KI ersetzt?
Der Journalist Yves Bellinghausen hat sich als KI-Telefonagent mit geklonter Stimme nachgebaut und ihn Interviews führen lassen. Sein Fazit: Die Rollen vertauschten sich, er wurde zum Assistenten seiner eigenen Maschine, und er merkte, dass er das Urteil darüber verlor, ob ein Interview gut war. Sein Schluss trotzdem: Das ist nicht die Zukunft des Journalismus. Nachzulesen in seinem ZEIT-Text „Ich habe mich selbst als KI nachgebaut. Sieht nicht gut aus für mich“. Nachzulesen ist der Selbstversuch in seinem Text für die ZEIT, „Ich habe mich selbst als KI nachgebaut. Sieht nicht gut aus für mich“. Seine übrigen Arbeiten stehen auf yvesbellinghausen.de.
Und was ist mit den Gefühlen?
Nach einer Erhebung von Anfang 2026 besprechen achtzehn Prozent der KI-Nutzenden Beziehungsfragen mit einer KI, bei den unter Dreißigjährigen mehr als doppelt so viele. Christoph Koch, dessen Buch „Hallo, wie fühlst du dich heute? Wie künstliche Intelligenz unsere Beziehungen verändert“ (Kein & Aber) für den NDR Sachbuchpreis 2026 nominiert ist, sieht darin eine Chance für Medien: Chatbots geben im Zweifel immer recht – Medienhäuser dürfen widersprechen.
Was heißt das alles für meine eigene Arbeit?
Selbst entscheiden, was eine Nachfrage wert ist, und selbst hinfahren zum Fotografieren. Nicht aus Misstrauen gegen die Technik, sondern weil nur so die Urteilskraft erhalten bleibt, die man zum Beaufsichtigen braucht.