»Kein Gewissen, keine Gnade und keine Empathie«

Kirchenzeitung: Herr Hinz, warum führen wir dieses Gespräch noch selbst? Das könnte doch die KI für uns erledigen?

Oliver Hinz (lacht): Künstliche Intelligenz ist noch dafür bekannt, oft eher Durchschnitt zu liefern. Daher ist unser Gespräch, das Gespräch zwischen echten Menschen, durch nichts zu ersetzen. Gleichwohl es Untersuchungen gibt, dass sich Menschen einem Therapeuten in der Gesprächstherapie nicht so sehr öffnen, einer Maschine aber schon. KI ist kein Schicksal, sondern eine Einladung, Verantwortung zu übernehmen.

Ist die Entmenschlichung neuerdings ein Vorteil?

Hinz: Manchmal ist das bei Menschen so. Google weiß auch, wann die nächste Grippewelle kommt, weil die Leute nach Grippe-Symptomen suchen. Es ist schon erstaunlich, dass OpenAI-Chef Sam Altmann davor warnt, dass all diese Chatfenster gespeichert werden – und die Leute geben dort wirklich alles ein. Ich glaube, diese Maschine stellt eine Distanz dar, die die Menschen offener sein lässt. Bis hin zur Leichtsinnigkeit.

Wann wird aus der Maschine, die mir hilft, die allwissende Datenkrake, deren Wissen mir in falschen Händen schaden kann?

Hinz: Das ist das Thema: Es fehlt derzeit an Kontrolle. Wenn ich die KI bewusst als Assistenzsystem nutze, ist es sogar gut, wenn sie meine Marotten kennt, meine Vorlieben – und mir dadurch besser helfen kann. Wenn es eine bewusste Entscheidung ist, kann ich mit der KI bestimmte Details teilen, die ich in dieser Form sonst keinem anvertrauen würde.

Gab es diese Hoffnungen nicht schon mit Blick auf Social Media?

Hinz: Wir haben bei Social Media auch erhofft, dass wir Teilhabe ermöglichen. Menschen können plötzlich mit anderen Menschen reden, die sie sonst nie getroffen hätten. Vielleicht hätte es auch so etwas wie den Arabischen Frühling nie gegeben ohne Twitter. Heute reden wir über X ganz anders, und in demokratischen Gesellschaften beschweren wir uns über die Fragmentierung, Echo-Kammern und Silobildung, die einen gemeinsamen Diskurs unmöglich machen. Die KI kann Teilhabe ermöglichen, beispielsweise indem sie Texte in einfacher Sprache Menschen zugänglich macht. Sie kann aber auch Halluzinationen und Falschinformationen erzeugen. 

Wo noch unterstützt uns die KI heute schon – bewusst oder unbewusst?

Hinz: KI ist bei der Wettervorhersage eingebunden, beim Erstellen von Börsenkursen, beim autonomen Fahren und in Elektrofahrzeugen. KI-gestützte Lerntools ermöglichen einen Zugang zu Nachhilfe – unabhängig vom Geldbeutel der Eltern. KI spielt zunehmend bei der Krebsfrüherkennung und in der Medizin eine Rolle, sie ist super bei Übersetzungen und kann sogar verblüffend gute Predigten erzeugen. Ein Chatbot ersetzt sicher kein seelsorgerisches Gespräch, aber er ist super, um Menschen auf die richtige Spur zu setzen, sie zu einem passenden Angebot zu lotsen. KI ist immer dann sinnvoll, wenn sie Menschen unterstützt, Aufwände reduziert und Freiräume schafft, damit sich Menschen anderen wichtigen Aufgaben zuwenden können.

Wo liegen die Risiken?

Hinz: KI hat kein Gewissen, keine Gnade und keine Empathie. Selbst die Erfinder der Künstlichen Intelligenz warnen davor, dass die KI uns aus sich heraus gefährdet. Das ist gar nicht mehr so Science-Fiction-artig. Es gibt heute schon KI-Systeme, die autonom andere KI-Systeme beauftragen. Ich möchte mich nicht in Düstermalerei ergehen, aber bei allen bisherigen und zukünftigen Entwicklungen muss immer eine menschliche Instanz eingebaut werden, die letztlich die Entscheidungen trifft. Ein Vertrauensverlust entsteht immer dort, wo der Mensch die Verantwortung abgibt und unkontrolliert KI einsetzt.

Was ist das entscheidende Kriterium? Bräuchte es eine Regulierung, die weltweit und allumfassend ist?

Hinz: Es braucht dringend Regulierung. Als Experte und Berater möchte ich natürlich einen kritisch-neugierigen Zugang zu KI ermöglichen, in dem man Dinge ausprobiert und feststellt, dass es an manchen Stellen nicht nur verblüfft, sondern wirklich helfen kann. Gleichzeitig brauchen wir den Diskurs. Wir brauchen Bildung, Wertefragen, die offen diskutiert werden. Der Geist ist aus der Flasche und in der Welt. Wir können nicht den Kopf in den Sand stecken. KI ist eine Gestaltungsaufgabe, die auch regulative Aspekte und Sicherheitssysteme beinhaltet. Ich glaube nicht, dass wir uns auf den bestehenden Datenschutzgesetzen ausruhen können. Die Verlockung ist halt sehr groß, da die KI-Systeme schon heute unfassbar viele Aufgaben gut lösen können. 

Haben jüngere Generationen einen eher unbefangeneren Zugang zur Künstlichen Intelligenz?

Hinz: Ich formuliere es anders: Die älteren Generationen können den Output einer KI besser beurteilen. Weil wir es anders gelernt haben. Die Jüngeren haben oft ein direktes Vertrauen in die KI. Dabei ist die KI nur eine extrem schnelle Wahrscheinlichkeitsmaschine. Sehr gut sogar, viel besser und schneller als wir Menschen. Sie simuliert Kreativität durch Musterverknüpfung – aber nicht aus eigenem Erleben heraus. Eine Diskussion über KI sollte auch Anlass sein, neu über das Mensch-Sein nachzudenken, uns selbst neu zu positionieren. 

Wird die KI nicht dennoch Menschen verdrängen? Wie verändert die KI bereits unsere Gesellschaft?

Hinz: Wir sind auf dem Weg zu einer technisierten Gesellschaft. Die KI ist eine der größten Disruptionen, die wir seit Langem gesehen haben. Sie bietet eine Chance, die eigenen Fähigkeiten zu erweitern und kann viele Routine-Aufgaben übernehmen. Es wird Berufe geben, die deswegen unter Druck geraten, aber in anderen Branchen entstehen neue Jobs. Ein Mensch wird nicht von der KI ersetzt, sondern von einem Menschen, der KI kann. Das ist die Zukunft, das wird vielen von uns im beruflichen Alltag begegnen. Umso wichtiger ist es, in Fortbildungen zu investieren, sich mit dem Thema zu beschäftigen. Angesichts des Arbeitskräftemangels in vielen Bereichen können KI-gestützte Systeme Menschen die Arbeit erleichtern und Freiräume schaffen, neue Perspektiven bieten.

Verändert KI unseren Blick auf die Welt?

Hinz: Falschinformationen und Manipulationen gab es schon immer. Deep Fakes, Fake News, der Einsatz von KI-generierten Inhalten aus extremistischen Lagern und die Machtkonzentration großer Tech-Konzerne lassen schon die Frage aufkommen, wer künftig den Ton angibt. Neben einer Kennzeichnungspflicht  für KI-generierte Beiträge sollte es Warnhinweise wie auf Zigaretten-Packungen geben: „Überhöhter KI-Genuss kann fehlende Transparenz und Vertrauensverlust mitbringen.“

Oliver Hinz ist von Haus aus Journalist und berät Medienunternehmen, Redaktionen und Kreativteams dabei, wie sie generative KI sinnvoll einsetzen – um effizienter zu arbeiten, kreativer zu produzieren und relevante Inhalte schneller zu veröffentlichen. Seine redaktionelle Heimat hat er seit 2001 beim WDR, insbesondere bei 1LIVE und der ARD Sportschau. 2015 gründete er die Beratungsfirma HAUS HINZKI, um sich ganz dem digitalen Storytelling und der strategischen Innovationsberatung zu widmen.
Als KI-Berater verbindet er redaktionelles Denken mit technologischem Know-how. Er experimentierte früh mit Sprachmodellen, testete KI-gestützten Videoschnitt für Redaktionen und entwickelt heute praxisnahe KI-Strategien und Schulungsformate. Hinz hat Politikwissenschaft, Geschichte und Anglistik (M.A.) studiert und lehrt unter anderem an der TH Köln.