Journalismus und KI: Chancen & Grenzen von Künstlicher Intelligenz in den Medien

1. KI im Journalismus
2. KIs unterscheiden: Definition
3. Anwendungsbereiche von KI im Journalismus
   1. Nachrichten-Aggregation
   2. Automatisierte Schreibprozesse
   3. Bilderstellung
   4. Monitoring von Social Media
4. Leichter und effizienter durch KI im Journalismus
   1. Nachrichten verstehen und Zielgruppen erweitern
   2. Mit Videos Zielgruppe erweitern
   3. Zeitersparnis bei der Erstellung von Nachrichtenclips
   4. KI im Alltag der Medien angekommen
5. Grenzen von KI im Journalismus
6. Ethische Grundsätze beim Einsatz von KI im Journalismus
   1. Gesetze und Richtlinien
   2. Unconscious Bias
7. Erfolgreiches Arbeiten mit KI in den Medien
   1. Datenlage
   2. Teamstruktur
   3. Transparenz
   4. Was brauchst du wirklich?
   5. Was willst du preisgeben?
8. Der Journalismus der Zukunft mit KI
9. Fragen und Antworten zum Thema KI in den Medien

KI im Journalismus

Obwohl KI schon seit mehreren Jahren in den Medien Anwendungsfelder findet, hat das Thema erst in diesem Jahr seine bisher größte Aufmerksamkeit bekommen. Seit dem Release des KI-Programmes “ChatGPT 3.5” ist eine Diskussion über Künstliche Intelligenz in der Medienbranche entbrannt. Dabei wird unter anderem die große Frage gestellt, ob KI den Journalismus abschaffen könnte oder doch eher beflügelt? Die Antwort darauf liegt allerdings nicht in der Technologie, sondern im Umgang mit der KI.

KI bietet viele Möglichkeiten, um die Arbeitsweisen zu erweitern, birgt allerdings auch Risiken, wenn man mit der Technologie nicht bewusst umgeht. Eins ist sicher, die Technologie entwickelt sich weiter. Folgeversionen von ChatGPT sind bereits auf dem Markt und neue KI-Anwendungen von diversen Anbieter:innen sprießen aus dem Boden wie Pilze. Auf was Medienschaffende alles achten sollten, wie sie Chancen nutzen und welche Fragen wirklich relevant sind, beantwortet dieser Text.

KIs unterscheiden: Definitionen von Künstlicher Intelligenz

Der Begriff KI stützt sich auf die deutsche Bezeichnung Künstliche Intelligenz und ist ein Überbegriff für eine Technologie. Ein weiterer Begriff dafür ist AI, was sich aus dem englischen Begriff Artifical Intelligence ableitet.

Eine KI ist also eine Technologie, die menschliche Fähigkeiten, wie etwa logisches Denken oder Kreativität, nachahmt. Dabei nutzt das System Algorithmen, die stetig (autonom) dazulernen, indem sie ihre Datenbank erweitern und analysieren. Wer sich intensiv mit KI auseinandersetzt, wird schnell erkennen, dass KI nicht gleich KI ist. Um zu verstehen, mit welcher KI es Medienschaffende zu tun haben, sollten sie auf die genaue Bezeichnung achten. Eine kleine Auswahl von verschiedenen Arten von KI, die in den Medien stattfinden, ist in der Tabelle aufgeführt.

Anwendungsbereiche von KI im Journalismus

Im Journalismus gibt es bereits viele Einsatzgebiete von KI, vom klassischen Schreiben bis hin zur Archivierung von Filmmaterial. Bekannte Tasks sind neben Schreibprozessen, wie durch das gehypte Programm ChatGPT, auch die Erstellung von Bildmaterial oder das Kuratieren von Feeds.

Nachrichten-Aggregation

Die Zusammenstellung von Nachrichten oder die Kuration für personalisierte News ist ein beliebter Anwendungsfall. Ein Beispiel dafür ist die Empfehlung von Artikeln auf News-Seiten. Die KI analysiert die Interessen des Users oder der Userin und schlägt basierend auf den individuellen Vorlieben passende Artikel vor.

Auch die automatische Zusammenfassung von Artikeln passiert häufiger als den Leser:innen bewusst ist. Solche verkürzten News kommen in Social-Media-Feeds oder in Newslettern zum Einsatz.

Ebenfalls auf einer Nachrichten-Aggregation basierend, aber anders genutzt, kann die KI im Journalismus bei Trendanalysen helfen. Dabei durchsucht die KI die Nachrichtenlage und leitet daraus relevante Themen ab. An jenen Trends ausgerichtet, publizieren Redaktionen Artikel in der Hoffnung, Reichweite zu generieren. Auch bereits erschienene Artikel werden in der Timeline wieder weiter oben platziert.

Automatisierte Schreibprozesse

Das bekannteste Tool für die automatisierte Texterstellung ist ChatGPT. Dahinter steckt das Sprachmodell GPT-3.5 von der Firma OpenAI aus den USA. Durch die Eingabe von sogenannten Prompts (das sind Arbeitsanforderungen an das System) erstellt die KI einen Text. Weiterentwickelte Versionen, wie etwa ChatGPT 4, können auch Bilder erkennen und daraus Handlungen ableiten. Durch Anbindungen an Redaktionssysteme können auch simple Text automatisch erstellt werden. Beliebte Use Cases sind die Zusammenfassung von Fußballergebnissen oder die Wettervorhersage.

Neben ChatGPT gibt es viele weitere Tools, die bei Schreibprozessen unterstützen. Ein KI-gestützter Textgenerator, der für Produktbeschreibungen, Social-Media-Texte oder für die Formulierung von E-Mails eingesetzt werden kann, ist zum Beispiel Copy.AI. Das Tool “QuillBot” schreibt bereits bestehende Texte um, und auch die Rechtschreibprüfung kann über KI abgedeckt werden, zum Beispiel mit “Language AI”. Inzwischen gibt es immer wieder Zusammenfassungen und Updates, welche KI-Tools genutzt werden können. Da diese sich rasant entwickeln, ist eine abschließende Zusammenfassung kaum möglich.

Bilderstellung

Die Erstellung von Bildern ist inzwischen ein weiteres Feld, in dem KI auch in den Medien immer mehr eingesetzt wird. Ein Anwendungsfall ist die Veränderung von bereits vorhandenem Bildmaterial. Was früher aufwändig mit einem Bildbearbeitungsprogramm geschah, geht inzwischen auf Knopfdruck. Bekannt wurde die Technologie beispielsweise durch die Generierung von Memes. Ein bekanntes Tool zur Veränderung von Bildvorlagen ist das Tool Midjourney. Durch Text-to-Image-Eingabe erstellt das Programm Bildvorlagen wie beispielsweise alle US-Präsidenten im Vokuhila-Look.

Auch die Erstellung von komplett künstlich generierten Bildern ist mit einer KI im Journalismus möglich. User:innen geben lediglich einige Vorgaben ein und die KI erstellt darauf basierend ein Bild. Was als Spielerei begonnen hat, ist inzwischen schon ein Werbemarkt. Zum Beispiel launchte die Marke Afri-Cola eine Werbekampagne, die nur aus KI-Tools erstellt wurde. Dabei kam unter anderem das Tool “Dall-E” zum Einsatz. Was in der Werbekampagne noch verspielt und crazy aussieht, geht aber auch anders. Das Tool “Decoder” generiert beispielsweise lebensechte Porträts von Personen. Diese Personen gibt es in der Realität nicht und sie sehen täuschend echt aus. Diese Bilder können unter anderem für Anzeigen, die Bebilderung von Artikeln oder als Social-Media-Profile eingesetzt werden. Inzwischen haben auch Full-Service-Plattformen, wie etwa “Canva”, eine integrierte KI, welche eine Bilderstellung ermöglicht.

Monitoring von Social Media

KI-Systeme im Journalismus können verwendet werden, um die Echtheit von Nachrichteninhalten zu überprüfen, indem sie beispielsweise automatisierte Faktenchecks durchführen oder die Quelle des Inhalts überprüfen. Wie bei jeder KI-Anwendung gilt: Der Algorithmus ist nur so gut, wie die Daten, mit denen er gespeist wird. Das bedeutet, wenn dem Algorithmus Falschinformationen zugrunde gelegt werden, dann wird die Verifizierung von Nachrichten genauso falsch sein.

Auch die Stimmung im Netz ist für Unternehmen ein wichtiger Indikator. KI kann dabei helfen Kommentare auf Social-Media-Plattformen zu analysieren und gegebenenfalls warnen. Kommt beispielsweise ein Posting negativ an, dann schlägt das System Alarm. Das kann im Kleinen genutzt werden, indem der Thread dann durch eine Person moderiert wird, kann aber auch im Großen den entscheidenden Zeitvorsprung bei einer professionellen Krisenkommunikation liefern.

Leichter und effizienter durch KI im Journalismus

Medien-Startups sind schon weiter, wenn es um die Einbindung von KI geht. Es gibt inzwischen schon viele Anwendungen, die für die Medienbranche nicht nur spannend sind, sondern auch tatsächliche Vorteile mit sich bringen. Durch KI-Anwendungen können Journalist:innen, Filmschaffende oder Redakteur:innen tatsächlich schneller und effizienter arbeiten. Hier sind einige Beispiele.

Nachrichten verstehen und Zielgruppen erweitern

Die Medienforschung bestätigt, dass sich Leute von Nachrichten und Informationen überfordert fühlen. In einer komplexen Welt fällt es zunehmend schwerer, Inhalte zu begreifen und zu verstehen.

Das Startup SUMM AI stellt einen Algorithmus zur Verfügung, mit dem Inhalte in eine leicht verständliche Sprache übersetzt werden können. Es müssen lediglich die Texte in den Editor kopiert werden und herauskommt ein Text, aufbereitet als leicht verständlicher Inhalt.

Durch die Vereinfachung von Texten können genau jene Zielgruppen adressiert werden, die komplexe Zusammenhänge schwer erfassen können oder Sprachbarrieren haben. Einige Medien, wie etwa der Deutschlandfunk, bieten Inhalte bereits in leicht verständlicher Sprache an.

Mit Videos Zielgruppe erweitern

Junge Zielgruppen präferieren Video-Content im Vergleich zu langen Texten. Deshalb profitieren Medienhäuser davon, ihre Inhalte auch als Video zur Verfügung zu stellen.

Kay Law und Julia Leduc wurden schon mehrfach für ihr Startup Anymate Me ausgezeichnet.

Das Startup Anymate Me ermöglicht eine Text-to-Video-Ausgabe, die für die Ansprache von jungen Menschen gemacht ist. Redakteur:innen geben einen Text ein und wählen eine künstlich generierte Person für die Moderation aus. So entsteht durch wenige Klicks der ursprüngliche Text als Video. Das Tool bietet sich auch an, um User:innen via Video über Funktionen auf einem Online-Portal o.ä. aufzuklären.

Zeitersparnis bei der Erstellung von Nachrichtenclips

Für die Produktion von Bewegtbild kommt auch immer wieder Archivmaterial zum Einsatz. Die passenden Inhalte im Archiv richtig zu taggen und wieder herauszusuchen, kostet Zeit. Das Startup Television.AI markiert Archivmaterial automatisch und kann auf Grundlage des Nachrichtentextes passendes Archivmaterial zur Verfügung stellen. So können schneller und effizienter Nachrichten-Einspieler produziert werden.

KI im Alltag der Medien angekommen

Durch den Einsatz von KI können also jetzt schon Medienunternehmen wirklichen Mehrwert generieren, für neue Zielgruppen interessant werden und Ressourcen freisetzen. Da eine KI datenbasiert agiert, können die Daten auch genutzt werden, um das Produktportfolio auf die Bedürfnisse der Nutzenden auszurichten.

Gerade das Thema Personalisierung wird weiterhin ein wichtiger Faktor für Medien sein. Mit einer umfassenden Datengrundlage kann die Ausrichtung der Medienprodukte besser und individueller gelingen.

Grenzen von KI im Journalismus

Bei all den Versuchen mit KI im redaktionellen Umfeld stellt sich heraus, dass eine externe Kontrolle durch den Menschen bisher unabdingbar ist. Zum Beispiel muss die Qualität von Daten geprüft werden. Im Internet gibt es etwa viele Fehlinformationen oder Hate Speech. Eine KI hinterfragt nicht, ob eine Information faktentreu, realistisch oder praxistauglich ist. Und selbst wenn nur faktentreue Daten hinterlegt sind, kann es dennoch zu Fehlinterpretationen kommen, zum Beispiel durch sogenanntes Halluzinieren.

Ein Beispiel für die Grenzen einer KI zeigte eine skurrile Geschichte eines australischen Supermarktes. Das Unternehmen wollte den User:innen auf ihrer Webseite Rezeptideen zur Verfügung stellen. Dazu konnte man Zutaten, die man zuhause hatte, in eine Eingabemaske tippen. So erstellte der Chatbot “savey-meal”  ein Rezept. Teilweise wurden absurde Vorschläge generiert - zum Beispiel ein Eintopf mit Menschenfleisch. Tödliche Rezepte wie ein “aromatischer Wassermix”, bestehend aus Ammoniak und Bleiche, wurden ebenfalls vorgeschlagen. Das ist zwar ein extremes Beispiel, zeigt allerdings deutlich die Grenzen von KI auf. Bisher gilt immer: Wer einen KI-generierten Text ungeprüft veröffentlicht, läuft Gefahr, Fehlinformationen zu verbreiten und verletzt damit seine journalistische Sorgfaltspflicht.

Auch Fehlinterpretationen sind durch eine KI im Journalismus möglich. Das kann zum Beispiel auf einen mangelnden Datensatz zurückzuführen sein. Eine Fehlinterpretation liegt etwa vor, wenn eine Situation umgedeutet wird, weil die KI den Kontext nicht erschließen kann.

Ein anschauliches Beispiel dafür kommt aus der Stadt Ningpo in China. Dort wird das Verhalten der Bevölkerung mit einem sogenannten Social Score bewertet. Wer zum Beispiel ein Verkehrsdelikt begeht, bekommt eine Negativbewertung. Das Gesicht einer Frau war im Zuge einer Werbekampagne auf einen Bus foliert worden. Jedes Mal, wenn der Bus fuhr und eine rote Fußgängerampel kreuzte, erhielt die abgebildete Dame eine Negativbewertung. Die KI der Gesichtserkennung hatte die Situation fehlinterpretiert und ging davon aus, dass die Frau den Fußgängerübergang bei Rot überschritten hatte.

Beide Beispiele zeigen deutliche Fallstricke bei der Nutzung von KI auf. Doch man sollte auch die Chance in den Möglichkeiten erkennen. Der Rezept-Bot ist grundsätzlich eine gute Idee und kann zum Beispiel als Tool gegen Lebensmittelverschwendung eingesetzt werden. Die KI dahinter war wahrscheinlich unzureichend trainiert und ggf. die falsche Art der KI gewählt. Die Verantwortlichen des Supermarktes haben inzwischen reagiert und die Möglichkeiten der Zutateneingabe beschränkt.

Grundsätzlich sind die hier aufgeführten Grenzen aus Perspektive von AI-Developern eher als Herausforderungen zu sehen. Die Entwicklung von KI schreitet sehr schnell voran, und es ist nur eine Frage der Zeit bis diese Grenzen aufgelöst werden.

Ethische Grundsätze beim Einsatz von KI im Journalismus

Mit der Entwicklung von Algorithmen, als auch in der Anwendung, geht viel Verantwortung einher. Deshalb braucht es Richtlinien und Orientierungspunkte, um eine möglichst stabile Basis dafür zu schaffen. Das sind zum einen gesetzliche Vorgaben und zum anderen auch unternehmensinterne Richtlinien, wie die Zukunft mit dem Einsatz von KI gestaltet wird.

Gesetze und Richtlinien

Eine KI sammelt Daten, wertet diese aus und lernt daraus. Neben bereits geltenden gesetzlichen Vorgaben in der DSGVO, arbeitet die EU an expliziten Richtlinien für KI-Systeme. Zum Beispiel darf die Bewertung von Menschen, sogenanntes Social Scoring, und auch jegliche andere Art von Diskriminierung in Europa, nicht stattfinden. Die EU arbeitet an Richtlinien, die KI sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich machen sollen.

Im Hinblick auf den sich schnell entwickelnden Markt ist davon auszugehen, dass Gesetze und Richtlinien die Herausforderungen nicht allein bewältigen können. Deshalb ist es umso wichtiger, dass Unternehmen sich ebenfalls eigene Richtlinien geben. Das kann zum Beispiel in Form eines Code of Conduct (Verhaltenskodex) oder Transparenzhinweisen für die Community sein. Der Deutsche Journalisten Verband hat bereits ein Positionspapier veröffentlicht, in dem er neun Aspekte für einen verantwortungsvollen Umgang mit KI in den Medien benennt.

Unconscious Bias

Eine weitere große Herausforderung für die Entwicklung und den Einsatz von KI im Journalismus sind unbewusste Vorurteile (Unconscious Bias). Das sind versteckte Fehlannahmen von Menschen, die von einer KI reproduziert werden. Immer wieder kommt es so zu Verfehlungen, die auf den ersten Blick kaum zu erkennen sind.

Ein anschauliches Beispiel dafür kommt aus dem Recruiting. Wer bei der Personalsuche nur auf Daten schaut und dann der KI vertraut, ist nicht automatisch vor Fehlern gefeit. Bei der Angabe von gewünschten Kenntnissen kann eine unbewusste Diskriminierung vorliegen. Zum Beispiel könnte der Algorithmus so angelegt werden, dass Menschen, die nah am Arbeitsplatz leben, gegenüber potenziellen Pendler:innen bevorzugt werden. Befindet sich der Firmenstandort in einer teuren Stadt, so werden nur Menschen berücksichtigt, die sich eine hohe Miete leisten können.

Um den Unconscious Bias gering zu halten, wird in Teams aus Entwickler:innen immer häufiger auf eine heterogene Gruppe geachtet. Auch spezielle Gremien und Vereinigungen bilden sich, damit die KI-Tools mit guten Daten gefüttert werden. Zum Beispiel gibt es die Vereinigung “Black in AI”, die es sich zur Aufgabe gemacht hat, die Bedürfnisse von People of Color bei der Entwicklung von KI-Systemen zu repräsentieren.

Erfolgreiches Arbeiten mit KI in den Medien

Damit Redaktionen KI erfolgreich nutzen können, sollten sie über verschiedene Aspekte nachdenken und eine Grundlage für den Umgang mit KI in den Medien schaffen. Fünf wichtige Punkte sind hier aufgeführt.

1. Datenlage

Damit eine KI sauber arbeiten kann, braucht es eine gut strukturierte Datenlage. Deshalb sind aufgeräumte Archive und einheitliche Dokumentationen die Basis für alles. Des Weiteren benötigt es gute und einfache Anbindungsmöglichkeiten an das System. Wer bereits mit Workarounds arbeitet, hat es grundsätzlich nicht leicht, ein weiteres Tool einzubinden.

2. Teamstruktur

Mit dem Siegeszug der KI in Redaktionen verändern sich auch die Anforderungen an das Redaktionsteam. Journalisten und Journalistinnen benötigen ein gewisses Verständnis für die Technologie, um diese richtig einsetzen zu können und um einzuschätzen, was überhaupt Sinn macht. Medienunternehmen müssen sich deshalb überlegen, wie sie dieses Know-how bereitstellen können.

Dies geschieht entweder durch die Verbreiterung der Expertise von einzelnen Mitarbeitenden oder durch die Neustrukturierung von Teams. Es ist davon auszugehen, dass KI zukünftig weiterhin Einzug hält, daher wird Fachpersonal in den Bereichen Development oder auch Data Management immer wichtiger für die tägliche Arbeit einer Redaktion werden. Auch neue Berufsgruppen werden hinzukommen, zum Beispiel suchen die ersten Medienunternehmen bereits sogenannte Prompt Engineers.

3. Transparenz

Für Redaktionen ist die Glaubwürdigkeit und das Vertrauen der Audience das wertvollste Gut. Durch Transparenz werden diese Werte gestärkt. Deshalb sollten Redaktionen journalistische Stücke kennzeichnen, wenn sie mit KI erstellt wurden. Das ist nicht verwerflich, sondern zeigt, dass ein Medienunternehmen verantwortungsvoll mit Technologie umgeht.

In der Kennzeichnung liegt auch eine Chance, wenn alle Publikationen mit der zugehörigen Autorenschaft erfolgen. Denn wenn Redaktionen auch ihre menschlichen Autor:innen benennen, dann kann eine Einordnung durch das Publikum erfolgen und evtl. sogar eine besondere Verbundenheit geschaffen werden.

4. Was brauchst du wirklich?

Ein weiterer wichtiger Aspekt ist es zu wissen, was man braucht und möchte. Deshalb sollten Redaktionen ihre Bedürfnisse identifizieren und gezielt KI in diesem Bereich testen. Es bringt wenig, im Zuge des Hypes irgendwelche KI-Tools einzuführen. Vielmehr sollte geschaut werden, wo Herausforderungen liegen. Eine spezifische KI-Anwendung kann dann durchaus die Lösung sein.

5. Was willst du preisgeben?

Zudem ist es wichtig, sich mit der Frage der Datenhoheit auseinanderzusetzen. Mit der Nutzung einiger externen Tools stimmt ein Unternehmen beispielsweise automatisch zu, dass die eigenen Daten als Trainingsdaten benutzt werden dürfen. So hat zum Beispiel der Videotelefonie-Anbieter Zoom seine Nutzungsvereinbarung erweitert.

Darin steht nun, dass alles, was während eines Calls über die Software ausgetauscht wird, zu Trainingszwecken für ihre KI genutzt werden darf. Wer KI-Tools nutzt, sollte die damit verbundenen Nutzungsbedingungen abklären. Inzwischen gibt es auch einige Angebote aus Deutschland, die der Datenschutzgrundverordnung (DSGVO) entsprechen.

Der Journalismus der Zukunft mit KI

Journalismus wird zukünftig nicht mehr ohne KI arbeiten und die Technologie wird sich weiterentwickeln. Wichtig ist, dass Redaktionen sich darüber bewusst sind und ein entsprechendes Arbeitsumfeld schaffen, indem KI im Journalismus sicher und gezielt eingesetzt werden kann. Dazu braucht es angepasste Workflows, integrative Arbeitsmaterialien und ein erweitertes Skillset in Redaktionen. Wenn die Rahmenbedingungen stimmen, dann kann KI in den Medien die Arbeitsweisen verbessern und neues Potenzial freisetzen.