Faktentreue beim Schreiben mit künstlicher Intelligenz: Spendenprojekt gestartet

(Berlin) - Falschen Informationen entgegenwirken
Wenn KI-Sprachmodelle trainiert werden, werten sie große Text- und Datenmengen aus. Insbesondere beim Sprachmodell ChatGPT war es offenkundig das primäre Entwicklungsziel, dass es auf jede Frage eine Antwort gibt, die Qualität der Antwort ist nachrangig. Die Antworten können also plausibel klingen, aber keine faktische Basis haben. So wird es für Laien schwer, Fakten und Fiktion zu unterscheiden. Desinformationskampagnen, insbesondere im Klimaschutzbereich, nehmen zu und können durch die Werkzeuge der künstlichen Intelligenz erleichtert werden.

"Hier liegt eine große Gefahr, falsche Informationen können sich in der Gesellschaft negativ auf die Akzeptanz von Maßnahmen und Instrumenten zum Klimaschutz auswirken", sagt Carl-Otto Gensch, Projektleiter am Öko-Institut. Bei der Faktentreue der Antworten setzt das neu gestartete Projekt an. Dort soll eine Methode entwickelt werden, um Antworttexte von KI-Sprachmodellen zu wichtigen Themen des Umwelt- und Klimaschutzes zu prüfen und auf ihre Faktentreue hin zu bewerten.

Einfacher Zugang zu Informationen
Außerdem analysiert das Projekt, wie sich die Faktentreue der Antworten über einen bestimmten Zeitraum verändert und wie sehr sie von wohl formulierten Eingabetexten, also den "prompts", abhängt. Zudem wird untersucht, ob umweltrelevante Informationen mit Hilfe der KI-Sprachmodelle einfacher zugänglich sind. Und: Wie werden diese Modelle bereits in der Wissensaufbereitung und -vermittlung genutzt?

"Besonders hier sind faktenbasierte Informationen erforderlich, da das die Schnittstelle zwischen wissenschaftlicher Forschung und Kommunikation in die Öffentlichkeit ist", gibt der Leiter des Bereichs Produkte & Stoffströme am Öko-Institut zu bedenken. "Das ist aber auch die große Chance von KI. Komplexe Informationen zu Umweltthemen können in verschiedenen Sprachstilen leicht aufbereitet werden und sind so für alle Menschen leicht zugänglich."

Anschließend an die Analyse leitet das Projektteam politische Empfehlungen ab: Wie sollte ein regulatorischer Rahmen aussehen, um den möglichen Risiken zu begegnen aber auch die Chancen durch KI-Sprachmodelle zu erhöhen?
Spendenprojekte ermöglichen auftragsfreie, unabhängige Forschung am Öko-Institut. In diesen Projekten untersuchen die Wissenschaftlerinnen und Wissenschaftler wichtige Grundlagen der nachhaltigen Transformation, die unser gesellschaftliches Miteinander bestimmen und geben der Politik Handlungsempfehlungen für sozial gerechte und ökologisch sinnvolle Richtungsänderungen an die Hand.

Quelle und Kontaktadresse:
Öko-Institut e.V. Pressestelle Borkumstr. 2, 13189 Berlin Telefon: (030) 405085-0, Fax: (030) 405085-388

(jg)