Generative AI is forcing people to rethink what it means to be authentic

Es stellt sich heraus, dass Popstars Drake und The Weeknd hat nicht plötzlich einen neuen Track veröffentlicht, der im April 2023 auf TikTok und YouTube viral ging. Der Fotograf, der im selben Monat einen internationalen Fotowettbewerb gewann war kein echtes Foto. Und das Bild von Papst Franziskus trägt eine Balenciaga-Jacke das im März 2023 erschien? Auch das war eine Fälschung.

Alle wurden mit Hilfe generativer KI erstellt, die neue Technologie das bei Bedarf über Programme wie ChatGPT, Midjourney und Bard menschenähnliche Texte, Audiodateien und Bilder generieren kann.

Die Leichtigkeit, mit der Menschen durch diese Fälschungen getäuscht werden können, hat auf jeden Fall etwas Beunruhigendes, und ich sehe darin einen Vorboten einer Authentizitätskrise, die einige schwierige Fragen aufwirft.

Woher wissen Wähler, ob ein Video, in dem ein politischer Kandidat etwas Beleidigendes sagt, echt ist oder von KI erstellt wurde? Werden die Menschen bereit sein, Künstler für ihre Arbeit zu bezahlen, wenn KI etwas visuell Beeindruckendes schaffen kann? Warum bestimmten Autoren folgen, wenn Geschichten in ihrem Schreibstil im Internet kursieren?

An der Stanford University, wo ich Professor bin und auch ein Hauptfach leite, habe ich gesehen, wie sich die Angst überall um mich herum auswirkt generative KI und Bildungsinitiative.

Da Text, Bilder, Audio und Video durch neue generative KI-Tools für jeden einfacher zu produzieren sind, glaube ich, dass die Menschen die Art und Weise, wie Authentizität überhaupt beurteilt wird, noch einmal überprüfen und neu kalibrieren müssen.

Glücklicherweise bietet die Sozialwissenschaft einige Hinweise.

Die vielen Gesichter der Authentizität

Lange bevor generative KI und ChatGPT in den Vordergrund traten, beschäftigten sich Menschen mit der Frage, was dafür sorgt, dass sich etwas authentisch anfühlt.

Wenn ein Immobilienmakler von einer Immobilie schwärmt, die er Ihnen verkaufen möchte, ist er dann authentisch oder versucht er nur, den Deal abzuschließen? Trägt dieser stilvolle Bekannte authentische Designermode oder? Nachahmung in Massenproduktion? Wenn du reifer wirst, Wie entdecken Sie Ihr authentisches Selbst??

Dabei handelt es sich nicht nur um philosophische Übungen. Neurowissenschaftliche Forschung hat gezeigt, dass der Glaube an die Authentizität eines Kunstwerks die Belohnungszentren des Gehirns in einer Weise aktiviert, dass das Betrachten von etwas, von dem Ihnen gesagt wurde, dass es sich um eine Fälschung handelt, nicht der Fall ist.

Authentizität ist auch deshalb wichtig, weil sie ein sozialer Kitt ist, der das Vertrauen stärkt. Nehmen wir die Fehlinformationskrise in den sozialen Medien, in der Fake News unbeabsichtigt verbreitet wurden und authentische Nachrichten als Fake eingestuft wurden.

Kurz gesagt: Authentizität ist wichtig, sowohl für den Einzelnen als auch für die Gesellschaft als Ganzes.

Aber was macht etwas eigentlich authentisch?

Psychologe George Newman ist dieser Frage in einer Reihe von Studien nachgegangen. Er fand heraus, dass es drei Hauptdimensionen der Authentizität gibt.

Eine davon ist die historische Authentizität oder die Frage, ob ein Objekt wirklich aus der Zeit, dem Ort und der Person stammt, für die es sich behauptet. Ein tatsächliches Gemälde von Rembrandt hätte historische Authentizität; Eine moderne Fälschung würde das nicht tun.

Eine zweite Dimension der Authentizität entsteht, wenn beispielsweise ein Restaurant in Japan außergewöhnliche und authentische neapolitanische Pizza anbietet. Ihre Pizza wurde weder in Neapel hergestellt noch aus Italien importiert. Der Koch, der es zubereitet hat, hat möglicherweise keinen Tropfen italienisches Blut in seinen Adern. Aber die Zutaten, das Aussehen und der Geschmack passen möglicherweise sehr gut zu dem, was Touristen in einem großartigen Restaurant in Neapel erwarten würden. Newman nennt das kategorische Authentizität.

Und schließlich ist da noch die Authentizität, die aus unseren Werten und Überzeugungen resultiert. Dies ist die Art, die viele Wähler bei Politikern und gewählten Führern vermissen lassen, die das eine sagen, aber das andere tun. Darauf achten Zulassungsbeamte in College-Aufsätzen.

In meine eigene ForschungIch habe auch gesehen, dass Authentizität mit unseren Erwartungen darüber zusammenhängen kann, welche Werkzeuge und Aktivitäten bei der Erschaffung von Dingen erforderlich sind.

Wenn Sie beispielsweise ein maßgefertigtes Möbelstück sehen, das behauptet, handgefertigt zu sein, gehen Sie wahrscheinlich davon aus, dass es nicht im wahrsten Sinne des Wortes von Hand gefertigt wurde – sondern dass alle möglichen modernen Werkzeuge zum Schneiden, Formen und Befestigen jedes Stücks verwendet wurden. Auch wenn ein Architekt Computersoftware zur Erstellung von Bauplänen verwendet, denken Sie wahrscheinlich immer noch, dass das Produkt legitim und originell ist. Dies liegt daran, dass allgemein davon ausgegangen wird, dass diese Werkzeuge Teil dessen sind, was zur Herstellung dieser Produkte erforderlich ist.

Bei den meisten Ihrer schnellen Urteile über Authentizität denken Sie nicht viel über diese Dimensionen nach. Aber mit generativer KI müssen Sie das tun.

Denn damals, als es viel Zeit in Anspruch nahm, originelle neue Inhalte zu produzieren, ging man allgemein davon aus, dass die Erstellung Geschicklichkeit erforderte – dass sie nur von erfahrenen Personen erstellt werden konnten, die sich viel Mühe gaben und mit den Besten agierten Intentionen.

Dies sind keine sicheren Annahmen mehr.

Wie man mit der drohenden Authentizitätskrise umgeht

Generative KI lebt davon, das Vertrauen der Menschen auf kategorische Authentizität auszunutzen, indem sie Material produziert, das wie „echt“ aussieht.

Daher wird es wichtig sein, historische und kategorische Authentizität in Ihrem eigenen Denken zu trennen. Nur weil eine Aufnahme genau wie Drake klingt – das heißt, sie entspricht den Kategorieerwartungen für Drakes Musik – heißt das nicht, dass Drake sie tatsächlich aufgenommen hat. Der großartige Aufsatz, der für einen College-Schreibkurs eingereicht wurde, stammt möglicherweise nicht wirklich von einem Studenten, der stundenlang mit einem Textverarbeitungsprogramm Sätze formuliert.

Wenn es wie eine Ente aussieht, wie eine Ente läuft und wie eine Ente quakt, muss jeder bedenken, dass es möglicherweise nicht tatsächlich aus einem Ei geschlüpft ist.

Außerdem wird es für alle wichtig sein, sich darüber zu informieren, was diese neuen generativen KI-Tools wirklich können und was nicht. Ich denke, dazu gehört es, dafür zu sorgen, dass die Menschen in Schulen und am Arbeitsplatz etwas über KI lernen und offene Gespräche darüber führen wie sich kreative Prozesse verändern werden mit der zunehmenden Verbreitung von KI.

Das Verfassen von Hausarbeiten für die Schule wird in Zukunft nicht zwangsläufig bedeuten, dass die Schüler jeden einzelnen Satz akribisch formulieren müssen; Mittlerweile gibt es Tools, die ihnen dabei helfen können, Möglichkeiten zur Formulierung ihrer Ideen zu finden. Und um ein beeindruckendes Bild zu erstellen, ist keine außergewöhnliche Hand-Auge-Koordination oder Beherrschung von Adobe Photoshop und Adobe Illustrator erforderlich.

Schließlich muss die Gesellschaft in einer Welt, in der KI als Werkzeug fungiert, darüber nachdenken, wie sie Leitplanken einrichten kann. Dies könnte in Form von Vorschriften oder der Schaffung von Normen in bestimmten Bereichen erfolgen, um offenzulegen, wie und wann KI eingesetzt wurde.

Wird AI als Co-Autor beim Schreiben anerkannt? Ist es für bestimmte Arten von Dokumenten oder für bestimmte Klassenstufen in der Schule nicht zulässig? Ist für die Einreichung eines Kunstwerks bei einem Wettbewerb eine unterschriebene Erklärung erforderlich, dass der Künstler bei der Erstellung seines Beitrags keine KI eingesetzt hat? Oder muss es neue, eigene Wettbewerbe geben, die KI-generierte Arbeiten ausdrücklich einladen?

Diese Fragen sind knifflig. Es mag verlockend sein, generative KI einfach als inakzeptables Hilfsmittel zu betrachten, so wie Taschenrechner in manchen Mathematikkursen verboten sind.

Die Abschottung neuer Technologien birgt jedoch die Gefahr, dass dem kreativen Potenzial des Menschen willkürliche Grenzen gesetzt werden. Wäre die Ausdruckskraft von Bildern so, wie sie jetzt ist? wenn das Fotografieren als unfairer Einsatz von Technologie angesehen worden wäre? Was wäre, wenn Pixar-Filme für die Oscar-Verleihung nicht zugelassen würden, weil die Leute dachten, Computeranimationstools würden ihre Authentizität untergraben?

Die Fähigkeiten der generativen KI haben viele überrascht und werden jeden dazu herausfordern, anders zu denken. Aber ich glaube, dass Menschen KI nutzen können, um die Grenzen des Möglichen zu erweitern und interessante, lohnenswerte – und ja, authentische – Kunstwerke, Schriften und Design zu schaffen.

Victor R. LeeAußerordentlicher Professor für Lernwissenschaften und Technologiedesign in der Bildung, Universität in Stanford

Dieser Artikel wurde erneut veröffentlicht von Die Unterhaltung unter einer Creative Commons-Lizenz. Lies das originaler Artikel.