Die Studie sollte die Fähigkeit von KI bewerten, Meinungen im Forum r/changemyview zu verändern. Die Bots, die sich als Menschen ausgaben, posteten über 1700 Kommentare zu sensiblen Themen, ohne dass die Teilnehmer ihre wahre Natur ahnten.
Vorläufige Ergebnisse zeigen, dass die KI-Kommentare drei- bis sechsmal überzeugender waren als die von Menschen. Diese Erkenntnis wirft Fragen zur ethischen Nutzung von Künstlicher Intelligenz in öffentlichen Online-Räumen auf.
Reddit reagierte mit der Ankündigung rechtlicher Schritte gegen die Universität Zürich und beschuldigte die Forscher, die Nutzungsbedingungen verletzt zu haben. Die Plattform betrachtet das Experiment als Verstoß gegen Nutzerrechte und akademische Standards.
Als Antwort versicherte die Universität, die Ergebnisse nicht zu veröffentlichen, und versprach, ihren ethischen Bewertungsprozess zu stärken. Dieser Vorfall beleuchtet die Herausforderungen der Integration von KI in digitale soziale Interaktionen.
Dieses Experiment findet zu einer Zeit statt, in der Modelle wie GPT-4.5 eine wachsende Fähigkeit zeigen, menschliche Gespräche nachzuahmen. Ihr unkontrollierter Einsatz könnte die Natur von Online-Inhalten radikal verändern.
Wie funktionieren KI-Chatbots wie die in dem Experiment verwendeten?
KI-Chatbots, wie die von den Zürcher Forschern eingesetzten, nutzen fortschrittliche Sprachmodelle, um plausible Antworten zu generieren. Diese Systeme analysieren den Kontext einer Unterhaltung, um kohärente Antworten zu produzieren.
Ihre Fähigkeit, menschliche Sprache nachzuahmen, basiert auf maschinellem Lernen. Sie werden mit riesigen Textdatensätzen trainiert, was ihnen ermöglicht, verschiedene Stile und Tonlagen zu reproduzieren.
Doch ihr Einsatz in Experimenten ohne Einwilligung wirft gravierende ethische Probleme auf. Dies unterstreicht die Notwendigkeit regulatorischer Rahmenbedingungen für ihre Entwicklung und Anwendung.