Der Journalist Martin Bernklau ist Opfer des KI-Chats Copilot geworden. Die Künstliche Intelligenz von Microsoft macht aus dem unbescholtenen Tübinger einen Kinderschänder.
Der Journalist Martin Bernklau ist Opfer des KI-Chats Copilot geworden. Die Künstliche Intelligenz von Microsoft macht aus dem unbescholtenen Tübinger einen Kinderschänder.
Der Tübinger Journalist Martin Bernklau traut seinen Augen nicht. Im KI-Chat Copilot von MIcrosoft ist er verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie und Betrüger. Die KI spinnt rum - und das kann jedem passieren, sagen Experten.
"Martin Bernklau aus Tübingen hat sich nie etwas zuschulden kommen lassen. Doch das, was er jetzt erlebt, versetzt ihn in Schock. Im Chat mit Copilot, der Künstlichen Intelligenz (KI) von Microsoft, wird er als verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie oder Witwenbetrüger bezeichnet. (...)
Medienethikerin Heesen: Vorsicht! Ein KI-Chat halluziniert
KI-Chats seien darauf trainiert, immer etwas zu antworten, um ein Gespräch mit dem Nutzer zu führen. Es würden dann auch fiktive Inhalte erzeugt, die gar nichts mit der Wahrheit zu tun hätten.
Microsoft übernimmt keine Haftung für Aussagen des Chats
Beschwerden über Inhalte von Chats seien schwierig, so die Einschätzung der KI-Expertin gegenüber dem SWR. Jeder, der den Chat benutze, erkläre sich mit den Nutzungsbedingungen einverstanden. Und darin stehe, dass Microsoft für die Antworten keine Haftung übernehme."
Absolut hanebüchen, die Anzeige abzulehnen: es ist doch ganz klar der Betreiber der KI für deren Handeln verantwortlich. Der hat die programmiert, trainiert und betreibt sie.
Der Artikel ist eben nicht gut.
Eine Straftat setzt Vorsatz voraus. Man kann kein Verbrechen aus Versehen begehen. Fahrlässigkeit ist nur strafbar, wenn es explizit im Gesetz steht und meint dann auch eher eine ziemlich vorsätzliche Fahrlässigkeit.
Verleumdung ist kein Fahrlässigkeitsdelikt. Außerdem wäre die Frage dann, wer eigentlich die Schuld trägt: der Hersteller oder der Benutzer. Ich habe auch Zweifel, ob der Tatbestand überhaupt erfüllt ist. Normalerweise macht eine Person eine verleumderische Behauptung, mindestens einer anderen Person gegenüber. Hier hat man nur eine einzelne Person und einen Computer.
Auf der einen Seite ist es so, auf der anderen Seite verstehen selbst Forscher oft selber nicht wo die Ausgaben herkommen und es ist halt auch super schwer so Halluzinationen zu unterbinden.
Dann muss man sich halt überlegen, ob man das wirklich so auf den Markt werfen will. Verantwortlich ist man trotzdem dafür.
Dass die Anbieter anfangs nicht viel deutlicher auf die Unzuverlässigkeit hingewiesen haben, hielt und halte ich für problematisch. Ich weiß nicht, ob man überhaupt jetzt schon davon ausgehen kann, dass das zu allen Leuten vorgedrungen ist.
Ich bin aber vor allem enttäuscht, dass der ÖRR hier so emotionalen Clickbait fährt, statt Aufklärung zu betreiben.