MS Copilot macht tübinger Gerichtsreporter zum Verbrecher
MS Copilot macht tübinger Gerichtsreporter zum Verbrecher
Der Tübinger Journalist Martin Bernklau traut seinen Augen nicht. Im KI-Chat Copilot von MIcrosoft ist er verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie und Betrüger. Die KI spinnt rum - und das kann jedem passieren, sagen Experten.
Martin Bernklau wird Opfer der Künstlichen Intelligenz
Martin Bernklau aus Tübingen hat sich nie etwas zuschulden kommen lassen. Doch das, was er jetzt erlebt, versetzt ihn in Schock. Im Chat mit Copilot, der Künstlichen Intelligenz (KI) von Microsoft, wird er als verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie oder Witwenbetrüger bezeichnet.
....
Zusätzlich liefert Copilot noch die volle Adresse von Bernklau mit Telefonnummer und Routenplaner.
...
Viele Jahrzehnte war Bernklau Gerichtsreporter, hat für verschiedene Zeitungen über Prozesse aus dem Landgericht Tübingen berichtet - über Fälle von Missbrauch, Gewalt und Betrug, mit denen er jetzt in Verbindung gebracht wird, weil sie auch im Internet zu finden sind. Die KI kombiniert, trägt zusammen und macht so den Reporter zum Täter.
.....
Der zuständige Datenschutzbeauftragte vom bayerischen Landesamt wendet sich - Monate nach einer Beschwerde Bernklaus - mit dem Fall an Microsoft. Dort sichert man zu, das Problem abzustellen. Tatsächlich verschwinden die Einträge recht schnell. Doch nach ein paar Tagen erscheinen dieselben Aussagen wieder im Chat.
...
EDIT: Der Link hat gefehlt! Sorry.
You're viewing a single thread.
Warum läuft das eigentlich unter "Datenschutz" und nicht als Strafverfahren wegen Verleumdung?
Bernklau stellt Strafanzeige wegen übler Nachrede, die wird abgelehnt. Begründung der Tübinger Staatsanwaltschaft: Es sei kein Straftatbestand erfüllt, weil als Urheber der Behauptungen (die Künstliche Intelligenz, Anmerkung d. Redaktion) keine reale Person in Betracht komme.
Ich bin selber gerade noch... überrascht. Wenn mir ne schlaue Bemerkung dazu einfällt kommt die hier noch hin, bis dahin erstmal nur das Zitat.
Puh also solange ich eine "KI" dazu bringe es zu sagen darf ich also über jeden Lügen verbreiten. Aber war ja schon immer so was IT angeht "Software Problem, kann man nix machen"...
Das halte ich für eine völlige Fehleinschätzung der Tübinger Staatsanwaltschaft. Natürlich ist auch eine Firma zur Rechenschaft zu ziehen, wenn diese Firma eine Software produziert, welche strafbare Dinge macht. Und es ist halt auch nicht so, dass es hier keinen Urheber gebe, die keine reale Person ist, sondern es gibt halt ganz konkrete Täter, also die Leute, welche die Software genau so produziert und releast haben.
Der Artikel der eigentlich beim Post dabei sein sollte geht darauf ein.
Sorry für die Verspätung,ich hab nicht gemerkt, das der link nicht übernommen wurde.
Danke
Das deutsche Strafrecht setzt an das Verhalten von Personen an. Dementsprechend ist es nicht möglich, Unternehmen zur Verantwortung zu ziehen. Deswegen ist strafrechtlich hier nicht so viel zu holen, denke ich Mal. Anders wär es vielleicht, wenn man zufällig wüsste, dass bestimmte Angestellte für die falschen Angaben verantwortlich sind.
Im Zweifel der Geschäftsführer, oder?
Der trägt zivilrechtlich natürlich Verantwortung und daraus kann man im Strafrecht sicher auch teilweise etwas ableiten. Aber hier stand ja Verleumdung im Raum und die setzt Vorsatz voraus. Das scheint mir hier eine recht hohe Hürde.
Hinter dem Betrieb der "KI" dürfte durchaus Vorsatz stecken, das macht eine Firma ja nicht, weil sie das eigentlich gar nicht will.
Ja, natürlich. Die Software wird vorsätzlich eingesetzt. Aber bei der Verleumdung muss sich der Vorsatz einer Person auch darauf beziehen, dass eine bestimmte Info falsch ist.
Eine Software, die Texte anhand statistischer Wahrscheinlichkeiten von Wortfolgen generiert, erzeugt zwangsläufig auch sachlich falsche Texte. Wer eine solche Software als "Assistenten" in ein Betriebssystem einbaut, nimmt billigend in Kauf, dass sie falsche Informationen verbreitet und die Benutzer das für bare Münze nehmen.
So kann man sicherlich argumentieren, wenn Eventualvorsatz reicht.
Mein Studium ist lange her und ich bin kein Strafrechtler, aber bei dem Aspekt, dass eine bestimmte Info falsch ist, braucht es wohl sicheres Wissen. Das wäre dolus directus 2. Grades, falls es jemand bei Wikipedia nachlesen will.
Das in Kauf nehmen ist weniger streng.
Er hat eine Maschine bedient, die Texte generiert. Mit der Maschine hat er einen Text erzeugt, der ihn verleumdet. Soll er sich selber anzeigen?
Nicht vergessen, dass die KI kein Mensch ist. Und wenn, wäre es Beleidigung, wenn nicht nachgewiesen wird, dass die Falschbehauptung auch gegenüber anderen gemacht wurde.
Ich denke, die Hersteller sollten deutlicher auf die Schwächen der Anwendung hinweisen. Ein älterer Mensch weiß ja nicht, was das ist, wenn auf einmal Copilot im Edge Browser auftaucht. Aber ob sowas Schadenersatz wegen seelischer Grausamkeit oä rechtfertigt, glaube ich eher nicht.
Also wenn ich ein Programm schreibe, das jemanden beleidigt, bin ich auch fein raus?
Wenn dich die NPCs in einem Spiel als Milchtrinker beleidigen, wirst du damit leben müssen. Das heißt aber nicht, dass es eine Ausnahme für Programme gibt. So funktioniert das nicht.
Wenn mich ein NPC im Spiel beleidigt, sagt er das nur mir.
Wenn eine Person vor anderen Falschaussagen über mich trifft, dann ist das nicht in Ordnung. Ob das jetzt im Kontext eines Spiels ist, der Realität oder eines statistischen Programms. Alles nicht in Ordnung, wenn ich nicht damit einverstanden bin.
Ich verstehe, dass du dich irgendwie gestört fühlst. Man könnte die Gesetze ändern. Aber was genau will man damit erreichen? Warum ist es so wichtig zu kontrollieren, was andere Leute mit ihren Geräten machen?
Mir geht es bei dieser Frage um diesen Willen zur Machtausübung. Es gibt ja schon ultra-viele Vorschriften, sodass man Computer-technisch kaum was machen kann. Ich glaube nicht, dass es Lemmy-Instanzen in der EU gibt, die rechtskonform sind. Was soll sowas?
Wie ein anderer bereits schrieb, ließe sich die Gesetzeslage so, sei sie denn tatsächlich so wie hier vermutet, ausnutzen. Man schreibe ein statistisches Programm (GPT) welches von einer breiten Masse benutzt wird und dessen Aussagen, mangels technischer Kenntnisse, größtenteils für Wahr genommen werden. Man nutze dieses Programm explizit für die Verbreitung von Fake News. Man beeinflusse so politische und gesellschaftliche Verhältnisse. Verfolgt werden kann solch Praxis anscheinend nicht, da keine wahrhafte Person dafür verantwortlich ist. Das ist ein Problem.
So etwas gibt es ja schon in Form von Twitter/X, nur, dass es immens mehr Arbeit ist den gewünschten Content manuell in persona zu moderieren. Diese Arbeit übernimmt das hypothetische böse GPT für dich.
Siehst du das nicht als Problem?
Das wird so nicht funktionieren. Es ist ziemlich egal, wie du die Verleumdung verbreitest. Es kommt darauf an, dass du es tust.
In diesem Fall ist es ziemlich unwahrscheinlich, dass irgendjemand bei OpenAI jemals auch nur von diesem Mann gehört hat. Wie können sie ihn dann verleumden?
Sollte sein Ruf durch das Produkt gelitten haben, dann gäbe es wahrscheinlich die Möglichkeit Schadenersatz zu verlangen. Der Artikel gibt aber keinen Hinweis auf so einen Schaden. Ich sehe nicht mal einen Hinweis, dass sonst irgendwer ChatGPT über den Mann befragt hätte, geschweige denn die Aussage geglaubt hat.