Reddit scheint sich hinter den Kulissen zu bemühen, die Auswirkungen der Migration zu begrenzen. Schadensbegrenzung: ChatGPT-Bots spammen pro-admin, astroturfed Kommentare
Es ist echt erstaunlich, wie eloquent und realistisch ChatGPT schreibt aber wie eindeutig erkennbar ist, dass es sich um ein KI-geschriebener Text handelt.
Die Behauptung, dass KI-geschriebene Texte leicht zu identifizieren sind, ist nicht länger zutreffend. Mit den Fortschritten in der Künstlichen Intelligenz, insbesondere im Bereich des Natural Language Processing, haben sich KI-Modelle wie GPT-3 erheblich verbessert und sind in der Lage, Texte zu generieren, die von Menschen verfasst zu sein scheinen. Moderne KI-Modelle können komplexe Strukturen, Stile und Kontexte erkennen und nachahmen. Natürlich gibt es immer noch Fälle, in denen KI-Texte erkennbar sind, insbesondere wenn bestimmte Fehler auftreten oder wenn es sich um spezialisierte Fachbereiche handelt. Dennoch ist es heutzutage eine Herausforderung, KI-geschriebene Texte eindeutig von menschlichen Verfassern zu unterscheiden.
Ich finde es schön, dass es unter anderem daran zu erkennen ist, dass Rechtschreibung und Zeichensetzung fehlerfrei sind.
Sehr deutlich wird es aber auch durch die recht konsequente Einhaltung der Argumentationsstruktur (These, Begründung, Beispiel, Rückbezug zur These), die außer in Musteraufsätzen von Deutschlehrer*innen kaum jemals durchgehalten wird.
Ja, das ist mir auch schon aufgefallen. Jede Antwort folgt perfekt der Struktur einer klassischen Erörterung. Deswegen ist es wahrscheinlich auch beim Fälschen von Schulaufsätzen so beliebt, dafür ist es wie gemacht.
Hinweis: Nur, weil die gerade im Umlauf befindlichen KIs langwierig darauf getrimmt wurden, so zu antworten. Ihnen diese abwartend-"neutrale" Formulierung beizubringen, so dass sie zumindest darauf hinweisen, dass sie eigentlich nur statistisch ermittelten Quatsch ablassen auf den man sich nicht verlassen sollte, hat viel Arbeit gebraucht.
Lässt man den Schritt weg (vgl. ChatGPT in der Anfangsphase), klingen solche KIs absolut ununterscheidbar wie ein normaler Mensch, weil ihr Korpus ja eben aus genau solchen Unterhaltungen besteht. Das ist sogar die ganze Funktionsweise: So stark nach einem Menschen klingen, dass dabei quasi als Nebenprodukt (manchmal) ein sinnvoller Satz rauskommt.
Die derzeitige leichte Erkennbarkeit kann mit einem einfachen Update von heute auf morgen dahin sein, auf die muss man sich gar nichts einbilden bzw. kann man sich darauf überhaupt nicht verlassen.
Nach diesem Kommentar habe ich gesucht, danke. Gefühlt verharmlost es die potentientelle Mächtigkeit aktueller und zukünftiger neuronaler Netze erheblich, wenn sich alle KIs immer Mühe geben, „wie eine KI“ zu klingen.
Ich hoffe, dass potentielle und besteheend Werbekunden das auch mitbekommen. Wenn reddit die Website systematisch mit Bots, die sich als User ausgeben, unterwandert, dann müssen die Werbegebühren deutlich nach unten angepasst werden.
Musk ist aber eine ganz besondere Art von bescheuert. Spez versucht Reddit so profitabel wie möglich zu machen. Das Ziel wird von ihm auch (größtenteils) logisch und direkt verfolgt.
Musk zieht ne Linie und schaut was dabei rauskommt.
Habe gestern mal geschaut ob meine Comet app noch funktioniert weil ich neugierig war und sie funktioniert wohl noch. Habe dann mal ein bisschen herum gescrollt und was soll ich sagen? Massenweise Reposts, über die sich auch beschwert wird. Dann noch (und das ist in der Menge wirklich neu) überall Typos, die Nachweislich für mehr Interaktionen sorgen, weil Leute und besonders Redditoren gerne OP korrigieren, auch wenn man den Titel nicht mehr ändern kann. Und haufenweise Meme-Kommentare, die 1 zu 1 copy/paste sein müssen.
Nicht, dass es hier keine ordentliche Menge Bots geben wird, aber bei Reddit sieht es gewollt aus. Es ist ziemlich armseelig.
Erinnert mich an die Episode von Jamie Oliver als er Schulkindern zeigt wie Chicken Nuggets gemacht werden um sie abzuschrecken, sie aber am Ende doch noch alle Bock drauf haben: den meisten Reddit-Usern wird es egal sein dass sie mit Bots interagieren.
Sie wollen auf der einen Seite mit Links beworfen werden damit ihnen nicht langweilig wird und auf der anderen Seite wollen sie Karmapunkte für ihre Quatschkommentare. Ob das nun KIs, Redditangestellte oder "echte" User machen ist da einerlei.
This is a German thread and I speak Spanish which is the same as nothing but this is something I didn't know. I believe it, after all ChatGTP is Reddit The Bot.
Könnte das nicht genau so gut ein Troll/False-Flag sein, der Reddit schlecht dastehen lassen soll?
Gerade wenn es um r/programming geht, gibt es doch wahrscheinlich keinen Mangel an Leuten, die ein kurzes Script schreiben können, das mit der ChatGPT-API auf Reddit-Kommentare antwortet.
Es ist auf jeden Fall schon auffällig, dass die Bot-Kommentare in r/programming sind und nicht einfach überall, wo kritisch über Reddit geredet wird.
Unwahrscheinlich. So etwas in der Breite zu erstellen ist nicht so einfach wie du dir das eventuell vorstellst. Erstens müssen die Kommentare von ChatGPT gelesen und verstanden werden (1 API request), dann bewertet werden ob etwas pro/contro Reddit gesagt wird (1 API request), dann eine entsprechende Response generiert werden (1 API request). Also 3 API requests pro Kommentar. Und auch wenn es einfach wäre, kostet doch jeder Zugriff auf GPT-3.5 oder GPT-4 via OpenAI's API Geld. Skripten via ChatGPT kann zu einem Ban führen.
Nach erneutem Nachdenken glaube ich dass man das billiger lösen kann indem man verschiedene Kommentare in einem API request zusammenfasst und dann GPT anweist die Ziel-Kommentare herauszufiltern. Dann kann man das an eine andere Komponente weiterleiten und die entsprechenden Antworten generieren lassen. Es stimmt also, dass so etwas konzeptionell sicher einfach zu erstellen ist (ich bin ja schließlich auch darauf gekommen wie man so etwas baut), aber so ein Unterfangen ist sicher nicht an einem Nachmittag umgesetzt.
Erstens müssen die Kommentare von ChatGPT gelesen und verstanden werden (1 API request), dann bewertet werden ob etwas pro/contro Reddit gesagt wird (1 API request), dann eine entsprechende Response generiert werden (1 API request). Also 3 API requests pro Kommentar.
Könnte man das nicht alles in einem Prompt machen? Z.B.:
Wenn folgender Kommentar kritisch gegenüber Reddit ist, dann verfasse eine kurze Antwort, die der Aussage widerspricht.
Sonst gebe "[keine Antwort nötig]" aus.
Kommentar: "{Kommentar}"
Und auch wenn es einfach wäre, kostet doch jeder Zugriff auf GPT-3.5 oder GPT-4 via OpenAI’s API Geld.
Wenn man sich die API-Preise anguckt, dann kostet grob überschlagen 15 Kommentare reinwerfen und von GPT-4 entsprechende Antworten (jeweils ~50 Worte lang) generieren zu lassen $0.1. Mit $10 könnte man also vielleicht schon so um die 1500 Trollkommentare erzeugen lassen. Man müsste natürlich z.B. anhand von ein paar Stichworten vorfiltern, damit man nicht 99% irrelevante Kommentare reinwirft.
Skripten via ChatGPT kann zu einem Ban führen.
Da wäre die Frage, wie lange es dauert und ob einen Troll das überhaupt juckt.
Werter Urheber. Dürfte ich das ganze so auf r/de einreichen? Ich habe zwar meinen Account gelöscht, hatte mir aber irgendwann mal einen Wegwerfaccount gemacht, der unter den Namen inconspicuoushuman oder so unter passenden Kommentaren satirisch überzeichnet darauf hingewiesen hat, dass er bestimmt kein Bot sei. Falls ich mich noch an die Logindaten erinnere wäre der vermutlich perfekt. Ich würde den Text jedoch einfach kopieren und nicht auf diesen Thread verlinken, wenn das in Ordnung ist, da ich vermute, dass man derzeit mit feddit links schneller im Fadenkreuz steht als ohnhin schon.
Bin nicht der Urheber, aber wärst du so nett, dort den Link auf Feddit zu posten? Dann hätten die Leute dort auch gleich eine Handlungsempfehlung und wenn sie ihn löschen, spricht das dann eben für sich.
Das könnte tatsächlich nur Zufall sein. r/programming wurde schon vor der API Ankündigung von ChatGPT Bots überrannt. Ich kann mir gut vorstellen, dass da einfach jemand ein paar Bots losgelassen hat, und die eben auch unter den Boykott Posts geantowrtet haben.
Ich lese öfter dass Joey noch funktioniert. Kann es vielleicht sein, dass der Dev dermaßen abwesend ist nichts mitbekommt und demnächst eine saftige API nutzungsrechnung von Reddit im Briefkasten hat?
Ich habe noch Narwhal, das funktioniert auch noch. die app gibts schon ne Weile nicht mehr im AppStore. Es wundert mich tatsächlich ein wenig wie Reddit diesen api change umsetzt.
"Hinder growth and opportunities". Absolute Clownshow.
Um maschinengenerierten oder aus Word-Dokumenten kopierten Content auf den ersten Blick zu erspähen bietet Interpunktion einen guten Anhaltspunkt, wenngleich hier nur im letzten Beispiel zu sehen.
Auf praktisch allen Computern außer Apple Macs ist es nur mit großem Aufwand, in einfachen Textboxen korrekte Anführungszeichen und Apostrophs zu setzen. Von einem Menschen geschrieben sind es fast immer gerade Striche:
Witzig, habe ich gar nicht gemerkt und nicht mit gerechnet. In der Anzeige werden "falsche" Anführungszeichen tatsächlich in "richtige" konvertiert. Sehr fortschrittlich. Allerdings in englische, obwohl der Text deutsch ist. Dafür ist offenbar das Sprachen-Dropdown unter anderem da?!
edit: Ne, auch wenn ich bei der Sprache "Deutsch" gewählt habe konvertiert er automatisch in englische Anführungszeichen.