Nowy atak na ChatGPT ujawnił znaczne ilości jego 'materiału treningowego'; treść kradziona z Wikipedii, prywatnych stron i losowych komentarzy
Nowy atak na ChatGPT ujawnił znaczne ilości jego 'materiału treningowego'; treść kradziona z Wikipedii, prywatnych stron i losowych komentarzy
ChatGPT is full of sensitive private information and spits out verbatim text from CNN, Goodreads, WordPress blogs, fandom wikis, Terms of Service agreements, Stack Overflow source code, Wikipedia pages, news blogs, random internet comments, and much more.
Absurdalny atak polegał na proszeniu ChatGPT o powtarzanie słowa w nieskończoność - dość szybko, po słownie np. "wiersz" albo "książka" pojawiały się treści na bazie których działa ChatGPT, ujawniając, że w całości znajdują się one w jego pamięci.
You're viewing a single thread.
Ciekaw jestem czy spowoduje to stworzenia nowego rodzaju licencji, gdzie materiały będące w i tak będą mogły być blokowane przed wykorzystaniem ich do szkolenia AI.
Na szczęście przed nami jeszcze wiele wiele lat, zanim te wszystkie AIboty zaczną faktycznie przypominać sztuczną inteligencję. Dziś to 80% marketingu, 15% sprytnych sztuczek i 5% umiejętności rysowania ładnych obrazków i wyszukiwania treści w internecie.
nie liczyłabym na to, że to zajmie "wiele lat". Już teraz nieraz ciężko odróżnić, co napisał człowiek, a co sztuczna inteligencja. W Porto Allegro rada miasta przepchnęła uchwałę wygenerowaną przez ChatBota, także ten...
A odnośnie "nowego rodzaju licencji" - przydałaby się.
Bardzo łatwo to odrodzić, tylko trzeba wiedzieć o co pytać i czego szukać.
Pisanie stosunkowo prostych tekstów, działanie jak trochę lepsza wyszukiwarka internetowa czy rysowanie ładnych obrazków to ciągle za mało żeby to nazwać inteligencją.
Polecam poczytać jak te ani boty radzą sobie z prostymi zadaniami z matematyki, albo z weryfikowaniem i posługiwaniem się źródłami. Tam widać jak nieudolne one są.
to ciągle za mało żeby to nazwać inteligencją
"to ciągle za mało żeby to nazwać inteligencją" - w "sztucznej inteligencji" nie chodzi o to, czy jest "inteligentna". A to, co AI potrafi, przysparza masy problemów już w chwili obecnej