Tworzył fake newsy za pomocą Chat GPT. Grozi mu 10 lat więzienia

Chat GPT sam w sobie nie może posłużyć za maszynkę do generowania fałszywych informacji, bo AI korzysta ze socjalnego zestawu blokad tłumaczonych „etyką i moralnością”. Nie ma jednak takiego zabezpieczenia, którego nie dałoby się w jakiś sposób ominąć – przekonał się o tym obywatel Chin z apetytem na szybki zarobek. Może i GPT nie stworzy na życzenie fałszywych wiadomości, ale parafrazowania już istniejących fake newsów nie odmawia. Sęk w tym, że oszustwa wyszło na jaw, a autor inicjatywy będzie musiał teraz zmierzyć się z konsekwencjami.

Chat GPT chętnie sparafrazuje fake newsa

Chiny mają niemały problem z fake newsami – w przypadku tak ogromnego i nierównego pod względem ekonomicznym społeczeństwa wyssane z palca treści mają duże szanse na celne trafienie w podatny grunt. Dla niektórych Chińczyków publikowanie zmyślonych historii jest wręcz źródłem utrzymania, bo sensacyjne nagłówki o dramatycznych wypadkach czy śmierci znanych osobistości klikają się świetnie, a zamieszczane tam reklamy napychają kieszeń oszustom.

Jednak nawet oni idą z duchem czasu i korzystają z dobroci nowych technologii. Mężczyzna z prowincji Gansu w północnych Chinach – zachęcony rzekomo przez znajomych parających się podobną aktywnością – używał do niedawna Chatu GPT do parafrazowania fake newsów znalezionych w sieci i publikowania na swoich blogach. Do niedawana, bo oszust został złapany przez chińską policję i przesiaduje obecnie w areszcie.

Aresztowany za sianie dezinformacji

Chiński rząd twardo reaguje na przestępstwa związane z wykorzystaniem szybko rozwijających się narzędzi AI. Opisywana sprawa jest jedną z pierwszych, dotyczących stricte oprogramowania od Open AI, co jest szczególnie istotne, bo na terenie kraju zablokowano dostęp do chatbota. Aresztowany mężczyzna wykorzystał GPT między innymi do wygenerowania tekstów o fałszywej katastrofie kolejowej, które opublikował następnie w co najmniej 20 miejscach. Przed usunięciem z sieci wygenerowały 15 tysięcy wejść, a to zostało przez władze potraktowane jako masowe rozpowszechnianie dezinformacji.

Czytaj dalej poniżej

Kto będzie trzymał AI pod kontrolą? Nie rząd, nie policja a... hakerzy Krzysztof Rojek

AI nie czyta w myślach – jeszcze. Ale patrzcie na to! Patryk Koncewicz

Sprawcę oskarżono konkretnie o „prowokowanie kłopotów” rozumiane w Chinach jako zakłócanie porządku publicznego przez szerzenie nieprawdziwych treści. Mężczyzna przyznał się do zarzucanych mu przestępstw i obecnie przebywa w policyjnym areszcie. Z nielegalnego na terenie kraju GPT korzystał prawdopodobnie przy pomocy VPN, co jest bardzo częstą praktyką w obliczu ocenzurowanego internetu w Chinach. To zaś tym bardziej rozjusza władze, tak mocno skupioną na próbie utrzymania wizji obywatelskiego posłuszeństwa.

W efekcie sprawcy zamieszania grozi teraz do 10 lat pozbawienia wolności, co spotkało się z negatywną opinią publiczną. Ma być to bowiem pokazowy wyrok, który w założeniu ma zniechęcić Chińczyków przed nielegalnym wykorzystaniem sztucznej inteligencji i używaniem zakazanego GPT.

Stock image from Depositphotos

Źródło