Stworzyli potwora, teraz chcą go ubić. Nad tym pracuje ekipa od ChatGPT

Wcześniej mogliśmy głównie z boku obserwować rozwój sztucznej inteligencji, która była wykorzystywana przez inżynierów, badaczy i naukowców w swojej pracy. Od kilku lat AI zawitała do naszej cyfrowej codzienności i wygodnie się rozgościła. Co rusz firmy reklamują swoje produkty wykorzystaniem sztucznej inteligencji. Ostatnio nawet zdarzyło mi się spróbować sosu, którego zarówno kompozycja smaków, jak i etykieta została wymyślona przez AI.

Trzeba zdać sobie jednak sprawę z tego, że sztuczna inteligencja to nie tylko pozytywy, ale także wiele nieprzyjemnych skutków ubocznych. W niewłaściwych rękach algorytmy AI mogą posłużyć do tworzenia zamieszania i siania dezinformacji. To właśnie z tym będzie walczyć OpenAI, twórcy popularnej konwersacyjnej sztucznej inteligencji ChatGPT.

Znakowanie tekstów wygenerowanych przez sztuczną inteligencję

OpenAI podejmie walkę z potworem, którego firma sama stworzyła. Przedstawiciele przedsiębiorstwa potwierdzili, że aktualnie pracują nad rozwiązaniem, które pomoże każdemu rozpoznać tekst napisany przez ChatGPT. Jednym z najbardziej obiecujących rozwiązań wydaje się być tekstowy znak wodny, który narzędzie od razu mogłoby wyłapać.

Opracowywana przez nas metoda tekstowego znaku wodnego jest obiecująca pod względem technicznym, ale wiąże się z poważnym ryzykiem, które rozważamy podczas badania alternatywnych rozwiązań, w tym podatnością na obejście ich przez złe podmioty i możliwością nieproporcjonalnego wpływu na grupy, takie jak osoby nieanglojęzyczne

- Powiedział rzecznik OpenAI w rozmowie z redakcją TechCrunch.

Warto jednak zaznaczyć, że OpenAI nie chce zbawiać świata i pracuje na własny rachunek. Narzędzie do rozpoznawania tekstu wygenerowanego przez sztuczną inteligencję dotyczyłoby wyłącznie prac, w które zaangażowany był ChatGPT. Według OpenAI testy wypadają obiecująco, jednak do ideału nadal sporo brakuje. Tekstowy znak wodny okazał się „wysoce dokładny, a nawet skuteczny w przypadku lokalnych manipulacji, takich jak parafrazowanie”, ale jest równocześnie „mniej odporny na globalne manipulacje; jak używanie systemów tłumaczeniowych, przeformułowanie przy użyciu innego modelu generatywnego lub proszenie modelu o wstawienie znaku specjalnego pomiędzy każdym słowem, a następnie usunięcie tego znaku.

Czytaj dalej poniżej

ChatGPT chce zawładnąć internetem. Planuje konkurować z Google Piotr Kaniewski

Miała być rewolucja AI, będą opóźnienia. Co się dzieje z Apple Intelligence? Piotr Kurek

Grafika: Depositphotos