Sztuczna Inteligencja

Stworzyli potwora, teraz chcą go ubić. Nad tym pracuje ekipa od ChatGPT

Patryk Łobaza
Stworzyli potwora, teraz chcą go ubić. Nad tym pracuje ekipa od ChatGPT
Reklama

Rozwój sztucznej inteligencji przyniesie wiele korzyści, ale ma też swoje przykre skutki uboczne. Twórcy ChatGPT będą z nimi walczyć.

Wcześniej mogliśmy głównie z boku obserwować rozwój sztucznej inteligencji, która była wykorzystywana przez inżynierów, badaczy i naukowców w swojej pracy. Od kilku lat AI zawitała do naszej cyfrowej codzienności i wygodnie się rozgościła. Co rusz firmy reklamują swoje produkty wykorzystaniem sztucznej inteligencji. Ostatnio nawet zdarzyło mi się spróbować sosu, którego zarówno kompozycja smaków, jak i etykieta została wymyślona przez AI.

Reklama

Trzeba zdać sobie jednak sprawę z tego, że sztuczna inteligencja to nie tylko pozytywy, ale także wiele nieprzyjemnych skutków ubocznych. W niewłaściwych rękach algorytmy AI mogą posłużyć do tworzenia zamieszania i siania dezinformacji. To właśnie z tym będzie walczyć OpenAI, twórcy popularnej konwersacyjnej sztucznej inteligencji ChatGPT.

Znakowanie tekstów wygenerowanych przez sztuczną inteligencję

OpenAI podejmie walkę z potworem, którego firma sama stworzyła. Przedstawiciele przedsiębiorstwa potwierdzili, że aktualnie pracują nad rozwiązaniem, które pomoże każdemu rozpoznać tekst napisany przez ChatGPT. Jednym z najbardziej obiecujących rozwiązań wydaje się być tekstowy znak wodny, który narzędzie od razu mogłoby wyłapać.

Opracowywana przez nas metoda tekstowego znaku wodnego jest obiecująca pod względem technicznym, ale wiąże się z poważnym ryzykiem, które rozważamy podczas badania alternatywnych rozwiązań, w tym podatnością na obejście ich przez złe podmioty i możliwością nieproporcjonalnego wpływu na grupy, takie jak osoby nieanglojęzyczne

- Powiedział rzecznik OpenAI w rozmowie z redakcją TechCrunch.

Warto jednak zaznaczyć, że OpenAI nie chce zbawiać świata i pracuje na własny rachunek. Narzędzie do rozpoznawania tekstu wygenerowanego przez sztuczną inteligencję dotyczyłoby wyłącznie prac, w które zaangażowany był ChatGPT. Według OpenAI testy wypadają obiecująco, jednak do ideału nadal sporo brakuje. Tekstowy znak wodny okazał się „wysoce dokładny, a nawet skuteczny w przypadku lokalnych manipulacji, takich jak parafrazowanie”, ale jest równocześnie „mniej odporny na globalne manipulacje; jak używanie systemów tłumaczeniowych, przeformułowanie przy użyciu innego modelu generatywnego lub proszenie modelu o wstawienie znaku specjalnego pomiędzy każdym słowem, a następnie usunięcie tego znaku.

Grafika: Depositphotos

Reklama

Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu

Reklama