Rozwój sztucznej inteligencji przyniesie wiele korzyści, ale ma też swoje przykre skutki uboczne. Twórcy ChatGPT będą z nimi walczyć.
Stworzyli potwora, teraz chcą go ubić. Nad tym pracuje ekipa od ChatGPT
Wcześniej mogliśmy głównie z boku obserwować rozwój sztucznej inteligencji, która była wykorzystywana przez inżynierów, badaczy i naukowców w swojej pracy. Od kilku lat AI zawitała do naszej cyfrowej codzienności i wygodnie się rozgościła. Co rusz firmy reklamują swoje produkty wykorzystaniem sztucznej inteligencji. Ostatnio nawet zdarzyło mi się spróbować sosu, którego zarówno kompozycja smaków, jak i etykieta została wymyślona przez AI.
Trzeba zdać sobie jednak sprawę z tego, że sztuczna inteligencja to nie tylko pozytywy, ale także wiele nieprzyjemnych skutków ubocznych. W niewłaściwych rękach algorytmy AI mogą posłużyć do tworzenia zamieszania i siania dezinformacji. To właśnie z tym będzie walczyć OpenAI, twórcy popularnej konwersacyjnej sztucznej inteligencji ChatGPT.
Znakowanie tekstów wygenerowanych przez sztuczną inteligencję
OpenAI podejmie walkę z potworem, którego firma sama stworzyła. Przedstawiciele przedsiębiorstwa potwierdzili, że aktualnie pracują nad rozwiązaniem, które pomoże każdemu rozpoznać tekst napisany przez ChatGPT. Jednym z najbardziej obiecujących rozwiązań wydaje się być tekstowy znak wodny, który narzędzie od razu mogłoby wyłapać.
Opracowywana przez nas metoda tekstowego znaku wodnego jest obiecująca pod względem technicznym, ale wiąże się z poważnym ryzykiem, które rozważamy podczas badania alternatywnych rozwiązań, w tym podatnością na obejście ich przez złe podmioty i możliwością nieproporcjonalnego wpływu na grupy, takie jak osoby nieanglojęzyczne
Czytaj dalej poniżej
- Powiedział rzecznik OpenAI w rozmowie z redakcją TechCrunch.
Warto jednak zaznaczyć, że OpenAI nie chce zbawiać świata i pracuje na własny rachunek. Narzędzie do rozpoznawania tekstu wygenerowanego przez sztuczną inteligencję dotyczyłoby wyłącznie prac, w które zaangażowany był ChatGPT. Według OpenAI testy wypadają obiecująco, jednak do ideału nadal sporo brakuje. Tekstowy znak wodny okazał się „wysoce dokładny, a nawet skuteczny w przypadku lokalnych manipulacji, takich jak parafrazowanie”, ale jest równocześnie „mniej odporny na globalne manipulacje; jak używanie systemów tłumaczeniowych, przeformułowanie przy użyciu innego modelu generatywnego lub proszenie modelu o wstawienie znaku specjalnego pomiędzy każdym słowem, a następnie usunięcie tego znaku.
Grafika: Depositphotos
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu