Wszelkiej maści twórcy obawiają się, że AI zastąpi ich i zabierze im pracę. Boją się również zleceniodawcy: chcą, aby ich teksty były unikalne i by nikt nie robił ich w "bambuko". OpenAI wcześniej zapowiadało w mediach, że opublikuje "klasyfikator", który pozwoli rozpoznać materiały pisane przez modele ChatGPT i GPT-3. Jak to ma działać?
Cóż, nadużywanie generatorów tekstów to już absolutny standard. Trzeba przyznać, że branża IT bardzo chętnie zaadaptowała sobie te narzędzia. Zresztą, rozmawiałem dzisiaj z jednym z kumpli pracujących w pewnym software house'ie i odpowiedział mi "Teksy tworzę ja z pomocą AI albo AI z moja pomocą…😁" (w takim razie życzę powodzenia...). W ten sposób znacznie szybciej można stworzyć całkiem dobre materiały na różne tematy. Mam nadzieję, że branżunia IT przy okazji sprawdza te teksty, bo ChatGPT potrafi się pomylić. Inne modele językowe też.
Jak podaje TechCrunch, klasyfikator sprawdzający teksty w zakresie "znamion zbudowania ich przez ChatGPT lub GPT-3" nie jest szczególnie dokładny. Potrafi rozpoznać "sztuczny" materiał w 26% przypadków. Jednak samo OpenAI twierdzi, że jako jedno z narzędzi do wykrywania takich tekstów - jest bardzo przydatny.
Nadal ma jednak szereg ograniczeń - dlatego powinien być używany jako uzupełnienie innych metod określania źródła tekstu, zamiast być głównym narzędziem. Udostępniamy wstępną wersję klasyfikatora, aby uzyskać opinie na temat tego, czy narzędzia tego typu są przydatne, i mamy nadzieję, że w przyszłości udostępnimy ulepszone metody.
Rzecznik OpenAI dla TechCrunch
ChatGPT w ostatnim czasie wywołał ogromną burzę. Doszło do tego, że niektóre szkoły w Stanach Zjednoczonych zabroniły korzystania z modelu językowego i co więcej - nawet zablokowały dostęp do domen OpenAI w swoich sieciach. Oczywiście wiadomo, że jest to słabe ograniczenie, bowiem uczniowie są w stanie korzystać z tego rozwiązania na swoich urządzeniach, w sieciach komórkowych. OpenAI AI Text Classifier na tym etapie nie bardzo jest narzędziem, które może być skuteczne w "walce ze sztuczną inteligencją". Tylko pytanie, z czym tutaj walczyć? Od dawna wiadomo, że szkoły nie są przystosowane na nowe czasy. W warunkach bardzo szybko rozwijającej się AI, będą musiały się nieco zmienić.
Sam OpenAI Text Classifier ma pewne ograniczenia: tekst wejściowy musi mieć minimum 1000 znaków. Co bardzo ciekawe, nie wykryje sytuacji, w której tekst jest zerżnięty 1:1, na przykład z innej strony internetowej. Co ciekawe, wykazywano już, że ChatGPT potrafi dokładnie powtórzyć tekst, na którym była one trenowana. Istnieją pewne progi, których detektor używa, aby przekazać Ci, jak spora jest szansa na to, że dany materiał został napisany przez model językowy. Wyniki dot. możliwego użycia AI podawane są według konkretnego schematu:
Jak wskazują testy - klasyfikator nie jest szczególnie przydatny. Wiele wpisów generowanych przez ChatGPT nie jest wykrywanych przez to narzędzie. Tam, gdzie jest to ewidentne, klasyfikator potrafi ocenić, że w sumie nie wiadomo, czy ten tekst był pisany przez AI (klasyfikując go jako "niejasny"). W dobie innych narzędzi, które badają złożoność materiału oraz typowe dla AI wyrażenia - ten projekt na razie musi jeszcze wiele się nauczyć. Najpewniej tak będzie - za jakiś czas zwyczajnie będzie skuteczniejszy.
Wygląda więc na to, że odbywa się gra w kotka i myszkę. Ten, kto stworzy dokładne narzędzie do badania tego, czy materiał napisała AI - zgarnie sporą część tortu wygenerowanego przez OpenAI. Pytanie, czy będzie to właśnie ta firma...? Niekoniecznie, są już narzędzia takie jak ChatZero, które radzą sobie naprawdę dobrze.
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
