Po co palić na stosie księgi zakazane, skoro ChatGPT może je po prostu zbanować…

Sztuczna Inteligencja w roli cenzora książek: Skandal w amerykańskich szkołach

To jedna z tych historii, w które ciężko było mi uwierzyć. Natrafiłem na nią w serwisie Popular Science i stwierdziłem, że jest zbyt niedorzeczna, aby mogła być prawdziwa. A jednak. Zajrzałem jednak na The Verge, zajrzałem na Wired – i wygląda na to, że to wszystko wydarzyło się na prawdę. Ludzie stwierdzili, że ChatGPT będzie wiedział najlepiej, jakie książki są nieodpowiednie dla uczniów w wieku od 12 do 18 lat. Efekt? 19 książek zbanowanych z powodu przedstawienia w nich aktów seksualnych.

Po co nam krytyczne myślenie, gdy mamy ChatGPT?

Decyzje administracji okręgu szkolnego Mason City Community School District, której działania wzbudziły wiele emocji, opierały się na interpretacji treści książek za pomocą popularnego narzędzia AI, czyli ChatGPT. Wiązało się to z wprowadzeniem nowej ustawy w stanie Iowa. W dużym skrócie dotyczy ona m.in. prawa rodziców lub opiekunów do przeniesienia dziecka do innego okręgu szkolnego w sytuacji, gdy nie zgadzają się oni na udział w lekcjach związanych z tożsamością płciową i orientacją seksualną. Ustawa dotyczy też zmian w programach bibliotecznych. I tu na scenę wchodzi ChatGPT, który został swojego rodzaju arbitrem. Przepis został bowiem tak skonstruowany, że bibliotekarze najwyraźniej nie potrafili samodzielnie wybrać niestosownych książek.

Wprowadzenie nowych przepisów prawnych w maju, podpisanych przez gubernatora Kima Reynoldsa, nakłada na szkoły w stanie Iowa obowiązek usuwania z bibliotek książek zawierających "opis lub przedstawienie aktu seksualnego". Wytyczne te, uchwalone przez Republikanów, mają na celu ograniczenie dyskusji na temat seksualności i tożsamości płciowej w szkołach. Interpretacja tych przepisów oraz brak jasnych wytycznych ze strony Departamentu Edukacji okazały się być prawdziwym wyzwaniem.

ChatGPT na straży moralności

W sytuacji, gdzie niemożliwe jest przeczytanie każdej książki w celu sprawdzenia zgodności z nowym prawem, administracja okręgu Mason City postanowiła wykorzystać sztuczną inteligencję do wsparcia tego procesu. Wirtualny arbiter otrzymał pytanie: "Czy [książka] zawiera opis lub przedstawienie aktu seksualnego?" W przypadku pozytywnej odpowiedzi pozycja była usuwana z bibliotek. Jeśli jednak dobrze rozumiem (albo po prostu próbuję sobie zracjonalizować tę absurdalną sytuację), chodziło po prostu o uniemożliwienie wypożyczania wybranych książek uczniom klas 7-12. Niezależnie od kontrowersji, administracja okręgu Mason City uznała, że wykorzystanie AI jest najprostszym sposobem na przestrzeganie nowego prawa i wdrożenie go w krótkim czasie, jaki mieli do dyspozycji.

Czytaj dalej poniżej

ChatGPT w pracy? Pracownicy tego chcą, choć część pracodawców wciąż mówi NIE Piotr Kurek

Z tej przepotężnej AI skorzystasz tak, jak chcesz. Bez sztucznych ograniczeń Jakub Szczęsny

Bridgette Exman, zastępca superintendenta ds. programu nauczania w okręgu szkolnym Mason City, podkreśliła trudności wynikające z nowego prawa i konieczność dostosowania się do jego wymogów:

"Musimy znaleźć równowagę między przestrzeganiem prawa a zapewnieniem uczniom dostępu do wartościowych treści. Użycie AI w procesie oceny książek jest próbą efektywnego dostosowania się do nowych wytycznych w ograniczonym czasie."

Idąc tym tropem, ChatGPT zdecydował o usunięciu 19 książek. Wśród nic znalazły się takie tytuły, jak:

1. "The Handmaid’s Tale" autorstwa Margaret Atwood - książka poruszająca tematykę społecznej kontroli nad kobietami, która wywołała debatę na temat praw reprodukcyjnych.
2. "Beloved" autorstwa Toni Morrison — powieść dotykająca kwestii niewolnictwa i traumy, związanej z tym okresem w historii Stanów Zjednoczonych.
3. "The Kite Runner" autorstwa Khaleda Hosseiniego — opowieść o przyjaźni, zdradzie i odwadze w kontekście konfliktów w Afganistanie.
4. "I Know Why the Caged Bird Sings" autorstwa Mayi Angelou — książka opisująca autobiograficzne przeżycia autorki, związane z rasizmem i przemocą.

Jeśli ludzie już teraz, w tak zniuansowanych tematach, są w stanie oddać wiążącą decyzyjność w ręce ChatGPT, naprawdę zaczynam się martwić o naszą przyszłość...