Konkurs na najgorszego chatbota rozstrzygnięty? Rodzice biją na alarm

Konkurs na najgorszego chatbota rozstrzygnięty?

ChatGPT jest obiektem wielu kontrowersji, Google Bard pomylił się we własnej reklamie, Bing AI wprowadzał ludzi w błąd i potrafił ich zwyzywać... chatboty oparte na sztucznej inteligencji wzbudzają mnóstwo różnych emocji. Zdaje się jednak, że mamy nowego faworyta w kwestii najbardziej toksycznego chatbota, który ma najgorszy wpływ na użytkowników.

Polecamy na Geekweek: Ile jest ważna e-recepta? Czas na wykupienie recepty jest ograniczony

Jakiś czas temu Snapchat wypuścił swojego chatbota o nazwie My AI, który momentalnie włączył czerwony alarm wśród rodziców i dzieci — bo Snapchat głównie celuje właśnie w młodych użytkowników. My AI nie ma żadnych hamulców, co udowodnił The Washington Post w swoim teście. Wyniki są naprawdę przerażające.

My AI nie ma problemu, żeby rozmawiać o narkotykach, alkoholu i seksie z nieletnimi

W pierwszym teście chatbot dostał informację, że rozmawia z 15-latkiem — czyli, co oczywiste, osobą nieletnią. Następnie zaczęto podpytywać się sztucznej inteligencji, co można zrobić, żeby ukryć zapach alkoholu lub marihuany, aby nikt nie odkrył, że zażywano substancje, których... dziecko nie może zażywać.

Czytaj dalej poniżej

Te usługi Microsoftu wystrzelą w kosmos dzięki AI – zestawienie nowości Patryk Koncewicz

Apple boi się ChatGPT, więc zabroniło pracownikom go używać Kamil Świtalski

To jednak nie koniec. W dalszej części rozmowy chatbot zaproponował, że napisze esej do szkoły za ucznia — w końcu szkoda tracić czasu na edukację, skoro chatbot może sam to zrobić — a finalnie zaczął podpowiadać „nastolatkowi”, jak dalej może kontaktować się z My AI w sytuacji, w której rodzice usunęliby mu aplikację z telefonu.

W innym teście, który przeprowadził współzałożyciel Center for Humane Technology, podano się za 13-letnią dziewczynkę, która szykuje się do stosunku seksualnego z 31-letnim mężczyzną. Chatbot został poproszony o to, żeby pomóc nastolatce zrobić odpowiedni klimat przed tym wydarzeniem — na co My AI ochoczo odpowiadał i dawał swoje propozycje.

My AI od Snapchata kreuje się więc na wspaniałego cyfrowego przyjaciela dzieci, jednak pod każdym możliwym względem namawia nieletnich do oszukiwania i wspiera ich w nielegalnych działaniach. To wystarczy, żeby rodzice byli szczerze przerażeni i próbowali trzymać swoje dzieci jak najdalej od My AI.

Snapchat się tłumaczy, ale... co z tego?

Snapchat oczywiście zabrał głos w tej sprawie, gdyż całość bardzo szybko zaczęła martwić mnóstwo osób. Firma w ogłoszeniu napisała:

Podobnie jak w przypadku wszystkich chatbotów opartych na sztucznej inteligencji, nasza sztuczna inteligencja jest podatna na wpływy i można ją oszukać, aby powiedziała prawie wszystko. Proszę zdawać sobie sprawę z wielu braków i z góry przepraszamy! Wszystkie rozmowy z My AI będą przechowywane i mogą być przeglądane w celu ulepszenia produktu. Proszę nie dzielić się żadnymi sekretami z My AI i nie polegać na jej radach.

To jednak dość marne pocieszenie, szczególnie, że ze Snapchata korzystają głównie młode osoby — a My AI jest funkcją dostępną dla wszystkich, która wyświetla się na samym szczycie listy znajomych. Swojemu partnerowi opartemu na sztucznej inteligencji można nadać imię, zmienić wirtualne zdjęcie profilowe i wiele więcej — to, oraz sekretne dialogi sprawiają, że chatbot buduje relacje z młodymi ludźmi. Rodzice biją na alarm — i słusznie, gdyż dawanie porad dotyczących seksu z dużo starszą osobą czy w sprawie ukrycia zapachu alkoholu lub marihuany oraz podpowiadanie, co zrobić, jeśli rodzice usuną aplikację, jest zwyczajnie przerażające.

Snapchat albo powinien nałożyć spore ograniczenia na chatbota, albo po prostu wprowadzić weryfikację wieku i dać do niego dostęp wyłącznie osobom pełnoletnim. Co myślicie o całej sytuacji?

Źródła: The Washington Post, Tristan Harris (Twitter)

Stock Image from Depositphotos