Pamiętacie jeszcze Tay od Microsoftu? Zamysł giganta zakładał, że ten chatbot w serwisie Twitter będzie uczył się od innych internautów i ostatecznie... został przez nich paskudnie zepsuty. Tay chwaliła Trumpa, trzymała się rasistowskich postaw i generalnie zaskoczyła dosłownie wszystkich. Projekt szybko zamknięto, ale do dziś wywołuje on sporo emocji.
Jeden dzień wystarczył internautom do tego, aby Tay stała się zwolenniczką Trumpa i rasistką. Microsoft miał nadzieję, że internauci będą łaskawi dla tego projektu i uważał, że ci nauczą jej naturalnych interakcji z innymi użytkownikami sieci. Po jednym dniu projekt został zamknięty i Tay przestała odpowiadać na jakiekolwiek pytania.
Wirtualny asystent ma za zadanie nie tylko dokonywać interakcji z użytkownikami, ale i na bieżąco uczyć się nowych rzeczy. W trakcie konferencji EmTech Digital w San Francisco stwierdził on, że ten przypadek unaocznił twórcom podobnych projektów, na co należy zwracać uwagę tworząc konstrukt dla wirtualnych asystentów. Ci nie dość, że muszą rzeczywiście się uczyć, powinni być odporni na próby sprowadzenia ich na manowce. Kolejnym problemem
Według niego, sporo złego zrobiło to, że Tay została początkowo stworzona jako rozmówczyni o raczej swobodnym usposobieniu i osobowości 19-latki. Również i antropomorfizacja sztucznej inteligencji jest niekoniecznie dobra - maszyna zwyczajnie operuje na "innym poziomie percepcji" (o ile tak to można nazwać) i zbytnie jej upodobnianie do człowieka może okazać się po prostu niebezpieczne. Szczególnie, jeżeli mówimy o chatbocie, który ma się od ludzi uczyć. A od nich natomiast może złapać... cokolwiek.
"Tay" went from "humans are super cool" to full nazi in <24 hrs and I'm not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
— gerry (@geraldmellor) 24 marca 2016
Asystent Google jest dobrym kompanem w pracy, potrafi ułatwić życie, ale niekoniecznie chciałbym, żeby zachowywał się bardziej ludzko niż obecnie. Dla mnie ważne jest to, aby robił to, do czego został stworzony. Rozumienie komend, wykonywanie ich i proponowanie innych rozwiązań operując na kontekście to wszystko, czego obecnie potrzebuję.
Z tym, że inni konsumenci nowoczesnych technologii mogą mieć inne zdanie. Nie jestem pewien, czy konsumenci nie będą próbować doszukiwać się w sztucznej inteligencji typowo ludzkich cech. Przypomniał mi się właśnie film "Her", w którym główny bohater zakochał się w maszynie, samoświadomej właściwie sztucznej inteligencji będącej jednocześnie systemem operacyjnym. Jestem pewien, że do tak drastycznych wykolejeń nie dojdzie, pytanie tylko, czy w najbliższej przyszłości, przełom w postaci sztucznej osobliwości nie postawi nas przed zupełnie nowymi problemami, również takimi, które będą ważyć na całym społeczeństwie.
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
