google
6

Google wie, że Sztuczna Inteligencja ma problemy z rozpoznawaniem płci i usuwa funkcje z poczty Gmail

Nowoczesne technologie nie zawsze są niezawodne. Zdarzają się sytuacje, w których mogą sprawić niespodziewane problemy — głównie jeśli oddamy Sztucznej Inteligencji władzę nad tym, co piszemy i wysyłamy do innych.

Google znane jest z wprowadzania do swoich rozwiązań technologii przyszłości. Gmail, w maju tego roku, doczekał się sporego odświeżenia. Zmiany były daleko idące, a wielu dotychczasowych użytkowników krytycznie podchodzili do zaproponowanych przez firmę nowości. Jedną z nich jest wprowadzenie Sztucznej Inteligencji pozwalającej na szybkie odpowiadanie na nadchodzące e-maile oraz na wspomaganie przez nią pisania korespondencji.

Zobacz też: Już nawet pisać się nie chce. Użytkownicy Gmaila pokochali „gotowce”!

Funkcja Inteligentne tworzenie z problemami rozpoznawania płci

Gmail, dla swoich anglojęzycznych użytkowników oferuje funkcję Inteligentne tworzenie, która pozwala na szybsze przygotowywanie e-maili. Narzędzie to działa w oparciu o systemy uczące się, podpowiadając propozycje tekstu podczas pisania.  Można ją włączyć lub wyłączyć z poziomu Ustawień Gmail, w zakładce Ogólne.

Jak donosi serwis Reuters, Google postanowiło usunąć ze Sztucznej Inteligencji możliwość automatycznego sugerowania płci i zwrotów na nią wskazujących. Decyzja ta została podjęta po testach prowadzonych przez inżynierów firmy już w styczniu, którzy udowodnili, że funkcja ma dość duży problem z rozpoznawaniem kontekstu dotyczącego płci.

I am meeting an investor next week. Do you want to meet him? (W przyszłym tygodniu widzę się z inwestorem. Chcesz się z nim spotkać?)

— przykład błędnego zasugerowania płci osoby. Inwestor okazał się kobietą i w świecie biznesu tak przygotowana korespondencja może okazać się nietaktowna.

Jak możemy przeczytać na oficjalnych stronach Google:

W związku z tym, że modele uczenia się języka korzystają z milionów najczęściej występujących wyrażeń i zdań, w procesie uczenia się o świecie mogą również przyswoić sobie ludzkie uprzedzenia poznawcze. Warto mieć tego świadomość, a także wiedzieć, że wciąż trwa dyskusja na temat tego, jak poradzić sobie z tym zagadnieniem. Zależy nam na oferowaniu usług, które zaspokajają potrzeby wszystkich użytkowników, dlatego wciąż pracujemy nad opracowaniem strategii korygowania uprzedzeń poznawczych.

Być może Google pracuje nad rozwiązaniem tego problemu, jednak na chwilę obecną postawiło na dość proste rozwiązanie — usunięcie zwrotów sugerujących płeć.

Źródło: The Verge