Spełnia się najczarniejszy sen z filmów sci-fi. Jak wynika z najnowszych informacji, korporacje coraz częściej korzystają z systemów monitorowania opartych na sztucznej inteligencji. I z jednej strony nie brzmi to źle — w końcu optymalizacja procesów, lepsze zarządzanie, to wszystko brzmi jak dbanie o swój biznes. Problem polega jednak na tym, że firmy mają wykorzystywać te narzędzia do analizy komunikacji pracowników w popularnych aplikacjach biznesowych — m.in. Slacka, Microsoft Teams czy Zooma.
Nowe narzędzia pozwalają na jeszcze więcej kontroli i analiz
Na rynku przybywa narzędzi opartych na zaawansowanych algorytmach, które pozwalają na jeszcze skuteczniejsze śledzenie i monitorowanie treści. A, jak informuje CNBC, jeden z modeli sztucznej inteligencji ma być w stanie analizować treść i nastroje zarówno tekstu, jak i obrazów które wysyłane są przez użytkowników wspomnianych aplikacji biznesowych. I część z tych narzędzi ma być stosowanych w stosunkowo niewinny sposób. Mowa m.in. o ocenie reakcji pracowników na typowo firmowe zmiany, ot, chociażby nowe regulaminy które wprowadzane są w obrębie zakładu pracy
[Dane te] nie będą zawierały nazwisk osób, aby chronić ich prywatność. (...) być może pracownicy w wieku powyżej 40 lat w tej części Stanów Zjednoczonych postrzegają zmiany w polityce bardzo negatywnie ze względu na koszty, ale wszyscy inni poza tą grupą wiekową i lokalizacją widzą to pozytywnie, ponieważ wpływa to na nich w inny sposób — - powiedział Jeff Schumann, dyrektor generalny Aware.
Brzmi to jak typowe korporacyjne usprawnienia i tak długo jak dane te faktycznie są anonimizowane — trudno się na cokolwiek złościć. Ale na tym jeszcze nie koniec — bo na rynku przybywa narzędzi, które pozwalają dosłownie szpiegować pracowników.
Źródło: Depositphotos
Nowe narzędzia AI pozwalają na szpiegowanie pracowników w obrębie popularnych narzędzi biurowych
Nie trzeba specjalnie daleko szukać. Firma Aware, odpowiedzialna za wspomniane wyżej modele, ma w swojej ofercie także znacznie bardziej... dyskusyjne rozwiązania. W tym również narzędzia, które mogą flagować posty użytkowników według rozmaitych kryteriów. Modele zaawansowanych algorytmów AI stworzonych przez Aware mają jedno podstawowe zadanie: śledzić wszystkie wiadomości, które wymieniają ze sobą użytkownicy. Doskonale radzą sobie także z przetwarzaniem obrazów. W ten sposób mogą w mig identyfikować i raportować niepokojące zachowania. Jakie? Ot, chociażby wszelkiej maści prześladowanie, mobbing, dyskryminację czy obrazoburcze treści, które nigdy nie powinny znaleźć się na firmowym komunikatorze.
Te narzędzia już istnieją i są wykorzystywane. Co dalej?
Od początku rewolucji AI mówiło się, że potrzeba regulacji. Odpowiednie organy jednak działają znacznie wolniej, niż rozwój technologii — dlatego trudno tu mówić o skutecznym przeciwdziałaniu. Odpowiednie kroki zostały już poczynione, jednak nie zmienia to faktu, że wykorzystywanie narzędzi takich jak wspomniane powyżej budzi ogrom kontrowersji. Tym bardziej że to nie teoria — z takich rozwiązań ma już korzystać cały szereg korporacji — m.in. Starbucks, T-Mobile czy Walmart. Przedstawiciele Aware twierdzą, że ich aplikacje dokonały już analizy ponad 20 miliardów interakcji sposród 3 milionów pracowników.
O sprawie dość chłodno wypowiadają się przedstawiciele organizacji dbających o prywatność. A wszystko to coraz bardziej zaczyna przypominać najczarniejsze wizje Orwella czy sytuacje których świadkami byliśmy oglądając "Czarne Lustro" albo "Impersonalnych".
