42

Asystent głosowy Amazona sam urządził w domu „imprezę”? Firma przedstawia to inaczej

Gdy sprzęt odznaczający się dużą autonomią popełni błąd, natychmiast zwraca się na niego uwagę: dowód na to, że technologia nie jest doskonała, że maszyna nie ma wielkiej przewagi nad człowiekiem. Wystarczy przywołać wypadek samojezdnego auta Google - przejechało szmat drogi bez kolizji, ale szum wywołała stłuczka. To chyba uspokaja nasz gatunek, wciąż czujemy się potrzebni. Coraz częściej okazuje się jednak, że za problemami i niedociągnięciami stoi człowiek.

Asystent głosowy zrobił imprezę – na taką informację trafiłem kilka godzin temu. Nie dość, że brzmi ciekawie, to jeszcze śmiesznie, więc trudno odpuścić taki kąsek. Okazuje się, że Alexa, twór Amazona, w okolicach drugiej w nocy puściła bardzo głośno muzykę w mieszkaniu w okolicach Hamburga. To zbudziło sąsiadów i ich… rozwścieczyło. Wezwana została policja, a gdy pukanie do drzwi nie przyniosło rezultatów, sprawą zajął się ślusarz. Zaskoczeni funkcjonariusze w lokalu znaleźli jedynie włączony głośnik.

Kilka godzin później do domu wrócił lokator. Klucze nią pasuję, bo wstawiono nowy zamek, dowiaduje się, że trzeba się udać na posterunek, by odebrać nowy plik i… zapłacić za interwencję. Człowiek opisuje sprawę w mediach społecznościowych, podkreśla, że asystent głosowy działał na własną „rękę”. Człowiek zaczepia przy tym Amazon. Ten sprawę sprawdza i stwierdza, że głośnik uruchomiono zdalnie, za pomocą aplikacji na smartfonie. Właściciel sprzętu sam przyznał, że był w tym czasie na imprezie ze znajomymi, więc…

Amazon oferuje, że zapłaci za szkody, ale podkreśla, iż sprzęt i Alexa funkcjonują bez zarzutu. Klops. Miała być historia o szalonej i niesfornej sztucznej inteligencji, a jest o facecie, który za mocno imprezował. Jednak nie będzie 1:0 dla gatunku ludzkiego. W tym momencie przypomniałem sobie o zdarzeniu sprzed dwóch dni: można wówczas było trafić na doniesienia z Las Vegas, gdzie uruchomiono autonomicznego busa. Intryguje już sam fakt ruszenia z taką usługą, ale media bardziej zainteresowało to, że ów pojazd zaliczył kolizję dwie godziny po starcie. I znowu: ach ta niedopracowana technologia, same z nią problemy.

Szybko okazuje się jednak, że bus na drodze poruszał się prawidłowo, a stłuczkę spowodował kierowca ciężarówki, który nie zachował właściwej odległości i najechał na autonomiczny pojazd (ten nie mógł już zmienić swojego położenia). Robi się 2:0 dla maszyn. Przy tym miasto stwierdziło w oficjalnym komunikacie, że gdyby ciężarówka była wyposażona w podobne rozwiązania, do zdarzenia by nie doszło. Jestem skłonny zgodzić się z tą opinią.

Te dwa przykłady (najświeższe – lista mogłaby być dłuższa) pokazują, że wciąż jesteśmy wyczuleni na błędy maszyn. Wystarczy usterka, wypadek, niedociągnięcie i robi się temat na newsa czy nawet większy wpis lub materiał audio i wideo. Na siłę chcemy sobie udowodnić, że technologie nie są doskonałe, chociaż to twierdzenie należy uznać za oczywiste: tak, technologia nie jest doskonała. I nie będzie. My popełniamy błędy, ją czeka podobny los. Przy czym w jej przypadku tych błędów i usterek może być mniej.

Jednocześnie coraz częściej staje się jasne, że to my stanowimy źródło problemów. Ludzie boją się autonomicznych pojazdów (tak przynajmniej wynika z ankiet), a zapominają o tym, ile osób ginie rocznie na drogach w wypadkach spowodowanych przez żywego kierowcę. Ja naprawdę czekam na rozwój autonomicznych pojazdów, bo spodziewam się, że na drogach będzie bezpieczniej (osobną kwestią jest tu cyberbezpieczeństwo). A rozwój sztucznej inteligencji może doprowadzić do tego, że głośnik nie uruchomi się w pustym mieszaniu o drugiej w nocy nawet wtedy, gdy użytkownik będzie się o to starał. Rano asystent głosowy wyjaśni spokojnie właścicielowi, że jego decyzje nie były do końca przemyślane i właściwe. Podejrzewam, że wielu osobom taki pomocnik czasem się przyda…

  • Shakuahi

    To nie tyczy się tylko maszyn. My ogólnie jesteśmy wyczuleni na błędy innych. Gdy sami się pomylimy – drobiazg, niech się kelner pomyli w zamówieniu, ktoś walnie byka w artykule – od razu jest zwyzywany od nieudaczników. Ot, natura ludzka, tak dużo wymaga od innych, jednocześnie pozwala na niezwykłą pobłażliwość dla samego siebie.

    • To prawda, podobne mechanizmy działają między ludźmi

    • YY

      Wyobraź sobie, że w wyniku pomyłki kelnera osoba dostaje danie ze składnikiem na który jest uczulona…

    • Shakuahi

      Nie miałam na myśli takich przypadków. :)

  • Matt

    W przypadku gdy człowiek popełni błąd jest do kogo mieć problem. Co w przypadku gdy autonomiczny samochód rozjedzie człowieka? Kto wtedy jest winny?

    • Programiści, producenci czujników. To zależy co zawiniło. I ewentualnie czy sam człowiek się nie rzucił pod auto.

    • Krzepki Harry

      I tak trudno wtedy mówić o winie – to zależy, czy ktoś coś celowo zaniedbał, zrobił źle, chooć mógł tego uniknąć i miał do tego pełną wiedzę i narzędzia. W większości przypadków gdy myli się maszyna można mówić po prostu o przyczynie zdarzenia, ale niekoniecznie o winie jako takiej. Bo jeśli jest wina, to powinna być również i kara. Będziemy wsadzać do więzień programistów? ;)

    • Jeśli ktoś zaprojektuje źle halę, przez co w zimie się zawali, to jest pociągany do odpowiedzialności. W moim odczuciu jest to tożsame.

    • Programista to nie architekt, inżynier czy manager projektu. To nie jest osoba decyzyjna a tylko zwykły „budowlaniec”, który dostał wytyczne i tak oto zbudował. Użyj trochę tej głowy bo to dwie różne kwestie.

    • Ogau

      Programista to właśnie architekt, który dostał wytyczne: „zrób dobrze działający autonomiczny pojazd” i powiedział, że to zrobi. Użyj trochę tej głowy, bo to jedna i ta sama kwestia. ;)

    • Wróć dziecko do podstawówki bo chyba nie pojmujesz jak działa ta branża. Siedzę w tym od kilku lat więc wiem co mówię.

    • Ogau

      To jak to działa stary? Czekam na wyjaśnienia. Przy okazji wyjaśnij dlaczego to nie wina twórcy „programu” ;)

    • zakius

      w tak dużych systemach to tak nie działa, masz architekta zlecającego zadania, code monkeys i osoby pośrednie, które weryfikują po zautomatyzowanych testach jakość kodu stworzonego przez code monkeys
      tutaj nie ma miejsca na myślenie przed klawiaturą

    • Gwoli ścisłości. Przy tak wielkich projektach osobą na samej górze projektu jest project owner, który pod sobą ma kilku managerów. Odpowiednio test team manager, engineering manager, development manager i w zależności jaka jest struktura firmy może być także research manager. Każdy z tych managerów ma pod sobą kilku headów, którzy zarządzają mniejszymi grupkami ludzi. Dla przykładu, engineering może się zajmować tworzeniem oprogramowania pod kilkanaście różnych modułów i każdy z tych modułów ma swojego heada. Poniżej albo czasami i na równi znajduje się architekt projektu, który tworzy architekturę oprogramowania i mapę rozwoju do której dorzucają się inżynierowie. Projekt zatwierdzony przez ten zespół idzie zazwyczaj do developmentu i tam jest dalej rozwijany w ramach ogólnych założeń engineering teamu.

      EDIT:
      To co napisałeś bardzo dobrze wpasowuje się w polskie realia. W bardziej rozwiniętych krajach jest to trochę bardziej poukładane.

    • Grubas

      Bardzo rozdmuchany pion managerski.

    • A myślisz, że taką halę projektuje jeden architekt? W każdej strukturze jest jedna najważniejsza osoba, która odpowiada za wszystkich. Zazwyczaj taka osoba najmniej robi, bo po to ma ludzi pod sobą, żeby wszystko sprawdzali, a jednocześnie najwięcej zarabia. Tylko, że jak coś jest nie tak, to właśnie ta osoba odpowiada za niedociągnięcia, bo to jej rolą jest sprawienie, żeby wszystko działało. Tak jak architekci odpowiadają karnie za zawalenie się budynków, konstruktorzy, za zabicie przez maszynę człowieka, tak programiści powinni odpowiadać za błędy w oprogramowaniu skutkujące ludzką śmiercią

    • Idź do pierwszej lepszej firmy IT i zobacz jak to działa od wewnątrz. Jeżeli programista ma odpowiadać za błędy w oprogramowaniu to równie dobrze mógł byś napisać że użytkownik może odpowiadać za wypadek ponieważ niewłaściwe użytkowanie spowodowało wypadek.

      Jeżeli nie pracowałeś przy tego typu projektach to się nie wypowiadaj albo przed każdą bzdurą, którą tutaj napiszesz pochyl się o 90 stopni do przodu i biegnij ile sił w nogach… Może wtedy coś pojmiesz.

    • A ty pracowałeś przy projektach architektonicznych? Tak samo jak programista może popełnić błąd, czy czegoś nie przewidzieć, tak samo może architekt, to dlaczego jeden ma odpowiadać za życie ludzkie, a drugi nie? Struktura pracy jest taka sama (albo mocno zbliżona) i nie widzę powodu, aby jednych karać, podczas gdy inni pozostaną bezkarni. Idąc twoją logiką, jak w samochodzie nie zadziałają hamulce, bo błąd popełnił konstruktor, to ma on odpowiadać karnie, ale jak nie zadziałają, bo w oprogramowaniu był błąd, to programista może czuć się bezkarnie.
      „równie dobrze mógł byś napisać że użytkownik może odpowiadać za wypadek ponieważ niewłaściwe użytkowanie spowodowało wypadek.”- genialne zdanie, szkoda tylko, że tak jest w rzeczywistości i jeśli np użytkownik obejdzie zabezpieczenia, albo wykorzysta urządzenie niezgodnie z przeznaczeniem, to wszelkie szkody są z jego winy

    • Ogau

      No i na końcu kto odpowiada za wypadek? Ci których wymieniłeś czy duch święty? Myślałem, że każdy złapie, że „programista” w tym przypadku to większy zespół.

    • Grubas

      To co opisałeś to jakiś Mordor. To tak nie działa i jeśli coś takiego masz u siebie, to spadaj z tej wyciskarni cytryn.

    • Grubas

      Nie, szeregowy programista nie jest odpowiednikiem budowlańca, a program to nie budynek.

    • Spokojnie, te kwestie zostaną uregulowane, nim na ulicach masowo zaczną się pojawiać auta tego typu. Zawsze znajdzie się ktoś, kogo można obwinić.

    • Moim zdaniem w takim wypadku powinno się pociągać do odpowiedzialności osobę decyzyjną. W większości firm jest to tak zwany project owner czyli osoba odpowiedzialna za cały projekt od A do Z. Jeżeli takiej osoby nie ma to wtedy projekt podlega zazwyczaj pod managera projektu bądź prezesa firmy i w tym momencie to właśnie on powinien zostać pociągnięty do odpowiedzialności.

    • YY

      Hah, już to widzę… samochód OnePlusa popełni błąd, a prawnicy oskarżą właściciela, że mógł kupić sprawdzone auto od Appla, zamiast chińskie badziewie xD

    • Grubas

      Odpowiedzialność wynika z umów i prawa.

      Z analizy wypadku zostanie wyłoniona przyczyna, a dalej oskarżenia czy sankcje. Może być nieumyślne spowodowanie wypadku wskutek ułomności technologii albo np. wskutek zaniedbania procesu (np. testów lub budżetu na kontrolę jakości). Różne przyczyny, różne kwalifikacje czynu, różne osoby mogą być odpowiedzialne.

      Na pierwszej linii frontu zawsze będzie inwestor/wlasciciel produktu (niekoniecznie project czy product Owner, bo to tylko role w fazie produkcji).

    • A co za różnica kto jest winny? Myślisz, że ofierze robi to różnicę czy przejedzie go zakonnica czy dyrektor banku czy autonomiczny samochód? Dla ofiary ważne jest żeby pojazd był ubezpieczony (koszty leczenia i odszkodowanie) lub żeby było kogo ścigać po sądach na mega kasę (w przypadku śmierci o kasę może ścigać rodzina). Zginąć z powodu technologii można w bardzo różny sposób, śmierć pod kołami ubezpieczonego, autonomicznego samochodu to chyba jedna z najlepszych z tego punktu widzenia opcji. Swoją drogą, poza jazdą po alkoholu i z nadmierną prędkością każdy wypadek jest z winy nieumyślnej (przecież nikt specjalnie nie wjedzie w człowieka). Autonomicznym samochodom przynajmniej te dwie przyczyny nie grożą.

    • MdR

      Pewnie w praktyce firma bedzie placic odszkodowania po prostu
      Wiadomo że kogoś te autonomiczne samochody rozjadą przynajmniej na początku

  • Maniek

    „Rano asystent głosowy wyjaśni spokojnie właścicielowi, że jego decyzje nie były do końca przemyślane i właściwe”… Czy tylko mnie to zdanie wydaje się przerażające

  • Szemot

    Szkoda że Alexa nie wstawiła na FB wydarzenia o imprezie to chiciaz muzyka by się nie zmarnowała ;-) Swoją droga dziwne że było aż tak głośne. Przecież Alexa to nie jest duży i mocny głośnik.

    • Możesz sobie oprogramować komendy Alexy tak żeby włączyła jakiś zewnętrzny system audio.

    • Wtedy nie byłoby wątpliwości, że to dzieło maszyny ;) Może i na to przyjdzie czas…

  • YY

    Morał z tego taki, że lepiej nie mieć inteligentnych domów, ani asystentów

  • Daniel

    Myślałem, że to jakieś poważne problemy a tu…. O problem a nie jednak nie bo to wina człowieka. Poważnie? Czasami mam wrażenie, że dość często ktoś sobie robi 1-ego kwietnia

  • doogopis

    Ta historia z głośnikiem to z lekka naciągana. Ile taka pierdziawka ma watt? Kilka. Neodymowe głośniki dają czad ale żeby aż tak? Nieraz jak ktoś miał jebn.ętych sásiadów to słyszałem że ludzie ze 2x tak zrobili,muza na full w pętli i wyjść z chaty. Albo w filmie było też.Potem jak wracasz to sąsiedzi wszyscy są pod drzwiami i jest ostry dym. I co za samą muze tylko mu przewiercili zamki i weszli na chate? Bez pozwolenia sądu? I co głośnik stanowił zagrożenie?
    Pewnie jakiś znerwicowany szkop zadzwonił po pały. Tam jest nazistowski kraj to może tak być,albo to był hotel czy coś podobnego z cienkimi ścianami. I jeszcze przypadkiem koleś odpalił muze. Może dureń napruty szpanował jakiejś Heldze jak to on se muze może puścić,tylko lebiega zapomniał wyłączyć. Do odstrzału! I pewnie był rudy. Już widze jak taki szkop btedzi do głośnika w tym porytm do szpiku języku. Nie no,bez przesady. Koszmary bede miał.

    • W Niemczech jest troszeczkę inaczej. Tam sąsiedzi jak słyszą jakieś dziwne odgłosy ( krzyki, płacz, tłukące szkło ) to od razu starają się interweniować. Sam miałem podobna sytuacje kiedyś i sąsiad od razu przyleciał z pytaniami co się dzieje i czy nie potrzeba pomocy. Tak samo podchodzą do sprawy ciszy nocnej. Po godzinie 22:00 ma być cisza i koniec, jeżeli jest hałas to najpierw ktoś zapuka z prośbą o uspokojenie się a jak to nie da rezultatu to wchodzi policja. Mój sąsiad zaczął sprzątać mieszkanie o 3:00 nad ranem i też przyjechała policja.

    • doogopis

      Często sie mówi że szkopy często donoszą na sąsiadów. W ogóle kraj taki policyjny sie wydaje czasami. Kurde ile razy widziałem że jakiś kundel wył pół nocy ale nigdy by komuś za to weszli na chate. To mnie troche zaskoczyło.

    • To jest akurat kwestia „wychowania”, mnie też na początku to zdziwiło ale po jakimś czasie można się przyzwyczaić. Teraz już, takie zachowania są moim zdaniem normą. Ale tak jak pisałem, kwestia leży w wychowaniu i przystosowaniu, skoro dla każdego w otoczeniu jest to normalne to dla mnie też się stanie normą.

  • ᗪ ᒍ ᗩ K ᗪ E K I E ᒪ

    I gość nie widział? Z home widzisz na telefonie ze cos gra

    • Daniel Poweska

      Ja rozumiem przez to, że był pod wpływem napojów rozmownych, i sam nie wiedział do końca, co czyni :)

    • trenda ten

      Pewnie chciał puścić swój ulubiony utwór tylko źle dobrał źródło dźwięku.

  • Marian Paździoch syn Józefa

    Dlatego im mniej tego typu niepotrzebnych elektronicznych gadżetów w domu tym lepiej.