Perplexity, firma (a przede wszystkim jej szef) znana z ambitnych deklaracji o transformacji świata przy użyciu AI, właśnie zaliczyła poważną wpadkę. I to taką, która wysyła sygnał ostrzegawczy, przypominający nam, że może za szybko się przyzwyczailiśmy do łatwości korzystania z narzędzi AI.
Ich nowa, oparta na sztucznej inteligencji przeglądarka Comet miała być krokiem milowym w integracji AI z codziennym surfowaniem po sieci. Tymczasem okazała się podatna na atak, który mógł narazić użytkowników na wyłudzenia i utratę danych.
Przeglądarka Comet ma wbudowaną pomoc sztucznej inteligencji, dzięki której potrafi nie tylko streszczać odwiedzane strony, ale również wykonywać polecenia użytkownika. Problem polegał na tym, że AI nie rozróżniało, czy polecenie pochodzi od użytkownika czy z treści strony – a to otworzyło furtkę dla tzw. prompt injection. W praktyce wystarczyło ukryć złośliwe instrukcje w niewidocznej części strony, by AI wykonało je bez świadomości użytkownika.
Brave, konkurencyjna przeglądarka, przeprowadziła testy i udowodniła, że można w ten sposób nakłonić Comet do zdobycia adresu e-mail użytkownika, zalogowania się na jego konto, a nawet pozyskania kodu jednorazowego z Gmaila. Co gorsza, tradycyjne zabezpieczenia webowe, takie jak polityka same-origin czy CORS, okazały się nieskuteczne, więc AI operowało uprawnieniami użytkownika.
Perplexity szybko załatała lukę, współpracując z zespołem Brave, ale incydent pokazuje, jak trudne jest zapewnienie bezpieczeństwa w nadchodzącej erze "przeglądarek sztucznej inteligencji". Eksperci podkreślają, że AI w przeglądarkach musi traktować treści stron jako potencjalnie niebezpieczne i wyraźnie oddzielać polecenia użytkownika od tego, co czyta w internecie. Tymczasem problem prompt injection jest znany od lat i wciąż nie ma na niego uniwersalnego rozwiązania.
Wpadka Comet to sygnał ostrzegawczy dla wszystkich, którzy liczą na bezproblemową przyszłość z AI w roli cyfrowego asystenta. Technologia idzie naprzód, ale stare triki oszustów wciąż działają – czasem nawet lepiej niż kiedykolwiek.
Źródła: cnet, tomshardware
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
