OpenAI poważnie podchodzi do tego, czy ich narzędzia są bezpieczne. Właśnie ogłosili program, na którym skorzystają łowcy bugów.
Patrząc po tym, jak wiele dziś narzędzi posługuje się zaawansowanymi modelami językowymi i korzysta z bazy jaką stworzyło OpenAI, ciężko nie myśleć o ChatGPT jako o jednej z najważniejszych aplikacji w tym momencie na świecie. Narzędzie z dnia na dzień stało się nie tylko wizytówką fundacji, ale też - sztucznej inteligencji jako całości, a to, co potrafią robić z tym niektórzy ludzie jest równocześnie fascynujące i przerażające. Dziś na AI polega coraz więcej usług, więc naturalnie twórcy ChatuGPT chcieliby by ich usługa działała jak najlepiej i była możliwa do bezproblemowego użycia na całym świecie, szczególnie, że teraz program na siebie zarabia. Dlatego OpenAI postanowiło zaoferować całkiem sporą sumę za pomoc.
To cię zainteresuje Microsoft sprzedawał technologię do Rosji? Firma zapłaciła 3 miliony dolarów karyPozwał ponad 500 firm za mema. Zgarnął przeprosiny i odszkodowanie
Od 200 do 20 tysięcy dolarów dla tego, kto znajdzie bugi w ChatGPT
Jak podaje na swoim blogu OpenAI, właśnie rozpoczyna się ich współpraca z platformą Bugcrowd, czyli serwisem zrzeszającym ludzi szukających błędów w programach w zamian za gratyfikację finansową. Celem jest znalezienie błędów w samym kodzie programu, takich jak ten, który niedawno doprowadził do czasowego wyłączenia ChatGPT, gdzie przez bug użytkownicy mogli widzieć nicki innych osób korzystających z usługi. Jednoczesnie w swoim ogłoszeniu OpenAI zaznacza, że wiele rzeczy nie jest uznawane w tym wypadku za błąd. Poza pulą nagród są sytuacje w których ktoś zmusi program do napisania złośliwego kodu czy do wypowiedzi które mogą być uznane za krzywdzące. Nagrody nie otrzymamy też za tzw. "halucynacje modelu" tzn. sytuacje w których OpenAI "udaje" że wykonuje działania bądź daje odpowiedzi na pytania, które są bez odpowiedzi. Poza pulą nagród są też ataki mające na celu wyłączenie działania usługi jak clickjacking, brute force czy spam.
Nagrody zależą oczywiście od powagi znalezionego błędu i rozciągają się pomiędzy 200 dolarami a 6,5 tysiącami dolarów, przy czym jedna osoba może maksymalnie otrzymać gratyfikację w wysokości 20 tysięcy dolarów. To, co najbardziej interesuje twórców to błędy w systemach autoryzacji, płatności, bugi pozwalające na dostęp do wrażliwych danych (zarówno firmy jak i użytkowników) czy niewypuszczonych jeszcze narzędzi. W momencie pisania tego tekstu program działa od trzech godzin, a już nagrodził 14 znalezionych bugów kwotą (średnio) 1,287 dolarów za błąd, co oznacza, że znalezione problemy należały do grupy tych bardziej zaawansowanych.
Źródło: Depositphotos
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
