Dlaczego większość startupów pada (9/10) – bo nie mierzą właściwie swoich postępów.

Jakie są główne cele startupu? No takie żeby robić postępy w zakresie aktywizacji użytkowników, sprzedaży, oglądalności, itd. Dlatego najpierw trzeba określić kryteria sukcesu. Następnie ruszamy z koksem i obserwujemy co się dzieje. Wtedy mierzymy, najczęściej statystykami, czy idziemy w kierunku tego oczekiwanego postępu. Częściej jednak jest tak, że patrzymy na „jakieś staty” jak ciele na malowane wrota i liczymy na cud (z autopsji). Wtedy większość tym co się udało powie, że to co robisz jest bez sensu. Jak więc mierzyć postępy?

Statystyki. Najpopularniejsze jest Google Analytics. Tylko, że to narzędzie ma bardzo ograniczone możliwości o czym przekonałem jakiś czas temu (poprzez cykliczne pytania inwestora). Mierzenie niektórych z tych właściwych statystyk jest co prawda możliwe ale jest to masakryczna praca naokoło, która tworzy mało przyjazne narzędzie. Efekt jest taki, że właściciele serwisów niewiele się z takich statystyk dowiadują a tym samym ich wnioski są kompletnie nietrafione. W takim przypadku ocena czy nasze ostatnie zmiany przyniosły korzyści czy straty staje się niemożliwa. Najczęściej powodem jest skupianie się na zagregowanych wartościach. Brak ich rozbicia na grupy miar/wartości, które zostały wygenerowane w danym kontekście nie daje możliwości właściwej oceny. Coś nam rośnie, rośnie, a później stop! i przestajemy kochać nasz startup :) Firma czy startup charakteryzuje dążeniem do osiągania postępu. Bez wiedzy co jest obecnie i gdzie iść dalej (wg sensowych przesłanek) chodzimy jak dziecko we mgle. Nauczmy się czytać i uczyć ze statystyk.

Per użytkownik

Statystyki to ludzie. Same liczby niewiele mówią. Jeśli w serwisie o karierze zawodowej na jego forach jednego dnia wysłano 500.000 postów a kolejnego 550.000, a jednocześnie parę dni wcześniej uruchomiono jego kilka reklam w Internecie, to wnioskowanie, że jest lepiej może być błędem. Jeśli za kryterium „postępu” przyjmiemy, że następuje on wtedy kiedy użytkownicy są bardziej aktywni, a za miarę aktywności przyjmujemy, że bardziej aktywny to ten co wysyła więcej postów, to zagregowana liczba nic nie mówi. Jeśli po reklamach dołączyło 50.000 osób, to pytanie brzmi – czy pojedynczy user jest rzeczywiście bardziej aktywny? Może się okazać odwrotnie. Dlatego dzielenie ilości akcji (świadczących o zaangażowaniu) przez liczbę unikalnych odwiedzających użytkowników, w danym okresie da o wiele lepszy ogląd jakości mojego rozwiąnia.

Trzeba też tutaj wspomnieć jakie kryteria są dobre na początek, przynajmniej według twórców udanych startupów (Genome Report). Być może ktoś przyjmuje ogólną liczbę odsłon za postęp bo zarabia na reklamach (to wytłumaczenie też ma krótkie nogi). Ale jeśli ktoś ma np. model Freemium to powinien się skupić najpierw aby rozwój samego produktu powodował większe zaangażowanie obecnych użytkowników. Jeśli osiągnie maksymalne wartości wskaźników i wyciśnie od aktualnych klientów co się da, wtedy warto myśleć o wzroście nie wspominając o mega promocji (skalowanie). Wiara, że przyjdą nowi goście i im się spodoba bardziej niż poprzednim bo dodaliśmy ajaxowe cudo w ostatniej iteracji – to ułuda. Tak nie będzie.

Cohorts / funnel analysis

Kolejna technika. Po polskiemu kohorty (termin ze statystyki) to po prostu grupy ludzi, których łączy jakaś cecha/kryterium. Są szczególnie przydatne kiedy mamy stały przyrost liczby userów, ale nie tylko. Przy analizie statystyk warto wszystkich użytkowników podzielić właśnie na kohorty. Najprostszym kryterium podziału jest data rejestracji w serwisie. Ewentualnie data pierwszych odwiedzin, a jeśli mamy w naszym systemie dane o płci, wieku… to możemy też podzielić użytkowników na kohorty demograficzne. Będą one odzwierciedlały segmenty z modelu biznesowego. Najlepiej zacząć od podziału wg daty rejestracji i podzielić na segmenty tygodniowe jeśli np. update produkcji z nowymi funkcjonalnościami odbywa się co tydzień. Co tydzień załóżmy, że robimy pewien rodzaj promocji dla jakiejś grupy demograficznej. Za pomocą np. KISSMetrics możemy obserwować zachowanie tej grupy w czasie w odniesieniu np. do parametru – % powracających (danej kohorty). To pozwala wnioskować – „te zmiany zwiększyły % powracających dla tej grupy”, albo „reklama na portalu dla matek była bez sensu bo te osoby bardzo rzadko wracają”.

Kolejne narzędzie to lejek zmian. Najpierw określamy kolejne poziomy zaangażowania użytkownika („podróż użytkownika”) i patrzymy ile z nich wycieka  na coraz „mocniejszych” poziomach zaangażowania. Więcej o tej metodzie AARRR przeczytacie tutaj. Analiza lejka pozwala się skupić na odpowiednim elemencie strony do analizy i poprawy. Jeśli mamy wysoki współczynnik odrzuceń, więc aktywacja jest niska to pewnie trzeba się skupić na poprawie landing page (komunikacja głównej aktywności/korzyści), bądź kierowanie się do kogoś innego z reklamą (segment pivot). Poniżej przykładowy lejek.

W efekcie obu narzędzi tworzymy jeden widok (dashboard), który mówi nam bardzo wiele. Kontrolujemy, które grupy na którym poziomie lejka jak sobie radzą.

Podsumowanie

Tak naprawdę piszę częściowo o Lean Startup, czyli o metodzie, która polega na tym, że wymyślamy coś, wypuszczamy, mierzymy efekty i wnioskujemy (nauka). Kolejne iteracje i wymyślanie zadań nie jest z powietrza ale bazuje na konkretnych wnioskach i nadaje sensowny kierunek. Nie należy tego mylić z bezpośrednimi potrzebami użytkowników, którzy nie zawsze wiedzą czego potrzebują bo innowacja często trafia w nieuświadomione potrzeby.

Moim zdaniem jeśli ktoś porządnie nie zagłębi się we właściwe mierzenie swojego postępu to może pakować manatki bo nic z tego nie będzie. Ewentualnie łut szczęścia pomoże pozwolić utrzymać się na powierzchni, ale na pewno nie uda się zbudować czegoś dużego. Ktoś powie, że są jeszcze inne powody nieudanych startup’ów. Zgoda. Jednak można dyskutować czy np. sam pomysł jest dobry i warty robienia, ale jak to ktoś powiedział pomysł jest wart 1,22 zł + VAT. Dla mnie inne powody (lenistwo, wiara w cuda) to geneza tego, że ludzie właśnie nie mierzą postępów bądź mierzą je źle. To prowadzi donikąd.

Co do narzędzi. Nie będę reklamował KISSMetrics bo też ma wady (brak OR, AND aby wstawić je pomiędzy kilka eventów dla stworzenia odpowiednich metryk, brak filtrów na IP, itd.). Ale warto od tego zacząć. Kończy się na tym, że używam Google, KISS, własny system i nie wiadomo czy nie dojdzie MixPanel. A wy czego używacie i co ważniejsze w jaki sposób, bo ciągle sam poszukuję?

Grafiki z cartoonstock.com, kissmetrics.com, oraz z książki Ash Maurya

Autorem jest Maciej Oleksy, twórca Chalky.me, Meegusto.com

Spodobał Ci się tekst? Poleć znajomym:

iStore

iStore

  • Maciej Mróz

    Yahoo Web Analytics (małe opóźnienia analizy, bardzo elastyczna segmentacja i raportowanie) + narzędzia wewnętrzne.
    KISSMetrics jest dość ograniczone, Mixpanel ma pełno błędów – jedno i drugie testowałem i odpuściłem. Dość ciekawym narzędziem jest Kontagent, ale dla startupów cena jest zaporowa.

    • https://twitter.com/#!/MaciejOleksy Maciej Oleksy

      hm, ciekawe to yahoo, widzę funnele mają, a dzielenie na kohorty i raportowanie do tego widoku macierzowego jest możliwe? próbowałeś? Np. dla retention. A co oznacza narzędzie wewnętrzne?

  • asdfasd

    przeciez juz ustalilismy ostatnio, albo robimy startup porno/warez/links
    albo wyrzucamy pieniadze w bloto

    szkoda czasu i kasy na statystyki

    • http://intrashop.pl Sklep

      +one :-)

    • Maciej Oleksy

      czemu nie :) wystaw MVP w http://unbounce.com/ ze zdjęciem wielkiej różowej połówki „brzoskwini” a poniżej PayPal Donation, chętnie usłyszę jaki stan konta po tygodniu :D

  • Arnold Boczek

    Dlaczego większość startupów pada (9/10) – bo nie mierzą właściwie swoich postępów. – nieźle robi się całkiem śmieszne

    na wstepnie powinna byc informacja op czym piszemy – czy o pomyśle które wygrywają „konkursy” czy o firmach gdzie inwestuje się forsę

    miarą nie są statystyki ale wyciąg z konta

  • Maciej Oleksy

    Arnold Boczek: Dlaczego większość startupów pada (9/10) – bo nie mierzą właściwie swoich postępów. –nieźle robi się całkiem śmiesznena wstepnie powinna byc informacja op czym piszemy – czy o pomyśle które wygrywają “konkursy” czy o firmach gdzie inwestuje się forsęmiarą nie są statystyki ale wyciąg z konta

    No właśnie tak patrzą na ten wyciąg i nie wiedzą czemu dalej zero. W sumie coś śmiesznego w tym jest :)

  • http://www.alboom.pl Michal Pakier

    Tylko KISSmetrics z kohortami kosztuje 149$ miesięcznie to już nie jest tanio.

  • http://ambiante.pl Adam Czajczyk

    Pozwolę sobie od czasu do czasu pokazać ten tekst paru Klientom, bo startup’y startup’ami, ale to samo odnosi się praktycznie do każdej nastawinej na zarabianie działalności w sieci. Kwestia używanych narzędzi to jedna sprawa, ale szlag mnie trafia, kiedy słyszę coś w rodzaju „Panie zainstaluj mi Pan tu licznik odwiedzin”, a kiedy tłumaczę, jak używać chociażby podstawowych funkcji Google Analytics, słyszę „Panie, a po co mi to?”. A potem „zrób Pan coś, żeby odwiedzali”.

    A swoją drogą – chyba nie trafiłem jeszcze żadnego narzędzia, które byłoby „uniwersalne”, ale szczerze polecam uzupełnianie wszelkich zewnętrznych systemów… wbudowywaniem własnych nawet bardzo prostych rozwiązań w tworzone aplikacje wszędzie, gdzie to jest możliwe (jako dodatek). W końcu nikt nie zna programu tak dobrze, jak jego twórca i czasem można naprawdę ciekawe wnioski wyciągnąć :)

    • Maciej Oleksy

      Dzięki za komplement ale myślę że w tym przypadku to bardziej kwestia ustaleń czy odpowiadasz za zbudowany produkt czy za jego efekty, bo obie opcje mocno powinny się różnić ceną. Oczywiście klienci często tego nie rozróżniają, ale trzeba ich systematycznie edukować. Najlepiej na początku o tym mówić za co się odpowiada. W PM przerobiłem to wiele razy.

      A co do statów to klienci raczej nie poradzą sobie sami. Pamiętam gościa co chciał stronę po czym wydukał „no i tego… Emila”, czyli skrzynkę e-mail. Więc wtedy lepiej o kohortach nie wspominać :) może jakiś płatne utrzymanie na 1 rok wraz z promocją? Co do bardziej kumatych firm no to już agile wnioskował kontrakty iteracyjne, na razie słabo idzie. Specyfikacja 200 stron i GO! :/ sami sobie bubu robią.

  • http://www.alboom.pl Michał Pakier

    Czy chodzi o ten KISSmetrics?

    http://webhosting.pl/KISSMetric.przed.tym.sieciowym.szpiegiem.sie.nie.uchronisz

    Zaraz będzie trzeba wpisywać w polityce prywatności, czy się korzysta z KISSmetric tak aby użytkownicy, którzy cenią sobie prywatność mogli takie serwisy omijać z daleka.

  • Maciej Oleksy

    Michał Pakier: Czy chodzi o ten KISSmetrics?http://webhosting.pl/KISSMetric.przed.tym.sieciowym.szpiegiem.sie.nie.uchroniszZaraz będzie trzeba wpisywać w polityce prywatności, czy się korzysta z KISSmetric tak aby użytkownicy, którzy cenią sobie prywatność mogli takie serwisy omijać z daleka.

    No co ja Ci poradzę, chętnie przeskoczę na coś tańszego i bardziej moralnego… jakiś tam odsetek procenta czyta politykę, pytanie co ty będziesz z tymi danymi robił. Zbuntować to się mogli nawet na google analytics, pytanie tylko co dalej. BlackBox?

    ps. userfly.com dla badanego usera to już kompletna masakra :)

    • http://www.alboom.pl Michal Pakier

      Ja to wszystko rozumiem. Zresztą KISSmetrc podobno zmienił już politykę i pozwala ludziom wyłączyć śledzenie. Chcialem tylko zwrócić uwagę, że kij jak zwykle ma dwa końce.

  • http://www.alboom.pl Michal Pakier

    Jeszcze jedno pytanie. Jak te wszystkie narzędzia mają się do różnych nowości, które wprowadza google analytics (np. ostatnio ścieżki wielokanałowe). Plus różne dodatko do GA jak np. http://paditrack.com/

    Ktoś może z tego korzystał?

    • Maciej Oleksy

      no mi się nie udało niczego sensownego z tą wielokanałowością w google. w lejek nie włożysz zdarzeń co przy stosowanym szeroko ajax i jquery dyskwalifikuje rozwiązanie. Ale spróbuj daj znać pliz.

      A ten Padi jak się podłącza do Google? To jakiś plugin?

    • http://www.alboom.pl Michal Pakier

      paditrack.com znalazłem pod wpływem tego artykułu. Zakłada się tam konto i on prosi o autoryzację dostępu do GA. Potem definiuje się lejki jako kolejne podstrony (ew. używając wyrażeń regularnych), na które ma wejść użytkownik. Czyli też nie można używać eventów itd. Nie wiem jak on definiuje konwersje. Pewnie jako dojście do końca lejka. No i wygląda na to, że jest darmowy.

      Jeśli chodzi o wielokanałowość to rzeczywiście jest dziwna bo mi wyświetliło tych kanałów z 200 i co tu z tym robić. Ale oglądałem filmik instruktarzowy google i tam pokazywali jak przy pomocy różnych filtrów i zapytań wyciągać z tego ciekawe informacje.

    • Maciej Oleksy

      No ten padi track całkiem fajny. jako jeszcze jakiś dodatek cohort to może bezpłatnie.

      na Google Apps market zobaczyłem to:
      http://b-analytics.com.au/
      http://www.bittle-solutions.com/en/free-reporting-and-dashboard-software.html

      Wyślij link do filmików jak funnela szybko stworzyć.

      BTW, fajnie działa real-time w google

    • http://www.alboom.pl Michal Pakier

      Tutaj są wszystkie filmiki do GA.

    • http://www.alboom.pl Michal Pakier

      Jeszcze raz link do filmów o GA

      http://www.youtube.com/googleanalytics?hl=en

      Mam nadzieję, że teraz go widać. W każdym razie jest to po prostu kanał googleanalytics na YouTube.

  • http://vdream.pl Denis

    Statystyki to nie tylko wskaźnik na to, że nasz serwis się rozwija, ale i kop dla motywacji do dalszej pracy!

  • http://www.ekostrefa.pl Łukasz Ostrowski

    Ciekawy tekst.

  • Paweł

    Kolejny filozof-fantasta. Jak WANNABE-FACHOWCU zrobisz drugą fotkę/grono/naszą klasę/facebooka/o2/wp/allegro/ogame/WHATEVER to będziesz wiarygodny.

    Skąd się biorą tacy kosmici?

    • Maciej Oleksy

      No ładnie dostałem plaskacza :) fajniej jakbyś napisał czy powinno się mierzyć w ten sposób czy nie… poza tym:

      Po pierwsze założenie tytułu nie ogranicza się do social media, a poza tym obszarem nie wiesz jakie projekty robiłem. Wielkość a przydatność edukacyjna projektu to rzecz dyskusyjna.

      Po drugie jak właściciele wielkich sukcesów szybko zapominają jakie mieli problemy 10 lat temu i nie dziwię im się. Chcą włożyć kasę i widzieć efekty. Sam zaczynam w social media (nie ukrywam tego) i dzielę się tym co w trakcie – to wg mnie najlepszy sposób. Artykuły „10 PYTAŃ DO GURU…” niczego nie uczą, mówię to jako uczeń.

      Po trzecie. To o czym piszę nie jest z głowy tylko skądś, to doświadczenia startupów oraz przede wszystkim publikowane praktyki inkubatorów z Silicon Valley gdzie % powodzenia (wyskalowanie) rozpoczętych projektów sięga czasem 80. Jaki u nas jest współczynnik? Poza tym widzę pierwsze efekty tych praktyk to czemu o tym nie napisać? Wolę konkretne praktyki niż slogany o innowacji i wytrwałości w ciężkiej harówie.

      pozdrawiam Pawle

  • http://www.alboom.pl Michal Pakier

    Z tymi statystykami to jest generalnie trochę inaczej. To nie jest tak, że jak się założy wypasione statystyki to już droga do sukcesu stoi otworem. Chodzi o to, że aby mierzyć zachowania użytkowników trzeba bardzo dobrze rozumieć swój biznes model. Te kohorty są bardzo fajne ale tajemnica nie w tym aby je mierzyć ale aby je rozumieć. Jakie są grupy użytkowników według ich „zaawansowania”, jaką mamy ofertę dla każdej grupy, jak chcemy ją przeprowadzić na wyższy poziom. Jeśli to już dobrze rozumiemy to możemy ulepszać nasz serwis (mierząc coś lub nie choć mierzyć jest lepiej). To samo z lejkami. Trzeba zaplanować te lejki konstuując stronę i rozumieć jak są zrobione, dla kogo i dlaczego. Bez tego mierzenie nic nie da.

    W każdym razie artykuł bardzo fajny. Skłonił mnie do przemyślenia paru spraw, nad którymi nie zastanawiałem się od dość dawna.

  • Paweł

    Maciej Oleksy: No ładnie dostałem plaskacza :) fajniej jakbyś napisał czy powinno się mierzyć w ten sposób czy nie… poza tym:Po pierwsze założenie tytułu nie ogranicza się do social media, a poza tym obszarem nie wiesz jakie projekty robiłem. Wielkość a przydatność edukacyjna projektu to rzecz dyskusyjna.

    Oj od razu plaskacza… nothing personal. Natomiast tytuł serii artykułów jest bardzo mocny, wiele startupów nie wiedząc nawet o aspektach o których piszesz; a pewnie jeszcze więcej wzorcowo realizowały wytyczne o których piszesz i… padły.

    Sam zaczynam w social media (nie ukrywam tego) i dzielę się tym co w trakcie – to wg mnie najlepszy sposób.

    Bardzo dobry pomysł, ale tytuł serii artykułów stawia Cie w pozycji eksperta – a to bardzo ryzykowne.

    Artykuły “10 PYTAŃ DO GURU…” niczego nie uczą, mówię to jako uczeń.Po trzecie. To o czym piszę nie jest z głowy tylko skądś, to doświadczenia startupów oraz przede wszystkim publikowane praktyki inkubatorów z Silicon Valley gdzie % powodzenia (wyskalowanie) rozpoczętych projektów sięga czasem 80. Jaki u nas jest współczynnik? Poza tym widzę pierwsze efekty tych praktyk to czemu o tym nie napisać? Wolę konkretne praktyki niż slogany o innowacji i wytrwałości w ciężkiej harówie.pozdrawiam Pawle

    Mówisz jako uczeń, czy piszesz jako guru? :) W tym rzecz.

    Problem (być może mój) polega na tym, że nie wierzę w powtarzalne sukcesy oparte na tych praktykach. To jest owszem, istotny, ale tylko dodatek, do idei która w odpowiednim czasie zostanie zrealizowana w trafny sposób (nawet nie koniecznie super-poprawny). Niestety ludzi (w Polsce), którym się to udało po drodze kilka razy się przewracając jest niewielu a to oni byliby wiarygodni pisząc o powodach „padania” startupów.

    Pozdrawiam Macieju

    • Maciej Oleksy

      Witaj Pawle :)

      tytuł miał być typu call-to-action, nic więcej :)

      trochę – uczeń, trochę – ekspert, guru – na pewno nie.. zakładasz że startup to to zawsze social media, ja ostatnie 12 lat upadałem i wstawałem w projektach IT w agencjach, korporacjach i firmach developerskich jako PM.

      Nie widzę żeby ci z doświadczeniem co padali i wstawali w Social Media jakoś sensownie dzielili się wiedzą. Albo nie mają czasu tego robić albo nie umiejąą. Jak komuś się udało nie znaczy że umie tę wiedzę przekazać. W polskim necie pustki online, tylko jakieś wywiady niewiele wnoszące, konferencje, prezentacje. Ludzie wychodzą i nic w ich głowach nie zostaje.

      Może problem też jest taki, że przedstawiłem narzędzie będące wycinkiem lean startup – szerszej idei. Fakt, to tylko narzędzie, ale w mierzeniu postępu zawiera się wiedza gdzie jestem i gdzie idę. Nie mówię o wzorcach ale o uczeniu się i adaptacji. Po drugiej stronie jest ten blackbox (talent, genialny pomysł, harówa), w który ja już nie wierzę. Nie wiem o jakich startupach piszesz, ale 99% które ja znam (może jakies gorsze) to właśnie blackbox, bo ludzie wierzą w te opowieści od zera do milionera. Wychodzi beta i modlitwa o wyniki i planowanie kolejnych ficzerów z kosmosu bez celu. Wierz mi, przerobiłem to wiele razy w projektach wewnętrznych firm i widzę to w prawie każdej świeżynce Social Media i sam zaczynam to zmieniać z efektem w swoich projektach.

      Wiem że się nie doczekam online jakiejś wiedzy z polskich zasobów, więc zdobywam ją od swoich mentorów, inwestorów i sam ją adaptuję, korzystam ze swojego doświadczenia i próbuje się tym dzielić. Jeśli znajdzie się konkretny wyjadacz który zacznie non-profit dzielić swoją głową, wtedy przyhamuję z tytułami :)

      Jaki jest mój cel? Aktywizacja ludzi bez osobistego celu komercyjnego. Jakiś inkubator i wiedza poprojetkowa – online.

      dobra, wannabe idzie spać bo pada na pysk po tych wywodach

  • zibi

    akcje społeczności internetowej: https://www.facebook.com/fejsAkcje

  • https://twitter.com/#!/MaciejOleksy Maciej Oleksy

    test