Ciągle coś mi pika i pika. Czy pushe to nowa forma manipulacji? [WYWIAD]

Ta rozmowa to opowieść o technologiach, które nie tylko obserwują nasze wybory, ale i próbują je kształtować. To również pytanie o odpowiedzialność – nie tylko po stronie marketerów, ale też użytkowników i legislatorów. Bo przyszłość powiadomień, notyfikacji push, rysuje się jako pole nieustannej walki między skutecznością a etyką. Czy pushe to tylko wygodne narzędzie informacyjne, czy może już subtelna forma manipulacji? O tym rozmawiam z Joanną Jastrzębską, Head of Marketing Totalmoney.pl i Superauto.pl.

Piotr Pilewski, redaktor naczelny android.com.pl: Pamiętam taką dość zabawną zasadę „3xP” sprzed lat, co oznaczało: „Pilna, Push, Please”. Pushe przez dziennikarzy były traktowane jako narzędzie informowania czytelników o ważnym zdarzeniu, ale z biegiem czasu zaczęły być jednak traktowane, jako narzędzie sugerujące istotność przekazywanej informacji, mimo że ona taka nie była. Sztuczna inteligencja chyba nie ma podobnych „dylematów”?

Joanna Jastrzębska, Head of Marketing Totalmoney.pl & Superauto.pl: Pushe już w dużej mierze oparte są o mechanizmy sztucznej inteligencji, gdzie algorytmy analizują, co przeglądamy, jak przeglądamy, ile czasu, na jakim urządzeniu, co włączamy po sobie, co jest ze sobą skorelowane w czasie oglądania, więc obecnie mówimy o takiej hiperpersonalizacji, czyli mechanizmie, który dobiera pod nas reklamy i odpowiednie algorytmy mogą z automatu tworzyć pushe, czy jakiekolwiek inną formę powiadomienia, jeśli dostaną odpowiednią komendę.

Powstaje więc pytanie, czemu my mamy temu ufać, skoro gdzieś tam z tyłu głowy większość pewnie świadomych użytkowników wie, że jest to wygenerowane sztucznie, na podstawie naszej historii, ale właśnie dlatego, że jest to wygenerowane na podstawie tylu zmiennych, które dotyczą nas, to te powiadomienia są bardzo trafne — algorytmy są w stanie wysnuć tezę, że oglądając na przykład zegarek sportowy, być może potrzebujesz jeszcze butów, których zakup jesteśmy w stanie sfinalizować. Dlatego to narzędzie jest tak mocno dopasowane i miejscami przewyższa nasze oczekiwania i generuje potrzeby, z których sobie nawet nie zdajemy sprawy.

PP: Dlatego zastanawiałem się, czy pushe spełniają swój obowiązek informacyjny, czy jednak wykorzystywane są obecnie jako narzędzie manipulacji.

JJ: Nie ma twardej granicy między tym, co możemy nazwać manipulacją, a co wykorzystaniem pewnego efektu psychologicznego poprzez wykorzystywanie sztucznej inteligencji. Każdy pewnie musi sobie sam odpowiedzieć na pytanie, gdzie w jego biznesie jest ta granica, natomiast jeśli bierzemy pod uwagę różne wskaźniki efektywnościowe, które trzeba zrealizować, to one np. w e-commerce stają się głównymi priorytetami.

Wiele z tych kwestii reguluje jednak prawo i obostrzenia, które nakłada. Jeśli działamy zgodnie z prawem, to z boku ktoś może nazwać to manipulacją, ale nie jest to niezgodne z przepisami.

PP: Bazujemy jednak na ludzkich instynktach, gdzie efekt staje się najważniejszym priorytetem, a sygnalizacja o powiadomieniu np. na telefonie, jest czymś, co często sprawdzamy automatycznie. To nie jedyne narzędzie, ale czy najskuteczniejsze?

JJ: Pushe są na pewno jednym z bardziej skutecznych narzędzi informowania odbiorców, bo opieramy się na bardzo prostych, ale podkręconych mechanizmach psychologicznych. Działa tu efekt dopaminy i tak zwanej zmiennej nagrody, gdzie ta nagroda jest często ukryta. Czyli najpierw musisz kliknąć powiadomienie, żeby zobaczyć, na co możesz liczyć. Brak świadomości tego, co zobaczymy, wywołuje mechanizm trochę podobny nawet do hazardu, czyli taką niepewność, nutkę ekscytacji opartą na wytwarzaniu dopaminy. Kolejnym takim ciekawym efektem jest efekt FOMO (ang. Fear of Missing Out – uczucie lęku przed przegapieniem czegoś ważnego – przyp. Red.).

Dla przykładu – ktoś właśnie kupił coś, co właśnie oglądałeś. To z kolei narzędzie oparte trochę na naszym lęku i obawie przed tym, że za chwilę dana promocja się skończy albo produkt w promocyjnej cenie zostanie wyprzedany.

Kolejnym narzędziem jest mechanizm przerywania, gdzie odbiorcom przypominane są informacje o niedokończonych czynnościach. To z kolei stosowane jest w sytuacjach, gdzie pozostawiane są koszyki z produktami, które nie zostały kupione, gdzie odbiorcy dostają informację zachęcającą do dokończenia transakcji na podstawie odpowiednich komunikatów. W różnych biznesach te mechanizmy wykorzystywane są w różny sposób.

PP: Gdzie są zagrożenia z tym związane dla prowadzenia biznesu? Z jednej strony powiadomienia trafiają do użytkowników, którzy świadomie lub nie wyrazili na nie zgodę, ale z drugiej nadmierna wysyłka takich powiadomień może przynieść skutek odwrotny do oczekiwanego i ograniczyć zaufanie do marki, która stosuje te techniki w niewłaściwy, czasem zbyt intensywny sposób.

JJ: Ulubiona odpowiedź psychologów – to zależy. Z jednej strony pushe mogą irytować i denerwować odbiorców, więc biznes ma tego świadomość. Z drugiej strony my, jako ludzie, jesteśmy leniwi – status quo to nasz domyślny status, i dochodzi tutaj dodatkowo taki efekt złudzenia ”później się tym zajmę”,  co pokazuje też teoria inercji psychologicznej, z której wynika, że niektóre rzeczy mogą nas irytować, ale nie na tyle, żebyśmy weszli w ustawienia telefonu i zablokować np. pushe, co wymaga czasu i energii. Dlatego robi tak mały odsetek ludzi.

Porównując do powiadomień mailowych czy newsletterów, o wiele więcej użytkowników jest w stanie wypisać się z newslettera, bo zgodnie z prawem taka możliwość powinna być w każdej takiej wiadomości e-mail. To jest o wiele prostsze.

Rośnie też świadomość użytkowników na temat ich prawa w sieci oraz możliwości uniknięcia nazwijmy to „nachalnych promocji”, lecz – znów – mały odsetek z nich to robi. Niezależnie od tego z pushami nie można przesadzić. Obecnie jednak są algorytmy, które w odpowiednim czasie te notyfikacje wysyłają. Monitorują już zresztą praktycznie wszystko – kiedy wstajemy, kiedy uruchamiamy aplikację etc. Możemy sobie nie zdawać z tego sprawy, ale często wysyłka takich pushy jest skorelowana z tym, co aktualnie robimy i w jakim cyklu dnia jesteśmy. Wszystko po to, żeby irytacja związana z powiadomieniami była jak najmniejsza, a ich skuteczność jak największa.

Na pewno przekroczeniem etycznej granicy jest tak zwany „dark UX”, czyli samo projektowanie stron e-commerce, które powiązane z pushami mogą manipulować użytkownikiem, aby ten zrobił coś, czego nie zamierzał podczas przeglądania samej strony na telefonie, czy komputerze. To na przykład stosowanie czerwonych ikonek, czy przycisków – zmyłek, które prowadzą odbiorcę nie tam, gdzie chciał. Coraz więcej różnych marek zaczyna to stosować. W tych sytuacjach jednak kończy się biznes, a zaczyna czysta manipulacja.

PP: Wspominając o tej redakcyjnej zasadzie „3xP” odpowiedzialność za to, co i komu jest wysyłane, spoczywała na człowieku, jego doświadczeniu i odpowiedzialności. A co stoi za sztuczną inteligencją, która wie o nas coraz więcej i dąży do tego, aby efektywność pushy była coraz większa?

JJ: Głównie analiza danych. Algorytmy sprawdzają dane z tysiąca użytkowników podobnych do siebie i uczą się tak naprawdę, w jakim momencie wysyłać powiadomienia, właśnie byśmy je odczytywali i zareagowali. To nie jest już losowe wysyłanie informacji do wszystkich, tylko precyzyjnie zaplanowane działanie marketingowe, ale też behawioralne, bo algorytmy testują różne warianty komunikatów, dobierają ton języka, dobierają długość znaków. Oceniają też nasze nastroje na podstawie naszej aktywności fizycznej, jeśli mówimy o smartwatchach, czy różnego rodzaju urządzeń do biegania lub ćwiczenia, którym towarzyszą odpowiednie aplikacje mierzące różne parametry.

Z jednej strony brzmi to niesamowicie, z drugiej niepokojąco, ale tak jest.

PP: Czy ten obszar także wymagałby regulacji prawnej podobnej jak inne kwestie związane ze sztuczną inteligencją, którymi obecnie zajmuje się AI Act?

JJ: Potrzebne byłoby wspólne prawo dla Unii Europejskiej lub innego obszaru zrzeszającego różne państwa, bo aplikacje są dostępne dla każdego. W danym kraju regulacje prawne mogą być też różne, co z kolei mogłoby doprowadzić do pewnego chaosu. A jeśli uchwalimy nawet takie spójne prawo, to jak będziemy je egzekwować? To poważny temat w kontekście hiperpersonalizacji.

PP: Kilka lat temu tego tematu w ogóle nie było. Dzisiaj aspekty prawne nie nadążają za rozwojem technologicznym. Jak w perspektywie najbliższych lat technologia, o której rozmawiamy, będzie się zmieniać?

JJ: Kiedyś faktycznie było tak, że jeszcze, jak AI sobie nawet nie raczkowało, tylko uczyliśmy się o tym na studiach, w ciemnych pokojach laboratoryjnych, to dzięki programom do automatyzacji, opartych jeszcze na bardzo pierwotnych algorytmach, metodą prób i błędów można było testować na przykład mailingi i patrzeć, który się lepiej klika.

To dziś jednak historia, mimo że to było raptem kilkanaście lat temu. Biorąc pod uwagę obecne rozwiązania, myślę że powiadomienia będą coraz bardziej subtelne, będą kontekstowe, będą emocjonalne. Wyobrażam sobie taki system, który rozumie nasz nastrój, dostosuje sposób komunikacji do nas po to, aby uzyskać pewien efekt, ale nie przerażać i nie wywoływać negatywnych emocji.

Mamy jeszcze jeden trend, który obserwuje zwłaszcza u młodszej grupy odbiorców, gdzie jednak coraz więcej użytkowników świadomie ogranicza te powiadomienia, notyfikacje i niektóre firmy w swojej komunikacji bardzo świadomie stawiają na komunikat, że less is more. I jeśli trend w stronę cyfrowej higieny nadal będzie wzrostowy, to będziemy też mówić o jeszcze większej analizie danych.

Notyfikacje będą więc coraz bardziej dostosowane do nas, coraz bardziej inteligentne, coraz bardziej subtelne, aczkolwiek z drugiej strony widzimy rodzący się trend cyfrowej higieny, który trochę temu przeczy.

Źródło: opracowanie własne. Zdjęcie otwierające: chaylek / Shutterstock

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł Ciągle coś mi pika i pika. Czy pushe to nowa forma manipulacji? [WYWIAD] pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.