Câțiva ani buni am construit, împreună cu Rareș Bănescu, Retargeting, o platformă de marketing automation și personalizare pentru magazine online. Meseria noastră era, practic, să decidem ce vede un vizitator: ce produs îi arătăm, ce email îi trimitem, în ce moment. Așa că atunci când citesc azi despre „algoritmii care ne controlează viața”, nu mă uit la ei ca la o cutie neagră misterioasă. Știu cum arată pe dinăuntru, cel puțin varianta lor mai mică și mai cuminte.
Tocmai de aceea cred că discuția merită făcută calm. Algoritmii nu sunt nici demoni, nici neutri. Sunt unelte construite de oameni, care urmăresc un obiectiv ales tot de oameni. Întrebarea reală nu e dacă ne influențează ce vedem online, pentru că sigur o fac, ci cine alege obiectivul și în interesul cui.
Cum funcționează, pe scurt și fără jargon
Orice sistem de recomandare face, în esență, același lucru: adună semnale și încearcă să ghicească ce vei face mai departe. Semnalele sunt lucruri banale. Ce ai dat click, cât timp ai stat pe o pagină, ce ai derulat repede, ce ai cumpărat, ce au făcut oamenii care seamănă cu tine. Din ele, sistemul îți dă un scor pentru fiecare bucată de conținut posibilă și ți-o pune în față pe cea cu scorul cel mai mare.
Partea care contează nu e matematica, ci ce anume încearcă să maximizeze scorul. Într-un magazin online, obiectivul e de obicei o comandă. Într-o rețea socială sau o platformă video, obiectivul e de cele mai multe ori atenția: cât stai, câte reacții lași, cât de des revii. Despre principiile din spatele recomandărilor în ecommerce am mai scris când vorbeam despre personalizarea care aduce recomandări reale. Aici, însă, miza e alta.
De ce optimizarea pentru engagement premiază furia
Un algoritm care măsoară reacțiile nu face diferența între o reacție bună și una proastă. Un comentariu nervos valorează la fel de mult ca unul entuziast, ba chiar mai mult, pentru că furia aduce alte comentarii nervoase. Conținutul care ne indignează, ne sperie sau ne confirmă că „ceilalți” sunt proști e, din păcate, exact conținutul pe care îl distribuim cel mai repede.
Nimeni nu a scris în cod „promovează polarizarea”. Dar dacă îi ceri unei mașini să-ți maximizeze timpul petrecut pe platformă și o lași să învețe singură ce funcționează, ea va descoperi destul de repede că emoțiile tari țin oamenii lipiți de ecran. Am văzut fenomenul și din direcția opusă: cu Știri de Bine am încercat ani de zile să facem loc știrilor pozitive, și am scris despre asta în ce am învățat despre știrile pozitive. Vestea bună e mai greu de vândut decât scandalul, iar algoritmii au învățat lecția mai repede decât noi.
Bula în care trăim fără să știm
A doua problemă e mai subtilă. Dacă sistemul îți arată mereu ce ți-a plăcut deja, ajungi să vezi tot mai mult din același lucru. Opiniile tale par majoritare, pentru că toți cei din feed gândesc la fel. Cei care gândesc altfel par fie inexistenți, fie caricaturi. Asta e ceea ce s-a numit „filter bubble”: nu o cenzură, ci o îngustare lentă a lumii, făcută cu cele mai bune intenții de personalizare.
Platformele video au fost criticate tot mai des în ultimii ani pentru că recomandările automate ar împinge utilizatorii spre conținut tot mai extrem, din dorința de a-i ține în fața ecranului. YouTube a anunțat la începutul lui 2019 că modifică recomandările ca să reducă astfel de conținut. Nu știu cât de eficientă e schimbarea, dar faptul că a fost nevoie de ea spune destul.
Când personalizarea ajută și când manipulează
Aș fi ipocrit să spun că personalizarea e rea în sine. Am trăit din ea. Dacă intri pe un magazin de echipament de diving și primești recomandări de măști și aripioare, nu de rochii de seară, toată lumea câștigă: tu găsești mai repede ce cauți, magazinul vinde. Un email care îți amintește de coșul abandonat e util, nu sinistru.
Linia, pentru mine, e destul de clară. Personalizarea ajută când te servește pe tine, utilizatorul, și când ai fi de acord cu ea dacă ai ști exact cum funcționează. Devine manipulare când exploatează slăbiciuni: frica, nesiguranța, furia, dependența. Să-i arăți cuiva un produs relevant e un serviciu bun. Să-i arăți unui alegător nehotărât un mesaj construit special ca să-l sperie, pe baza unui profil psihologic despre care nu știe nimic, e cu totul altceva.
Ce am învățat din Cambridge Analytica și GDPR
Scandalul Cambridge Analytica din 2018 a fost momentul în care publicul larg a aflat că datele de pe o rețea socială pot ajunge, prin aplicații aparent inofensive, la firme care fac campanii politice. Datele nu erau doar despre ce cumpărăm, ci despre cine suntem.
În același an a intrat în vigoare GDPR, despre care am scris un ghid practic pentru magazinele online. Ideea de bază e sănătoasă: datele tale sunt ale tale, trebuie să știi ce se face cu ele și trebuie să poți spune nu. Tot în 2018, Facebook a anunțat că schimbă News Feed-ul ca să pună accent pe postările prietenilor și ale familiei, în locul conținutului de la pagini și publicații. Iar luna trecută, Twitter a anunțat că renunță la reclamele politice. Sunt semne că platformele simt presiunea. Rămâne de văzut dacă schimbările sunt de fond sau de imagine.
Ce putem face noi, ca utilizatori
Nu putem rescrie algoritmii, dar putem să nu le lăsăm toată munca. Câteva obiceiuri care chiar fac diferența:
- Diversifică-ți sursele. Citește direct câteva publicații pe care le respecți, inclusiv una cu care nu ești de acord, în loc să aștepți să-ți apară în feed.
- Folosește feed-ul cronologic acolo unde există. Twitter, de exemplu, îți permite să vezi cele mai recente postări în loc de cele „de top”.
- Urmărește oameni, nu doar pagini care produc indignare. Și dă unfollow fără remușcări celor care te enervează sistematic.
- Înainte să distribui ceva care te-a înfuriat, așteaptă un minut. Exact pe reacția aceea de moment mizează sistemul.
- Verifică din când în când setările de confidențialitate și reclame. Vei fi surprins cât de multe știu platformele despre interesele tale.
Ce ar trebui să facă platformele și autoritățile
Responsabilitatea nu poate fi doar a utilizatorului. Platformele ar trebui să explice, în cuvinte simple, de ce îți apare un anumit conținut sau o anumită reclamă, și să-ți dea control real: să poți alege un feed cronologic, să poți dezactiva personalizarea, să poți vedea ce profil ți-au construit. Pentru reclamele politice, transparența ar trebui să fie minimul: cine a plătit, cât și pe cine a țintit.
Autoritățile, la rândul lor, au de găsit un echilibru greu. Reglementarea prea grăbită poate sufoca inovația și îi poate avantaja tocmai pe cei mari, care își permit avocați. Lipsa ei lasă totul la bunăvoința unor companii care au, firesc, propriile interese. GDPR a arătat că Europa poate impune reguli. Următorul pas ar fi transparența algoritmilor, nu doar a datelor.
Ce le datorăm clienților, noi, cei care folosim personalizarea
Pentru antreprenorii care folosesc recomandări, automatizări și retargeting, și sunt tot mai mulți, regula mea e simplă: personalizează doar în moduri pe care nu ți-ar fi jenă să i le explici clientului față în față. Spune-i ce date colectezi și de ce. Lasă-l să renunțe ușor. Nu folosi urgența falsă și frica drept tactici. Despre ce poate face concret inteligența artificială în marketing am mai scris; puterea aceasta vine cu o responsabilitate pe măsură.
Pe termen lung, încrederea e cel mai valoros activ al oricărui business online. Un client care simte că e manipulat nu se mai întoarce. Unul care simte că e înțeles, da.
Algoritmii vor deveni tot mai buni la a ne ghici dorințele. Întrebarea e dacă vor fi folosiți ca să ne servească sau ca să ne țină captivi. Tu cum îți alegi ce citești online? Te lași dus de feed sau ai propriile reguli?