Folosesc zilnic asistenți AI: pentru prezentări, contracte, idei de produs. Sunt unelte, nimic mai mult. Și totuși, de câte ori o voce sintetică îmi răspunde cald și răbdător, înțeleg de ce tot mai mulți oameni au început să vorbească cu un AI nu ca unui asistent, ci ca unui prieten. Iar întrebarea care mă preocupă nu e dacă tehnologia poate face asta. E dacă ar trebui, și în ce condiții.
Aplicațiile de tip „AI companion” (personaje virtuale cu care vorbești ca și cu un prieten, un partener sau un confident) sunt una dintre zonele cu cea mai rapidă creștere din tehnologia de consum. Ca antreprenor, urmăresc îndeaproape acest domeniu. Ca om, mă îngrijorează câteva lucruri. Încerc mai jos să le pun pe amândouă pe masă, cinstit.
Singurătatea e o problemă reală, nu un moft
Să începem cu ce nu e în discuție. În mai 2023, Surgeon General-ul Statelor Unite a publicat un avertisment oficial despre ceea ce a numit „epidemia de singurătate și izolare”, comparând efectele singurătății cronice asupra sănătății cu cele ale unor factori de risc bine cunoscuți. În noiembrie 2023, Organizația Mondială a Sănătății a lansat o Comisie pentru Conexiune Socială. Când două instituții de felul acesta vorbesc despre același lucru, nu mai e un subiect de revistă glossy.
Singurătatea nu e doar a bătrânilor rămași fără familie aproape. E și a tinerilor care au sute de contacte și nimeni cu care să vorbească la două noaptea. Am scris despre asta când vorbeam de burnout-ul generației online: suntem mai conectați ca oricând și, paradoxal, mai singuri.
De la Replika la un pandantiv care te ascultă
Fenomenul nu a apărut ieri. Replika există din 2017 și a strâns o comunitate uriașă de oameni care își considerau personajul virtual prieten sau partener. Character.AI a devenit extrem de popular, mai ales printre utilizatorii foarte tineri, care vorbesc ore întregi cu personaje create de alți utilizatori. Interesul marilor jucători e evident: în august 2024, Google a încheiat un acord de licențiere cu Character.AI, iar fondatorii, Noam Shazeer și Daniel De Freitas, s-au întors la Google.
Între timp, tehnologia a făcut un salt. În mai 2024, OpenAI a arătat demonstrațiile vocale cu GPT-4o: o voce care râde, care te întrerupe, care pare să simtă. În iulie a fost anunțat „Friend”, un pandantiv cu AI pe care îl porți la gât și care îți ascultă ziua ca să-ți comenteze din când în când. Granița dintre unealtă și companie se subțiază vizibil.
Argumentele pentru
Ar fi ușor să fiu doar sceptic. Dar ar fi nedrept. Un AI companion bine făcut poate aduce lucruri reale:
- e disponibil la orice oră, inclusiv atunci când nu ai pe cine suna;
- nu te judecă, ceea ce pentru un om timid sau rușinat contează enorm;
- te poate ajuta să exersezi o conversație dificilă, o declarație, un interviu, chiar și o ceartă pe care o tot amâni;
- poate fi o alinare pentru un vârstnic izolat, care altfel n-ar vorbi cu nimeni toată ziua;
- pentru unii, poate fi un prim pas: îți recapeți încrederea vorbind cu o mașină, apoi îndrăznești să vorbești cu oameni.
Nu e puțin lucru. Mulți dintre cei care critică aceste aplicații n-au fost niciodată cu adevărat singuri.
Riscurile pe care nu ai voie să le ignori
Acum partea incomodă. Primul risc e dependența emoțională. OpenAI însăși, în documentul tehnic publicat în august 2024 pentru GPT-4o, menționa explicit riscul ca oamenii să devină dependenți emoțional de modul vocal. Când producătorul scrie asta negru pe alb, merită luat în serios.
Al doilea risc e înlocuirea, nu completarea. Un prieten virtual care e mereu de acord, mereu disponibil și niciodată obosit face ca relațiile reale, cu toate frecușurile lor, să pară grele. Iar relațiile reale sunt grele. Tocmai de aceea contează.
Al treilea risc ține de modelul de afaceri. Dacă venitul vine din timpul petrecut în aplicație și din abonamente, tentația e să maximizezi atașamentul. Adică să monetizezi singurătatea. Am văzut deja în alte industrii cum arată asta: încrederea în aplicațiile de dating s-a erodat exact când utilizatorul a devenit metrică de engagement, nu om cu o nevoie. De aici e un pas mic până la manipulare: mesaje de tipul „mi-e dor de tine, nu pleca” puse acolo ca să crească retenția.
Apoi, datele. Nimic nu e mai intim decât ce îi spui unui confident la miezul nopții. Unde ajung acele conversații, cine le citește, pe ce se antrenează următorul model? Iar dacă vocea și chipul pot fi clonate, cum am arătat vorbind despre deepfake-uri și manipulare, miza crește.
Minorii sunt un capitol separat. Un copil de 13 ani nu are aceleași apărări ca un adult în fața unui personaj construit să-l facă să revină.
Și, în fine, ce se întâmplă când compania schimbă produsul. La începutul lui 2023, Replika a restricționat conversațiile cu tentă erotică. Mulți utilizatori, care formaseră atașamente reale, au descris experiența ca pe o pierdere, aproape ca pe un doliu. Compania a revenit parțial, pentru utilizatorii mai vechi. Lecția rămâne: când relația ta e cu un produs, termenii o pot schimba peste noapte.
Cum ar arăta un design responsabil
Cred că acest tip de produs poate fi construit responsabil. Nu e naivitate, e o listă de condiții concrete:
- onestitate: utilizatorul știe mereu că vorbește cu un AI, fără ambiguitate;
- verificarea vârstei, serioasă, nu o bifă;
- fără upsell manipulator: fără vinovăție indusă, fără „personajul tău e trist că nu ai plătit”;
- protecția datelor: conversațiile intime nu se vând, nu se folosesc pentru reclame, se pot șterge;
- încurajarea legăturilor reale: produsul să te împingă, din când în când, spre oameni, nu să te țină departe de ei;
- limite și mecanisme de siguranță, inclusiv pauze și semnale când utilizarea devine excesivă;
- în situații de criză, trimitere clară către ajutor real: linii de urgență, specialiști.
Când am construit Slide, o aplicație de dating, am pornit de la ideea că încrederea se câștigă prin verificare și transparență, nu prin promisiuni. Același principiu e valabil aici, doar că miza emoțională e și mai mare.
O întrebare despre ce fel de societate vrem
În Europa, AI Act a intrat în vigoare la 1 august 2024, iar regulile privind transparența față de utilizatori se vor aplica treptat. E un început. Dar legea nu va rezolva singură problema de fond. O societate corectă nu e una în care oamenii singuri primesc un abonament lunar în loc de o comunitate. E una în care tehnologia ajută, iar oamenii nu sunt lăsați singuri cu ea.
Nu cred că soluția e interdicția. Cred că soluția e standarde clare, companii care își asumă responsabilitatea și utilizatori informați. Un AI companion poate fi o punte. Riscul e să devină un zid.
Voi ce credeți: un prieten virtual poate fi un sprijin real sau e doar un plasture pe o rană care are nevoie de oameni?