Claus per entendre el disseny manipulatiu de les xarxes socials

Imagina una màquina que coneix les teves pors, els teus desitjos i les teves febleses millor que tu mateix. Així operen plataformes com TikTok i Instagram, on cada like, notificació i vídeo recomanat és el resultat d'un disseny basat en psicologia conductual i algoritmes d'intel·ligència artificial. Aquestes xarxes no només entretenen, sinó que utilitzen l'enginyeria per explotar biaixos cognitius, com la necessitat de validació social o la curiositat insaciable, amb un objectiu clar: mantenir-nos davant d'elles el major temps possible.

Expliquem a continuació algunes de les estratègies ocultes darrere del seu disseny, analitzem el seu impacte en les persones que les consumeixen i proposem algunes alternatives per a una tecnologia més humana.

Principals estratègies en el disseny

Recompenses variables

Una de les més conegudes són les recompenses variables, també anomenada tàctica de les escurabutxaques digitals. Inspirades en els experiments de B.F. Skinner amb ratolins i palanques, TikTok i Instagram fan servir recompenses impredictibles per crear addicció. Exemple: en desplaçar-te per TikTok, mai saps si el proper vídeo serà avorrit o viral. Aquesta incertesa activa l'alliberament de dopamina, igual que en els casinos. Instagram aplica aquesta tàctica amb els likes: el comptador vermell apareix de manera irregular, convertint cada publicació en una aposta emocional.

Scroll infinit

Un dels més potents és el de l'engranatge o el de l'scroll infinit. Totes dues plataformes eliminen senyals d'aturada natural. A Instagram, el feed no acaba mai; a TikTok, els vídeos es reprodueixen automàticament. És una estimulació sense parades, contínua, que entreté. Fins i tot quan hi ha algun vídeo que anuncia que hauries de parar fins demà, el format és tediós perquè segueixis amb l'scroll igualment.

Sensació d'urgència

La sensació d'urgència, que està elaborada amb notificacions i colors vius com el vermell de les notificacions a Instagram, no és casual. Aquest color activa respostes d'alerta en el cervell. TikTok, per part seva, envia missatges com «El teu vídeo favorit té nous comentaris!» per explotar el FOMO (Fear of Missing Out), la por de perdre's alguna cosa.

El paper del disseny dels videojocs en l’addicció

Ir al artículo

Els algoritmes d'intel·ligència artificial

A part del disseny visual, també es treballa en el disseny dels algoritmes, és a dir, en com es gestionarà la personalització i la interacció amb l'usuari. Els algoritmes analitzen cada interacció (temps de visualització, pauses, shares) per predir quin contingut enganxarà més. Exemple: si veus un vídeo de gats a TikTok fins al final, la plataforma et mostrarà deu vídeos similars seguits, creant un «bucle d'interès» difícil de trencar.

Això significa que es prioritza la part emocional sobre la racional. Alguns estudis interns de Meta (propietària d'Instagram) revelen que els algoritmes prioritzen contingut que genera reaccions intenses, com ara indignació o morbositat. (Horwitz & Seetharaman, 2021; Alfano et al., 2021; Harris, 2016; Meta, 2023). Així, un vídeo polèmic sobre política o un repte extrem té més probabilitats de tornar-se viral, encara que danyi la salut mental. Imaginem que algú està depressiu i comença a consumir contingut relacionat amb la depressió; les plataformes alimentaran a l'usuari amb més contingut que augmenti el seu estat emocional, per això, és tan negatiu per a les persones amb problemes de salut mental. (Bucher, 2018; Cotter, 2019).

Un estudi va comprovar que el 70% d'adolescents exposats a contingut d'influencers de fitness o de bellesa tenien sentiments d'inferioritat; i els trastorns alimentaris van ser un 40% més freqüents en usuaris actius a Instagram.

The Wall Street Journal va fer un treball exhaustiu en què va programar bots perquè es fessin passar per usuaris i interaccionessin amb TikTok, amb el qual va demostrar que l'algoritme d'aquesta plataforma pot determinar els interessos dels nous usuaris en poques hores. A més, en mostrar només contingut afí a les creences de l'usuari, els algoritmes reforcen prejudicis. És el que es coneix com a cambres de ressò, i moltes vegades promouen la radicalització. El 2021, The Wall Street Journal va demostrar que Instagram promovia discursos d'odi a adolescents interessats en teories conspiratives. (The Wall Street Journal, 2021).

Impacte en les persones usuàries

S'ha de tenir en compte l'impacte en la salut mental, perquè pot fracturar l'autoestima. Un estudi de 2023 al Journal of Media social and Society va trobar que el 70% d'adolescents exposats a contingut d'influencers de fitness o de bellesa van reportar sentiments d'inferioritat; i els trastorns alimentaris van ser un 40% més freqüents en usuaris actius d'Instagram. (Cohen et al., 2023; Tiggemann & Anderberg, 2022).

A més, hem de tenir en compte que alguns d'aquests influencers no són ni persones, sinó Intel·ligències Artificials (IA), sobretot a Instagram. És a dir, les persones comparen el seu físic amb figures creades per IA, un físic que habitualment està profundament estereotipat.

Alguns exemples d'aquestes influencers creades amb IA són:

Lil Miquela (@lilmiquela) – Instagram

• Seguidors (oct 2024): ~2.6 milions
• Probablement la influencer virtual més famosa. És una «adolescent» de dinou anys, d'origen brasiler-estatunidenc, que viu a Los Ángeles. És model, cantant (la seva música és generada per IA) i activista. Publica fotos de la seva «vida» (totalment fictícia), interactua amb «amics» (uns altres influencers virtuals) i promociona marques de moda, música i tecnologia. La seva estètica és hiperrealista, si bé encara es nota que és CGI.
• Creadors: Brud (una empresa de tecnologia i mitjans amb seu a Los Ángeles).

Shudu (@shudu.gram) - Instagram

• Seguidors (oct 2024): ~240k
• Es presenta com «la primera supermodel digital del món». Shudu és una «dona negra» de gran bellesa, amb una estètica molt cuidada i elegant. Participa en campanyes de moda i bellesa.
• Creador: Cameron-James Wilson (un fotògraf britànic).

Imma (@imma.gram) – Instagram

• Seguidors (oct 2024): ~400
• Una «noia japonesa» amb un distintiu cabell rosa. Té un estil urbà i modern. Publica fotos de la seva «vida» a Tòquio, interactua amb marques de moda i tecnologia, i participa en esdeveniments virtuals.
• Creadors: Aww Inc. (una empresa japonesa especialitzada en personatges virtuals).

L'Organització Mundial de la Salut ha advertit sobre els efectes secundaris de l'ús excessiu de xarxes socials. L'ús problemàtic de xarxes socials s'associa amb ansietat, insomni i baixa autoestima, especialment en adolescents. L'OMS recomana més recerca per definir criteris diagnòstics específics. (OMS, 2022)

El problema no són les xarxes socials, sinó el seu model de negoci basat en l'explotació de l'atenció. El repte és crear un ecosistema digital on la psicologia s'usi per empoderar, no per manipular.

D'altra banda, recerques del MIT mostren que els algoritmes augmenten en un 40% l'exposició a notícies falses enfront de fonts verificades. El que es tradueix en una polarització social cap a la invenció i un allunyament cap als fets verídics i contrastats. (Aral, 2021; Vosoughi et al., 2018; Deb et al., 2020). Per això és crucial que siguem conscients dels pensaments que tenim quan les consumim i que siguiem crítics amb les notícies i informacions consumides.

8 de cada 10 vídeos sobre salut mental a TikTok són falsos

Llegeix més

Alternatives per a una tecnologia més humana

Per revertir la influència negativa de les xarxes socials es poden dur a terme diferents accions, com per exemple:

• Fer dissenys més ètics que optin per la transparència. Per exemple, afegir una opció per veure «per què em recomanen aquest contingut» i botons per ajustar preferències («Menys vídeos de dietes extremes»).
• Programar límits proactius, no reactius. De manera que es pugui bloquejar el feed després de 45 minuts d'ús. Amb notificacions compassives: «Portes dues hores avui a Instagram. Vols guardar les teves fotos i tancar?», que es mostrin en una pantalla sòbria, sense colors vius ni animacions insulses. I que no permeti continuar realitzant scroll. De manera que es prioritzi el «temps de qualitat» (interaccions significatives) sobre el «temps de pantalla».

El problema no són les xarxes socials, sinó el seu model de negoci basat en l'explotació de l'atenció. Plataformes com Pinterest ja fan passos positius. Per exemple, en buscar #depressió, suggereixen recursos d'ajuda en lloc de contingut viral. El repte és crear un ecosistema digital en què la psicologia s'usi per empoderar, no per manipular. Com a usuaris, exigir transparència i donar suport a aplicacions ètiques pot ser el primer scroll cap a un futur més saludable.