Tag: Algoritmi

My personal e-guru

Algoritmi Il mondo immateriale

My personal e-guru

Happify promette di migliorare la tua esistenza e di accompagnarti alla felicità. Ogni giorno, ad orari prestabiliti, la app ti inviterà a intraprendere azioni, letture e attività per farti diventare una persona migliore. Ogni due settimane procederà a una verifica del tuo punteggio di felicità, ponendoti domande su quante volte sei stato gioioso nell’ultimo mese, sulle cose che ti gratificano, sulla tua capacità di porti in maniera positiva nei confronti degli altri e dei fatti della vita.

Anna, un digital coach virtuale basato sull’intelligenza artificiale, affiancherà il tuo percorso, ponendoti costantemente domande sui tuoi stati d’animo, le tue aspirazioni, la qualità della tua esistenza. In base alla tua disponibilità a rispondere, si spingerà a chiedere anche informazioni sulle persone vicine a te, sui tuoi figli (anche se sono tuoi o no), sul tuo partner, sulla loro età, sulle loro caratteristiche, sui problemi o sulle malattie che stanno affrontando.

Inoltre, un lungo questionario consentirà alla app di valutare la tua personalità in base alla teoria dei 24 punti di forza. La app saprà così informazioni sulla tua personalità profonda, sulla tua autostima, sul tuo modo di vedere gli altri ed essere empatico, sulla tua sensibilità verso la natura o l’arte, se sei credente o no, sul tuo conformismo o sulle tue originalità, sul tuo senso di appagamento e sulle sfide cui ancora tieni, sui tuoi valori e amori, sulle tue abitudini e le tue curiosità, sulle tue paure e le tue passioni, sulle tue pigrizie e le tue perseveranze, sulla tua spiritualità e e i tuoi interessi materiali, sulla tua capacità di gestire le relazioni sociali e le tue insicurezze, sulle tue capacità di ascolto e le tue attese verso gli altri, sul tuo autocontrollo e le tue passioni irrinunciabili, sulla tua capacità di aiutare gli altri e i tuoi risentimenti, sul tuo autocontrollo e le tue indulgenze, sulla tua equanimità e la tua modestia, sul tuo umorismo e sulla tua capacità di perdonare, sulla tua razionalità e le passioni, sui tuoi entusiasmi e i tuoi dubbi, sulla tua assennatezza e le tue indulgenze, sulla tua capacità di manifestare e sentire amore. 

Al termine del test potrai leggere l’intero rapporto sulla tua persona abbonandoti alla versione premium della app per soli 149 dollari all’anno. 

Mentre Happify fa leva sulla tua curiosità verso te stesso, The Fabulous, un’altra celebre app, ti guarda dal futuro: il tuo io di qui a dieci anni si congratula con te/sé per aver scelto la app versando 43 euro anticipati annuali, garantendoti di essere diventato una persona in salute, in grande forma e senza preoccupazioni grazie alla decisione odierna di addebitare la tua carta di credito. 

Di lì in poi l’app ti indirizzerà verso tutta una serie di buone pratiche, quali bere un bicchiere d’acqua e fare esercizi di stretching la mattina appena sveglio, prepararsi una colazione nutriente, dedicare dieci minuti alla meditazione e così, abitudine dopo abitudine, disciplinare il tuo essere in funzione di quello che la app considera il tuo benessere. 

La app Make Me Better è più pratica (o meno ipocrita): offre una raccolta di testi per migliorarsi, inclusi titoli come “12 Psychological tricks to Manipulate People’s Mind”, “Live a Life Free of Compromises”, “How to Make Anyone Instantly Like You” “How to control Anger” “10 Little Things that Can Change Your Life”,  il tutto in articoli di non più di 2.000 caratteri. 

Molti potrebbero sorridere di fronte alla ingenua banalità di questi consigli. Ma il mercato delle app dedicati al benessere personale (tecnicamente mHealth Apps) è in pieno boom. Headspace, la più celebre app per la meditazione e la mindfulness, è stata scaricata da non meno di dieci milioni di persone. Fabulous è stata scaricata oltre 5 milioni di volte, GrowApp, Make Me Better e Deepstash oltre 1 milione, Happify registra oltre mezzo milione di download come anche HabitHub, Remente, My Affirmations e via via. 

Nel 2018 il mercato globale delle app mHealth era stimato valere 12,4 miliardi di dollari di cui un terzo sviluppato negli Stati Uniti, con una crescita composta futura (CAGR) del 44,7%: sulla base di questi dati nel 2020 il mercato ha raggiunto i 26 miliardi di dollari di valore. 

Si tratta di un mercato variegato, in cui rientrano le app per le attività fisiche e il benessere psicofisico, la cura dell’alimentazione e quella delle donne, la cura di malattie e la posologia di farmaci o la pianificazione di attività legate ad determinate malattie. È un mercato che non è sfuggito a big Pharma e tutte le multinazionali del settore hanno investito in centinaia di applications. 

Ma le app che ci interessano sono quelle del sottosegmento “LifeStyle Management”, che su scala mondiale rappresentano circa il 20% del mercato, dunque non meno di 5 miliardi di dollari all’anno che le persone in tutte le parti del globo investono per far seguire il loro benessere interiore da un app. 

Non voglio qui proporre un’analisi di mercato, dunque non mi soffermo sui termini monetari del fenomeno, quanto le sue implicazioni all’interno delle vite dei soggetti e della loro cognizione. Se l’ingenuo tecnomane si esalta nel promuovere l’ultima app che gli evita pure di ricordarsi di allacciarsi le scarpe, se l’economista e l’imprenditore lavora ai modelli di business per estrarre valore, ovvero dati, attraverso quella stessa app, noialtri vittoriani del digitale ci chiediamo se le app che promettono benessere e felicità non abbiano fatto entrare in una ulteriore fase i rapporti tra i soggetti e il comando digitale. 

Quale rapporto si sviluppa tra queste app e i loro fruitori? Quanto le vite di questi ultimi restano impigliate e condizionate dai consigli di questi e-guru portatili? Quanto il comando digitale indirizza la percezione di sé e le scelte dei soggetti? Queste nuove tecnologie digitali del sé cambieranno irreversibilmente quello che chiamiamo essere umano?

 

La cura dell’interiorità

La cura di se stessi è antica quanto l’uomo e “comporta il farsi carico della responsabilità nei confronti propria vita per tutto il corso della sua durata, il saper prendere un impegno nei confronti di se stessi, nel desiderio di modificarsi proprio in vista di questa salute dell’esistenza e del pensiero”, come sintetizza Sara Baranzoni. 

Il pensiero greco-romano ha sviluppato per primo in Occidente una serie di pratiche e di discipline interiori per raggiungere una salvezza intramondana, intesa come consapevolezza di se stessi e delle leggi della natura. “All’alba, quando ti svegli di malavoglia, scandaglia questo pensiero:Mi sveglio per compiere il mio compito di uomo; e ancora protesto per avviarmi a fare quello per cui sono nato e per cui sono stato introdotto nel cosmo? O forse sono stato fatto per restare a letto a scaldarmi sotto le coperte?”: non è una riflessione che trovate sull’app Headspace, ma nei Pensieri di Marco Aurelio.  

Negli ultimi anni della sua vita Michel Foucault spostò i suoi interessi verso l’antichità, trovandovi nelle pratiche di cura di sé elaborate dalla sapienza antica una serie di principi, di tecnologie del sé, che erano in qualche modo il punto di partenza per costruire una sorta di resistenza del soggetto rispetto alla diade potere-sapere. E, non vi poteva essere una reale e profonda cura di sé senza una preliminare autenticità nel voler scrutare il proprio io e raccontarlo senza remore. La parresìa, il parlar franco, su cui tanto si sofferma Foucault nelle sue ultime ricerche, è una dimensione che richiede il rischio della verità, verso se stessi prima ancora che verso gli altri. Non è un caso che Foucault abbia riflettuto assiduamente sul potere di soggettivizzazione di questa pratica di verità  e di autoanalisi che, assieme alla paideia e all’esempio del maestro riverito da tutta la collettività, era tra i principali percorsi di ricerca e costruzione del sé nell’età antica. 

In epoca moderna, la confessione e poi le guide e gli esercizi spirituali fanno parte di una tradizione cristiana che di certo non possiamo trattare in poche righe. Al percorso di coltivazione di una retta spiritualità e personalità si affiancavano anche i meccanismi di controllo esterno della Chiesa istituzione. Tribunali della coscienza, il classico libro di Adriano Prosperi, ha evidenziato le strategie e le tecniche di repressione, controllo e mobilitazione delle coscienze dei credenti attuate dalla Chiesa cattolica in età moderna attraverso, rispettivamente, il tribunale dell’Inquisizione, le tecniche di confessione e le missioni tra le classi popolari. Per quanto lo studio sia dedicato all’Italia, l’approccio è estensibile anche in altri paesi, a partire da quelli di lingua spagnola. In quell’epoca per la stragrande maggioranza della popolazione la propria vita interiore si sovrapponeva e si intrecciava con il vissuto religioso: interiorità e spiritualità sono due termini pressoché intercambiabili e la sorveglianza delle coscienze avviene tanto attraverso i riti collettivi (processioni e funzioni religiose cui tutta la cittadinanza era chiamata a partecipare pena il sospetto e l’ostracismo), tanto attraverso lo scrutinio non solo delle azioni compiute, ma anche delle pulsioni e dei pensieri. 

Lo psicoanalista che a inizio del secolo scorso iniziava a sostituirsi al confessore come guida alla ricerca di un equilibrio interiore, sostituendo la colpa con la pulsione, la repressione con il desiderio, forse non avrebbe mai immaginato gli sviluppi delle neuroscienze e il loro impatto sulla psicologia comportamentale. Iniziare a “vedere” il cervello in funzione ha consentito lo sviluppo di tecniche che hanno definitivamente messo in soffitta l’illusione della volontà per sostituirla con la creazione di pattern capaci di predire e modificare comportamenti e reazioni delle persone. 

 

Tecnologie digitali del sé

Per Foucault i processi di soggettivazione si basano su tecnologie del sé “che permettono agli individui di eseguire, coi propri mezzi o con l’aiuto degli altri, un certo numero di operazioni sul proprio corpo e sulla propria anima – dai pensieri, al comportamento, al modo di essere – e di realizzare in tal modo una trasformazione di se stessi allo scopo di raggiungere uno stato caratterizzato da felicità, purezza, saggezza, perfezione o immortalità

I tre momenti del rapporto dei soggetti con la loro interiorità che ho tratteggiato –  l’introspezione, la confessione e l’analisi – erano caratterizzati tutti da un rapporto con un maestro: rispettivamente il saggio, il sacerdote, lo psicanalista. Le nuove app di crescita personale introducono una variabile assolutamente inusitata nella storia dei percorsi di trasformazione di sé stessi: un attore digitale, basato sull’intelligenza artificiale, cui si delega l’ortopedia del soggetto nell’epoca digitale. La figura dello psicoanalista, che tanto ha caratterizzato non solo la società, ma anche le arti negli ultimi centocinquant’anni, forse è destinata a tramontare.

In questo senso siamo ben oltre il quantified self: gli apparati di rilevazione delle condizioni fisiche della persona (i wearables: orologi, bracciali, lo stesso smartphone e altri sensori) passano dall’essere giustapposti fino a diventare in qualche modo incorporati, così da poter rilevare costantemente i parametri oggetto di misurazione e controllo. Il quantified self alla fin fine sembra quasi inoffensivo nella sua intelligibilità: misuro i tuoi parametri vitali, li correggo o li curo (e li vendo a terzi). Raggiungiamo ancora in una dimensione in qualche modo esterna o almeno legata solo al corpo visto come una macchina che produce determinate prestazioni. 

Con le app dedicate al benessere ci troviamo invece in una dimensione del tutto interiore: non più la dataficazione di comportamenti dell’individuo e di eventi attorno ad esso, ma la costruzione della stessa personalità, l’indirizzamento dei pensieri, dei comportamenti, delle abitudini, dei valori. 

Per quanto certi consigli possano suscitare sicuramente ironia, le migliori app in circolazione nascono dall’unione tra l’analisi dei Big Data, l’Intelligenza Artificiale e le teorie psicologiche comportamentali più avanzate. Happify è basato sulle ricerche di Martin Seligman e Christopher Peterson, che nel loro classico testo Character Strengths and Virtues hanno classificato ventiquattro specifiche forze sotto sei ampie qualità che si ripetono nella storia e nelle diverse culture: saggezza, coraggio, umanità, giustizia, temperanza e trascendenza. Fabulous nasce invece in collaborazione con il laboratorio di economia comportamentale della Duke University guidato da Dan Ariely, il cui libro più celebre è Predictable Irrational. The Hidden Forces That Shape Our Decisions, che ha dimostrato quanto emozioni, aspettative, presupposti culturali e sociali incidono sulle decisioni “razionali” che prendiamo e come si possa anche prevedere l’irrazionalità alla base di tanti processi decisionali.  

I livelli di profilazione di queste app raggiungono un livello tale di granularità che consente un alto grado di attivazione della diade predittività/prescrittività. Nel mondo dei Big Data la capacità predittiva di uno strumento o di un ambiente è strettamente correlata alla sua capacità prescrittiva. Quante più informazioni vengono accumulate su una persona, tanto più si potranno prevedere i suoi comportamenti e le sue reazioni a determinate sollecitazioni. Le previsioni confermate aumentano la fiducia e la capacità prescrittiva di un sistema, anche di una semplice app. Prescrizione e predizione finiscono così per alimentarsi a vicenda, creando un ambiente in cui il soggetto viene quotidianamente guidato grazie alla comprensione dei suoi meccanismi profondi di scelta applicati a una massa di dati cui finora nessun neuroscienziato aveva potuto accedere. 

Il mio e-guru personale allora è ben più di uno strumento di automiglioramento. Va anche oltre il semplice controllo e la datificazione dei miei comportamenti, perché non si ferma più a rilevare il presente e a collegarlo al passato, ma pianifica e programma le scelte future. 

Se la figura classica del mentore era quella di un saggio che accompagnava il tuo percorso di soggettivizzazione, oggi non vi è più bisogno di presupporre un soggetto, perché la massa di dati accumulata verrà inquadrata nei pattern comportamentali definiti per prevedere e indirizzare le scelte della vita di quello che un tempo veniva  chiamato soggetto. 

Al mentore si sostituirà dunque l’e-guru tascabile, qualcosa, considerato come un qualcuno, che ti accompagna, ti assiste, ti fa evolvere, ti fa riflettere su te stesso, ti fa scoprire il tuo io che ha scoperto lui, ti spinge a fare delle scelte, te ne precluderà molte altre.  

 

Bibliografia

Dan Ariely, Predictably Irrational: The Hidden Forces That Shape Our Decisions, Harper Collins, 2008

Marco Aurelio, Pensieri. A se stesso, Garzanti, 1995

Sara Baranzoni, Foucault e la Filosofia Antica, Cura, esperienza e scrittura di sé, 2016

http://www.gianfrancobertagni.it/materiali/filosofiaantica/baranzoni.pdf

Moreno Montanari, La filosofia antica come esercizio spirituale e cura di sé nelle interpretazioni di Pierre Hadot e Michel Foucault, 2013

Michel Foucault, Tecnologie del sé, Bollati Boringhieri, Torino 1993

Michel Foucault, L’ermeneutica del soggetto. Corso al Collège de France (1981-1982), Feltrinelli, Milano 2003

Michel Foucault, Il coraggio della verità. Il governo di sé e degli altri (1983-1984), a cura di M. Galzigna ed F. Gros, Feltrinelli, Milano, 2011

Peterson, Christopher, Seligman, Martin E.P., Character strengths and virtues: A handbook and classification. Oxford University Press. 2004

Pablo Abend, Mathias Fuchs (eds.). Quantified Selves and Statistical Bodies in Digital Culture and Society, Vol. 2 2016 Issue 1, https://leseprobe.buch.de/images-adb/04/c9/04c9c5a8-ec19-49d0-bda2-2b2d343081e4.pdf

 

Algoritmi e fake news: i nuovi alibi per i fallimenti politici

Algoritmi Social minds

Algoritmi e fake news: i nuovi alibi per i fallimenti politici

All’inizio fu un bottone rosso.

Ricordate? Il 19 gennaio 2018  il Ministro degli interni Marco Minniti pretese “una vigilanza delle forze di polizia sulle notizie palesemente false” e lanciò il famigerato bottone rosso contro le fake news.

Ma se una notizia è palesemente falsa (tipo Renato Balestra non si è mai sottoposto a chirurgia plastica o la Volkswagen regala 800mila auto a San Valentino) perché ci sarebbe bisogno della Polizia? Immaginate i poliziotti virtuali impegnati a inseguire le tracce di tanti Ermes Maiolica digitali per poi dire loro: “mi raccomando burlone, non dire bugie”?

Ma in conferenza stampa il capo della Polizia Gabrielli fu più sincero: l’emergenza vera era l’imminente campagna elettorale per le elezioni 4 marzo. Certo, bisognava stare attenti ai congiuntivi di Di Maio e alle solite bufale di Berlusconi, ma quale è il confine tra promessa elettorale, diritto di critica e polemica politica? Tra generica cialtronaggine e specifica denigrazione?

La Polizia offriva anche il modulo online per fare le segnalazioni: immaginavamo orde di sicofanti digitali pronti a segnalare ogni incongruenza e balla degli avversari di collegio elettorale o per le elezioni di condominio.  Il tutto promosso da un ministro aderente a un partito che vantava un segretario chiamato fin da ragazzo “il bomba”.

Come è andata a finire? Si è mossa addirittura l’ONU dichiarando che il famigerato bottone rosso era “incompatibile con gli standard di legge internazionale sui diritti umani,” e delle 128 notizie che la Polizia dichiarava di aver scovato come fake con tanta acribia non esiste un elenco. L’iniziativa è stata fatta sparire, discretamente.

Un’iniziativa tanto imbranata è stata dunque la risposta del governo italiano a un timore diffuso basato su un chiaro teorema: le centrali di diffusione di fakenews basate in Russia e gli strumenti di microprofilazione che sfruttano i dati di Facebook e Google sostengono le opzioni politiche cosiddette populiste, come già successo in Usa con Trump, nel Regno Unito con il Leave e in Germania con il successo di Alternative fur Deutschland. L’obiettivo, come ha evidenziato un rapporto della Commissione Esteri del Senato americano, è destabilizzare l’Occidente e nello stesso rapporto fu lanciato l’allarme anche per l’Italia, indicando esplicitamente i beneficiari di queste azioni di manipolazione. Una sana democrazia occidentale basata su principi (neo)liberali si difende dalle fake news perseguendole. Se almeno le sapesse definire, certo.

Ma chi erano i partiti maggiormente indiziati di fruire di questo incrocio perverso tra fakenews putiniane e iperprofilazione digitale? Ovviamente la Lega Nord guidata dal filoputiniano Matteo Salvini e il Movimento 5 Stelle creato dal guru del webmarketing Gianroberto Casaleggio. E chi ha stravinto le elezioni del 4 marzo? Proprio Lega e Cinque Stelle. Allora abbiamo tutti gli elementi per arrivare rapidamente alla conclusione di questo articolo: c’era il timore di manipolazioni dall’estero degli orientamenti degli elettori che già hanno avuto successo in Usa, UK e (parzialmente) in Germania e hanno puntualmente vinto proprio i partiti sospettati di fruire o usare queste tecniche.

Grazie per la lettura e arrivederci.

O forse no.

Post hoc ergo propter hoc? Contro il pensiero magico digitale

Un vecchio adagio di base della logica ricorda proprio l’errore alla base del pensiero magico: post hoc ergo propter hoc, se un fatto precede un altro, esso non ne per forza è la causa.

La sequenzialità temporale non è un nesso causale. Figuriamoci quando la presunta causa è tutta da dimostrare.

Giornalisti, commentatori, tuttologi assortiti nelle ultime settimana sono tutti diventati esperti di Facebook Ads per spiegarci non solo che c’è un’unica regia che unisce il microtargeting,  la fakenews e populismi, ma che soprattutto queste azioni abbiano avuto una clamorosa efficacia e siano l’arma finale per destabilizzare l’Occidente (il quale evidentemente non riesce a destabilizzarsi abbastanza da solo nonostante gli sforzi delle sue elite). Quali sarebbero le prove a sostegno dello straordinario successo di questa strategia?

Come accade nelle culture premoderne, quando non si hanno strumenti culturali e tecnici per spiegare fenomeni naturali o tecnologici ci si rifugia nel pensiero magico.

E da qualche tempo dobbiamo registrare la nascita del pensiero magico digitale, in cui tanti commentatori privi di competenze tecniche e della pazienza per leggere le ricerche di settore, sovrappongono piani di analisi e costruiscono teoremi di causalità senza portare un minimo di studio empirico.

Il pensiero magico digitale parte da alcuni principi:

  1. I concreti algoritmi, di cui è pieno il nostro mondo, da componente tecnica di cui studiare e denunciare la non-neutralità, sia perché scritti da esseri umani con i loro pregiudizi sia perché spesso piegati alle logiche della società che ci sta fornendo il servizio, vengono raccontati come un elemento metafisico, l’Algoritmo con la A maiuscola. Una ipostasi per rinunciare a studiare i fatti tecnici nella loro complessità e nelle loro distorsioni e proporre invece una spiegazione astratta quanto polivalente, una specie di semidio digitale che tutto spiega e tutto vuole, come quando invece dei meteorologi ci si affidava ad Eolo o a Poseidone.
  1. Citare coattivamente e ricorsivamente l’Algoritmo (sempre con la A maiuscola) come fino a cinquant’anni fa si citava il Capitale per spiegare un po’ di tutto, dalla guerra in Vietnam alla guerra in Siria, dalla sconfitta della squadra del cuore ai cambiamenti climatici, tanto in qualche modo qualcosa può sempre entrarci, fa moderno e non impegna ad analizzare le molteplici variabili che impattano su ogni fenomeno.
  1. Un bel teorema-mischione cospirativo che mette dentro Mark Zuckerberg, Larry Page e Sergej Brin, Jeff Bezos, Vladimir Putin, Xi Jinping, Beppe Grillo e magari il Gabibbo per dimostrare che sono tutti impegnati a destabilizzare le certezze dell’Occidente, ovvero a rovinare gli aperitivi dell’upper class di Manhattan, dei Parioli o di Brera. Poco conta che i Big del digitale statunitense siano quasi tutti liberal e hanno dato uno sostegno dirimente all’elezione di Obama (il Presidente giurista che spiava le email dei capi di Stato alleati), hanno pesantemente finanziato la campagna di Hillary Clinton o hanno grossi problemi con le pretese cinesi e russe di sovranismo digitale.
  1. Un equivoco tecnico di fondo, per cui non si capisce quando il termine algoritmo per parlare di algoritmi strictu sensu, programmi eseguibili e codici. Naturalmente la critica ai grandi nemici della libertà digitale avviene usando operativi Mac, Win o Android e postando tutto su Facebook. Un po’ come se negli anni Settanta i grandi intellettuali di sinistra avessero lanciato i propri strali contro il Capitale dalle colonne del Sole 24 ORE, magari grazie a ricerche finanziate dalla Mount Pelerin Society.

Il pensiero magico digitale va ora di gran moda in certi circuiti culturali perché come “ai tempi degli dei falsi e bugiardi”, credere nell’Algoritmo soprannaturale esime dall’ammettere colpe e fallimenti di questo mondo, non solo quando si tratta di una prenotazione sbagliata, ma ancor di più quando intere classi dirigenti e politiche hanno rinunciato a dialogare, comprendere e dare voce agli elettori che pretendevano di rappresentare.

Facebook, “why always me?”

Prima che venisse eletto Trump, la principale accusa mossa alla piattaforma di Zuckerberg era di creare delle filter bubbles confermative dei pregiudizi soggettivi e di cancellare o emarginare attraverso algoritmi o scelte editoriali soggettive i contenuti di orientamento conservatore. Come sta emergendo negli ultimi giorni, a dispetto della retorica ribadita nei suoi proclami da Zuckerberg, Facebook resta un sistema opaco anche per gli studiosi più esperti, e affermare di aver compreso gli obiettivi politici globali della piattaforma fa progressivamente slittare il ragionamento dall’abduzione ai detti oracolari.

E’ d’altronde acclarato che agenzie di propaganda russe sono intervenute nella campagna presidenziale Usa del 2016. Quello che tanti cospiratori non sanno o non dicono è che l’inchiesta del Congresso ha determinato che l’investimento in Facebook Ads del gruppo russo di disinformazione IRA è stato di 46,000 dollari (aggregando altri investimenti sospetti si può arrivare a non più di 100,000 dollari), mentre l’investimento complessivo di Trump e della Clinton sulla piattaforma è stato di 81 milioni di dollari.

Per quanto i messaggi costruiti dai russi fossero volutamente incandescenti per suscitare più engagement, difficilmente si può valutarne l’impatto. Semmai la squadra digitale di Trump ha lavorato meglio su Ads Auctions e Custom Audiences, in sostanza è stata più efficiente perché ha generato più engagement ed engagement (coinvolgimento in termini di tempo, di condivisioni e di contenuti originali postati) è il mantra che indirizza tante preferenze di Facebook quando si tratta di dar visibilità a contenuti e pubblicità. E questo, come spiega Antonio Garcìa Martinez, già parte del monetization team di Facebook, è ancora più vero per NewsFeed.

Quando i quotidiani e i commentatori tuttologi citano gli 87 milioni di profili che avrebbe acquisito (all’epoca legittimamente) Cambridge Analytica non spiegano quanti di essi sono stati effettivamente utili alla campagna di Trump. E in tutto questo ragionamento vi sono due assunzioni che configgono apertamente.

a) Se Facebook promuove un engagement tanto autoreferenziale da creare le celeberrime filter bubbles, è possibile che le azioni di microprofilazione sia riuscite a scardinare le filter bubbles degli elettori negli swinging states in maniera così performante?

b) E’ realistico pensare che il microtargeting abbia d’improvviso soppiantato l’efficacia di ogni altro media e risulta essere l’unico strumento capace di far cambiare idea repentinamente a centinaia di migliaia se non milioni di elettori?

La Clinton ha concentrato i suoi 140 milioni di dollari di pubblicità televisiva su Ohio, Pennsylvania e Florida, perdendo in tutti e tre, mentre Trump ha avuto a disposizione “solo” 40 milioni di dollari.

Certo, se uno nota che Trump ha vinto in Michigan per 10mila voti, in Pennsylvania per 50mila e in Florida per 100mila, può legittimamente ipotizzare che un distacco così piccolo sia stato frutto del microtargeting. I commentatori apocalittici dell’algoritmo non ricordano però che in questi Stati quattro anni prima Obama aveva vinto rispettivamente per 450mila, 300mila e 70mila voti. Dunque è ragionevole supporre che il microtargeting ha spostato quasi il 10% dei votanti solo in questi 3 stati?

Questi stessi votanti, trattati da certi commentatori quali eserciti di zombie digitali capaci solo di reagire passivamente agli stimoli cui li sottopongono le piattaforme sociali e dimentichi di qualsiasi relazione personale, a partire dalla famiglia, forse hanno anche voluto protestare contro una crescita economica statunitense  senza occupazione che preoccupava Obama a poco più di un anno dalla fine del mandato.

Proprio a proposito di Barack Obama, viene sempre da chiedere ai commentatori apocalittici perché non si sono stracciati le vesti quando le invasive strategie di microtargeting attuate del 2008 e del 2012 hanno permesso la vittoria del Senatore di Chicago, al contrario celebrate e studiate come casi da manuale della nuova comunicazione e della nuova politica tout court. Viene forte il sospetto che Cambridge Analytica, al netto della grande pubblicità che sta ottenendo, avrebbe dovuto lavorare per far vincere l’altra candidata per venir celebrata oggi come un club di geni e non come un covo di ladri di identità digitali.

 

Le elezioni italiane del 4 marzo: la tecnologia digitale come alibi della politica

Ad oltre un mese dalle elezioni del 4 marzo possiamo contare su un numero significativo di analisi e di ricerche che consentono di tracciare un bilancio delle strategie di comunicazione politica applicate.

Se partiamo dagli allarmi lanciati dal Congresso degli Stati Uniti e ripresi dallo stesso Ministero degli interni italiano dovremmo provare a rispondere ai seguenti due punti:

  • Quali fake news hanno condizionato il dibattito e l’agenda setting elettorale e in che misura?
  • Quali partiti hanno realizzato campagne di iperprofilazione su facebook?

Ma al di là delle tecniche salite alla ribalta, cerchiamo di ragionare anche su obiettivi e risultati:

  • Quali sono state le strategie di comunicazione dei principali attori politici?
  • Quali sono state le campagne più efficaci?

Abbiamo visto come vi sia stato un allarme diffuso e internazionale prima delle elezioni. Non vi sono prove di bufale di origine russa, ma è possibile che l’alto allarme abbia consigliato una certa prudenza e discrezione nell’intervenire nella campagna elettorale italiana. Ma anche questa è conclusione prematura basata, su un periodo di tempo limitato, che invece va approfondita.

Un articolo di El Pais del 2 marzo scorso riporta una ricerca effettuata dal centro di ricerca The Alto tra febbraio e luglio 2017 la quale evidenzia come Sputnik.it abbia un’influenza sproporzionata sulle conversazioni digitali italiane a fronte di soli 45.000 followers Facebook e 6.300 followers su Twitter. Questo alto impatto può essere spiegato con l’alta mobilitazione di un numero relativamente limitato di account. Secondo lo studio su un 32% di account Twitter che possono essere definiti anti immigrati, I loro tweets rappresentano i due terzi delle conversazioni sul tema.

Ma l’agenda setting sul tema dell’allarme immigrazione non è solo una specialità russa. Le testate di centrodestra ilgiornale.it e libero.it totalizzano molto traffico con gli articoli dedicati all’allarme immigrazione. Quando agli allarmismi sul tema si contrappone un generico buonismo ecco che si arriva al gap tra immigrazione reale e percepita che pone l’Italia ai vertici in Europa.

Se l’agenda setting sull’immigrazione è stato fondamentale per il successo della Lega e il crollo della sinistra, vi è anche da dire che Berlusconi non ha raccolto quasi alcun dividendo, tanto che ha immediatamente chiuso le trasmissioni televisive che più cavalcavano il tema come Quarto Grado di Paolo Del Debbio e Dalla vostra parte di Maurizio Belpietro.

Come mostra il grafico di seguito, nessun altro partito come la Lega ha spinto tanto sul tema dell’immigrazione.

 

 

Il trionfo leghista va correlato a un agenda setting costruito da tre principali aree mediatiche:

  • I quotidiani e le edizioni online di centro destra, controllati direttamente o meno da Berlusconi
  • Le testate online estremiste, nazionaliste e antiimmigrazione, come Imola Oggi, molto attivi sui media sociali e registrate da tempo nella black list di Butac come spacciatrici di notizie distorte o esagerate
  • I media della galassia mediatica putiniana, ovvero RT e sputnik.it, oltre a vari account di area e gruppi anche su Facebook che promuovono personaggi come Aleksandar Dugin.

Se l’allarme immigrazione può essere certamente collegato a strategie di agenda setting nazionali o internazionali, non sono emersi altri traini di consenso eterodiretti dall’estero. Di certo resta un elemento di fragilità sociopolitica il fatto che nella graduatoria continentale Media Literacy Index l’Italia si trovi in fondo tra i paesi occidentali, indice di una chiara vulnerabilità alle fake news.

 Il reddito di cittadinanza, che punta a rispondere alle urgenze di una fascia della popolazione italiana, 9 milioni, prossima o già vittima di povertà, è stata un’esclusiva grillina. Nei mesi precedenti le elezioni e anche durante la campagna elettorale né la televisione di Stato né le televisioni di Berlusconi avevano interesse a sollevare il problema. Il pubblico mediamente più colto e affluente di Twitter non ha trattato il tema in maniera diffusa il tema, mentre i partiti di governo non avevano alcun interesse a evidenziare la questione. Dunque il tema è rimasto quasi patrimonio esclusivo del Movimento Cinque Stelle, che ha potuto farne un tema caratterizzante la sua campagna elettorale, grazie anche alla scelta del PD di raccontare solo un paese in ripresa e quella di LeU di concentrarsi sui diritti.

Quattro occasioni fallite dal Partito Democratico

Possiamo individuare quattro notizie esterne al ristretto dibattito sulle proposte politiche che hanno scandito la campagna elettorale:

  • L’allarme per il ritorno del fascismo dopo la marcia di Casa Pound a il 7 gennaio a Roma
  • L’omicidio di Pamela Mastropietro e la successiva tentata strage di Macerata tra fine gennaio e inizio febbraio
  • Il caso delle mancate restituzioni delle diarie da parte di alcuni deputati e senatori dei Cinque Stelle scoppiato con il servizio de Le Iene del 10 febbraio
  • I video di Fanpage del 17 marzo sull’inchiesta sullo smaltimento rifiuti in Campania che vede coinvolto Roberto De Luca, figlio del Presidente PD della Regione Campania

Matteo Salvini ha assolutamente dominato la narrazione sull’omicidio di Pamela Mastropietro da parte di uno o più spacciatori nigeriani e della successiva tentata strage di neri tentata dal suo ex candidato Luca Traini. A partire da inizio febbraio i post sul tema di Giorgia Meloni e Matteo Salvini hanno dominato il dibattito su Twitter e Facebook in termini di visibilità e condivisioni.

In questo caso il centrosinistra, sia tramite esponenti politici sia tramite intellettuali di area come Roberto Saviano, è stato incapace di trovare un’interpretazione mobilitante che andasse oltre le accuse a Salvini di strumentalizzare le tragedie. Mentre i Cinque Stelle hanno intelligentemente evitato di scendere nel dibattito, estremamente polarizzato, il centrosinistra si è rifugiato nell’antifascismo generico, scelta che forse aveva l’obiettivo di ricompattare la sua storica base elettorale ma che si è rivelata debole e poco sentita.

Sul tema del pericolo antifascista il centrosinistra aveva già battuto i suoi colpi con la marcia di Como a dicembre e i tanti allarmi sul ritorno delle destre dopo la partecipata marcia a Roma di CasaPound del 7 gennaio, allarmi fortemente esagerati da vari media vicini al PD. Al completamento degli scrutini le due formazioni che si richiamano al fascismo, Casa Pound e Forza Nuova, hanno registrato rispettivamente lo 0,9 e lo 0,3% dei consensi. Dove è finito il ritorno del fascismo in Italia, come si paventava sulla scorta del successo di AfD in Germania? Se non si può definire questa esattamente una fakenews, di certo si tratta di un fenomeno grandemente esagerato.

I Cinque Stelle sono riusciti a gestire in maniera eccellente la scoperta delle restituzioni falsificate da parte di alcuni loro eletti. Il confronto con la “iena” Filippo Roma di Luigi Di Maio con l’annuncio delle sanzioni per i colpevoli è stato il post su facebook più cliccato della campagna elettorale. La rilevanza polemica che è stata data al fatto da parte degli avversari politici e delle testate avverse hanno fatto sì che tutta Italia venisse a sapere di questa scelta politica ma anche promozionale dei Cinque Stelle. Dopo qualche giorno lo scandalo che doveva pesantemente colpire la credibilità dei Cinque Stelle è diventato un fattore positivo e di crescita dei consensi.

Il Centrosinistra si ritroverà pochi giorni dopo in estremo imbarazzo nel difendere il figlio del Presidente della Regione Campania e assessore a Salerno Roberto De Luca, ripreso dalle telecamere nascoste di Fanpage mentre partecipa a incontri propedeutici all’assegnazione di appalti per lo smaltimento dei rifiuti. In questo caso Centrodestra e Cinque Stelle possono agevolmente martellare sulla vicenda.

In questi quattro snodi del racconto elettorale a situazioni oggettive e imprevedibili si è sovrapposta una incapacità di chi gestiva la comunicazione del PD nell’argomentare e nell’offrire narrazioni alternative a quelle di Centrodestra e Cinque Stelle. Accusare le moderne tecniche di microprofilazione sui social media o evocare le fakenews, oppure accusare i limiti caratteriali o politici del partito committente quando non si riesce a gestire le crisi di comunicazione o di reputazione di cui inevitabilmente può essere costellata una campagna elettorale è indice meno di mancanza di umiltà che di scarsa professionalità.

Movimento Cinque Stelle e Salvini: due modi opposti e di successo di fare comunicazione politica

Anche da un punto di vista mediatico i vincitori sono Salvini e Di Maio, ma con strategie radicalmente diverse.

Quella di Salvini è un leaderismo digitale. Il “Capitano” (come viene spesso chiamato nei post) satura Twitter postando più di ogni altro politico, costantemente invita i suoi followers su Facebook a spalleggiarlo nelle polemiche o a dire la loro (tipica call to action), utilizza espressioni giovanili, popolari o anche volgari per entrare in sintonia con i diversi tipi di pubblico che vuole attivare.

Il social media manager Luca Morisi, docente di Informatica filosofica a Verona, ha sviluppato un meccanismo di comunicazione top-down, in cui i messaggi del capo cercano un riscontro di consenso e di attivazione all’interno delle varie tribù sociali che lo seguono con l’obiettivo di suscitare di volta in volta sentimenti di indignazione o di appartenenza o di polemica ma senza arrivare ad argomentazioni particolarmente dettagliate. Gli hashtag #primagliitaliani o #vergogna sono atemporali e acontestuali, possono andare bene quasi in qualsiasi contesto e anche in qualsiasi momento storico, dall’eliminazione dell’Italia dai Mondiali di calcio fino alle accuse agli altri politici sul tema immigrazione.

In Italia Twitter dichiara circa 6,5 milioni di account che in termini di utenti attivi non arriverebbero a otto volte meno, si tratta di uno strumento quasi di elite, che tuttavia Salvini, seguendo lo stile di Trump, ha trasformato in un luogo dove il dileggio e la polemica con gli avversari vengono esaltate.

I parametri essenziali di successo su Twitter sono quantità, stile e mobilitazione: con un numero altissimo di tweet ogni giorno, il suo stile corrosivo e una base di seguaci maggiore, Salvini ha dominato ogni altro avversario quando questi cadevano ingenuamente nelle sue provocazioni.

Come scrive Walter Quattrociocchi nell’ultimo numero de Le Scienze: “Tantissime informazioni, poco tempo per elaborarle attentamente e difetti connaturati alle nostre percezioni creano un mix potentissimo. Notiamo le informazioni che più ci convincono e che meglio aderiscono alla nostra visione del mondo (e ignoriamo quelle avverse), su di esse ci soffermiamo e le condividiamo con i nostri amici virtuali. Da confirmation bias si arriva così alle echo chamber e si innesca così un processo che, segregando su visioni comuni, fortifica la polarizzazione. Le fake news sono solo la punta dell’iceberg, l’uso strumentale e pretestuoso delle informazioni è solo una conseguenza di questo fenomeno molto più radicato e profondo” (W. Quattrociocchi, La babele di Internet, Le Scienze, 1 aprile 2018, pag. 42)

Quanto leaderistica è la strategia della Lega, tanto la strategia del Movimento Cinque Stelle è molecolare e può essere indicata come paradigmatica di un modello alternativo e altrettanto vincente di gestire la comunicazione politica. Se da una parte c’è “il Capitano”, dall’altra il mantra è “massima condivisione”. La Casaleggio e Associati non solo gestisce i contenuti e ne promuove la distribuzione (e la recente ricerca dell’Università Carlo Bo ne attesta l’estrema efficacia), ma favorisce anche la creazione di contenuti sviluppati dagli stessi militanti. Questi contenuti, non direttamente riferibili alla Casaleggio, consentono di testare l’umore degli attivisti e di aprire dei fronti polemici anche violenti senza un diretto coinvolgimento. Si tratta di meccanismi che si sviluppano anche sul blog, dove una parte dei commenti sono “spintanei”, ovvero scritti dallo staff. Checchè ne scriva il complottista Jacobo Jacoboni, le tattiche di gestione di un’assemblea o di una community sono in essenza le stesse. Chiunque ha fatto politica quando le assemblee erano una cosa seria con scontri anche fisici sa che alcune posizioni venivano poste e fatte approvare dall’assemblea attraverso un’azione coordinata di vari partecipanti, che rimarcavano una posizione e indirizzavano verso l’esito voluto la discussione.

La teoria delle reti a invariaza di scala elaborata da Albert Laszlo-Barabasi e applicata da Gianroberto Casaleggio alla politica italiana si sta rivelando estremamente efficace. Venuto meno lo snodo (hub) originario, Beppe Grillo, si è lasciato lo spazio agli snodi che sono cresciuti in questi anni, che sono stati fatti crescere in parallelo in termini di connessioni/popolarità anche attraverso l’aiuto della Casaleggio e Associati. Se Luigi Di Maio ha 1,591 milioni di like mentre Matteo Salvini lo supera nettamente con 2,1 milioni, il Movimento Cinque Stelle può contare su molti più snodi di comunicazione della Lega. Alessandro Di Battista vanta anch’egli a 1,5 milioni di Like, Paola Taverna arriva a 486mila, Roberto Fico registra 336mila Like, Danilo Toninelli 187mila. Basti dire che la storica figura leghista di Roberto Calderoli arriva ad appena 41mila Like.

Se i grandi hub diffondono le informazioni e attivano le campagne (“attenzione, massima diffusione”), i nodi periferici diventano più strategici per avvicinare e persuadere le loro personali reti amicali e familiari. I microinfluencer riescono a fare opinione a livello familiare, indirizzando le scelte di tanti indecisi.

Ecco perché l’analisi Ipsos TWIG evidenzia il paradosso del primo partito di Italia, che cresce di quasi due milioni di voti ma che registra un fortissimo gap tra performance comunicazione del leader (pur eccellente, come attesta la crescita della fan base) e performance del partito nel suo complesso. In realtà quel gap è ampiamente recuperato dalla grande capacità di mobilitazione del Movimento Cinque Stelle, che in qualche modo è l’unico partito il cui successo non dipende dal leader.

In questo senso la strategia dei Cinque Stelle non richiede investimenti in microtargeting perché la grande capacità di mobilitazione consente una capacità di diffusione dei messaggi in maniera assolutamente trasversale, non solo per caratteristiche sociodemografiche ma anche per quanto riguarda i media di riferimento. La rete dei microinfluencer risulta anche più efficace del microtargeting, perché basata su un rapporto spesso personale costruito nel mondo reale.

Sembra un paradosso per un movimento politico nato sul web ma sviluppatosi programmaticamente fuori di esso, ma la Casaleggio e Associati, specializzata in ecommerce, è pienamente consapevole che oggi il consumatore o l’elettore deve essere seguito e persuaso in un’ottica omnichannel, che implica anche i contatti faccia a faccia e i bagni di folla nelle pubbliche piazze.

 

Conclusioni

Una ricerca presentata su La Stampa del 19 febbraio curata da Community Media Research evidenziava come cresca costantemente l’importanza dei nuovi media per l’acquisizione delle informazioni, specialmente tra i più giovani, ma per quanto riguarda le opinioni esse hanno ancora un impatto limitato, al contrario delle reti relazionali reali: famiglia, amici, persone abitualmente frequentate. È sempre sbagliato separare, per motivi di ricerca o di semplificazione concettuale, quello che nella realtà è sempre costantemente interrelato: viviamo non solo un’esistenza onlife, costantemente scambiata tra mondo fisico e mondo digitale, ma anche per quanto riguarda i media, le interlocuzioni reali, le relazioni e i contatti digitali, il tutto non ha alcuna soluzione di continuità. Credere dunque che microtargeting o fake news possono nell’arco di tempo limitato di una campagna elettorale condizionare decine se non migliaia di persone è farsesco e autoassolutorio, mentre non è un caso che l’ultima campagna elettorale è stata vinta dai partiti non solo più efficienti sul web ma anche più presenti sul territorio.

I professionisti del debunking sono talmente vigili durante una campagna elettorale che difficilmente una fakenews potrebbe incidere realmente. Quello che invece viene poco evidenziato è l’impatto delle fakenews nel costruire un framing rispetto ad alcuni temi mesi o anni prima che si arrivi alla competizione elettorale. Insomma: sbagliato il bottone rosso a poche settimane dalle elezioni, ma sbagliato anche farlo sparire senza ripensarlo non appena l’iniziativa ha evidenziato tutti i suoi limiti.

Un ulteriore elemento che deve essere accertato è il fallimento della comunicazione del PD, incapace di gestire la campagna ordinaria e gestione delle crisi di comunicazione ma anche solo di caratterizzare la comunicazione del committente con una unique selling proposition memorabile. Lo stesso Berlusconi, nonostante i ritardi di natura proprio culturale nel gestire i nuovi media, ha saputo rimpacchettare il vecchio “meno tasse per tutti” con 7 memorabili lettere: #flattax.

In questo senso denunciare a posteriori il pensiero magico digitale che accusa Cambridge Analytica di ogni nefandezza (e in Italia non ha nemmeno lavorato!) non fa i conti con il fallimento professionale dei consulenti PD e ancor di più con i limiti della proposta politica.

Non si è studiato abbastanza l’impatto nella campagna elettorale dei meccanismi “tribali” o “comunitari” che sanno attivare la Lega e i Cinque Stelle. Puoi avere ogni sorta di media o di psicografia dalla tua, ma se alla fine non hai una base elettorale altamente motivata che diffonde il tuo messaggio, forse non tanto casa per casa come una volta, ma di certo di più contatto per contatto sui media sociali, non potrai che essere destinato alla sconfitta. Una delle lezioni di queste elezioni è l’emergere dei microinfluencers, che arrivano a presidiare decine di migliaia di piccoli circoli di relazione dove sono stimati e seguiti.

Quasi un post scriptum, anzi tre

1. Appena Luigi Di Maio ha proposto una qualche ipotesi di accordo con il PD, Twitter è stato inondato da migliaia di tweet con hashtag #senzadime per rifiutare senza esitazioni ogni compromesso. La ricerca di Niccolò Barca e Giacomo Antonelli pubblicata su The Vision (http://thevision.com/attualita/senzadime-alleanza/) ha dimostrato che l’operazione è stata orchestrata da solo 8 account Twitter, gli stessi che a dicembre celebravano il finto rientro dei terremotati dell’Aquila nelle loro case. Di chi è stata la regia di questa operazione?

2. Il 7 aprile Dario Franceschini è stato vittima di un’ondata di critiche su Twitter per aver sommessamente ipotizzato la possibilità di valutare le aperture Di Maio. Questa volta la stessa Repubblica ha sospettato l’attivazione di account Twitter fasulli. Chi è il regista di questa operazione?

3. Prima ancora che terminassero gli scrutini che attestavano la clamorosa avanzata al sud dei Cinque Stelle è iniziata a circolare la notizia di un assalto ai Caf di persone pronte a richiedere e a ottenere il reddito di cittadinanza. I telegiornali di Stato hanno dedicato molti minuti alla notizia mentre il coordinatore nazionale dei Caf Massimo Bagnoli ha parlato di qualche decina di richiesta di informazioni, “potremmo arrivare al massimo a 200 complessive” in Puglia, Sicilia e Calabria, a fronte di 2 milioni di Dsu, le richieste per ottenere le Idee nei primi tre mesi del 2018.

Il debunker questa volta è stata Striscia la notizia, che ha svelato una telefonata tra Vittorio Sgarbi e il suo addetto stampa dove concordavano di sparare la notizia durante un’ospitata. Di chi è stata la regia di questa operazione? Anche il Gabibbo è parte della cospirazione?

Nasce invece il sospetto che per vari casi di fakenews e manipolazione del dibattito in rete i politici finora al governo ne siano più promotori che vittime.

 

Riferimenti

Tra i tanti testi e interventi citati sono stati estremo aiuto i contenuti di DatamediaHub e l’ottimo lavoro di monitoraggio della campagna elettorale sui social che ha fatto Marco Borraccino con socialrecap.it. Spunti estremamente interessanti sulle dinamiche di diffusione dei messaggi di Lega e Cinque Stelle sono arrivati anche dai risultati della ricerca Ipsos-TWIG. La linkografia che segue è parziale e in costante aggiornamento:

https://motherboard.vice.com/it/article/pamwkz/dove-la-lista-delle-128-fake-news-smentite-dalla-polizia-postale

https://motherboard.vice.com/it/article/j5aqgx/per-lonu-il-bottone-rosso-delle-fake-news-di-minniti-viola-i-diritti-umani

http://www.butac.it/the-black-list/

https://www.foreign.senate.gov/imo/media/doc/FinalRR.pdf

https://www.nytimes.com/interactive/2016/10/21/us/elections/television-ads.html

https://techcrunch.com/2017/11/01/russian-facebook-ad-spend/

https://www.wired.com/story/how-trump-conquered-facebookwithout-russian-ads/

https://www.theguardian.com/us-news/2016/nov/16/facebook-bias-bubble-us-election-conservative-liberal-news-feed

https://www.washingtontimes.com/news/2017/oct/23/internet-giants-show-power-to-shape-politics/

https://gizmodo.com/former-facebook-workers-we-routinely-suppressed-conser-1775461006

http://www.butac.it/democratica-salvini-calabresi/

http://www.butac.it/il-non-candidato-di-forza-nuova/

https://medium.com/@CKava/why-almost-everything-reported-about-the-cambridge-analytica-facebook-hacking-controversy-is-db7f8af2d042

http://www.affaritaliani.it/politica/la-piu-grande-bufala-della-sinistra-onda-nera-scomparsa-da-media-tv-532795.html

https://www.nytimes.com/2016/05/01/magazine/president-obama-weighs-his-economic-legacy.html

http://www.nybooks.com/articles/2018/04/05/silicon-valley-beware-big-five/

Vai alla barra degli strumenti