Il capitalismo di sorveglianza – di Géraldine Delacroix

Una recensione-conversazione a cura di Géraldine Delacroix con l’economista Shoshana Zuboff sul suo nuovo libro The age of surveillance capitalisme. The Fight For a Human Future at the New Frontier of Power (Profile Books Ltd, 2019). È stata pubblicata il 2 marzo 2019 su Médiapart. La traduzione in italiano è di Salvatore Palidda.

Il capitalismo di sorveglianza è il fondamento di un nuovo ordine economico. Le imprese del capitalismo di sorveglianza competono nella produzione di “prodotti di predizione”, scambiati in lucrosi nuovi mercati di “comportamenti futuri”. Le architetture digitali del capitalismo di sorveglianza – quelle che Shoshana Zuboff chiama “Big Other” – sono progettate per catturare e controllare il comportamento umano per un vantaggio competitivo in questi nuovi mercati, poiché la produzione di beni e servizi è subordinata a un nuovo “mezzo di modifica dei comportamenti” che favorisce i risultati del mercato privato, svincolato  da ogni supervisione o controllo democratico. Per chi fosse interessato ad approfondire, Shoshana Zuboff, professoressa di Harvard Business School, parla qui, in una recente conferenza, del suo nuovo libro.

Per l’economista Shoshana Zuboff, il cui libro The Age of Capitalism of Surveillance è appena apparso negli Stati Uniti, il pericolo rappresentato dai giganti del web è molto maggiore di quanto generalmente si pensi. Intercettando i dati personali per modificare a loro insaputa il comportamento dei loro utenti, minacciano la democrazia stessa. Appropriatisi dei nostri dati personali, gli imprenditori del “capitalismo di sorveglianza” mettono in pericolo niente meno che la democrazia manipolando il nostro libero arbitrio. Tale è la tesi difesa da Shoshana Zuboff in questo ampio volume appena pubblicato.

Il capitalismo è entrato in una nuova era, spiega l’autrice e, per capirlo e combatterlo, dovremo indossare nuovi occhiali, perché i vecchi non operano più di fronte a un cambiamento così radicale e così veloce – una rivoluzione avvenuta in meno di venti anni. Un “nuovo pianeta”, una situazione “senza precedenti” che si sarebbe sbagliato pensare sia una semplice continuazione del passato.

Con la paura del totalitarismo di stato, “non abbiamo visto arrivare le aziende con nomi fantasiosi guidati da giovani geni che sembravano essere in grado di poter offrire gratuitamente esattamente ciò che volevamo”. Questa è una delle principali novità, e da qui una fonte di cecità dell’attuale situazione: la sorveglianza e il pericolo sono passati nelle mani delle compagnie private.
In introduzione alle conferenze tenute dopo la pubblicazione del suo libro, Shoshana Zuboff chiede al pubblico di riassumere in poche parole la ragione della loro presenza. Se, ammette, il pubblico presente è già un po’ di parte, ma le parole che raccoglie, ogni volta le stesse, giustificano la sua dimostrazione.
Il 13 febbraio a New York, tra le espressioni scelte, c’erano: pubblicità, capitalismo globale, panottico, profilazione, paura, umanità, resistenza, sfruttamento, compratori, soluzioni, rivoluzione, determinismo, sovranità, manipolazione, democrazia, dignità, autonomia. A Londra, ricorda: “identità, libertà, potere, legge“. Come a Bruxelles o Cambridge.

Come siamo arrivati a questo stadio di “oscuramento del sogno digitale”, a soli trent’anni dalla nascita di Internet? Il capitalismo è uscito dalle fabbriche e dagli uffici per inondare ogni angolo della società. Gli imprenditori della sorveglianza si sono impossessati di noi “solo perché viviamo, non per il nostro lavoro”, spiegava Zuboff quel giorno, a New York.

“Come ci chiamano?”, si chiede la professoressa di Harvard. “Non abbiamo un nome, non siamo lavoratori. Il nome che ci hanno dato è “utente” (user). E non è giusto. Ciò che questa parola “utente” ci dice è che il capitalismo non è più confinato all’economia. Sarà quindi necessario combatterlo per trovare nuovi mezzi di azione collettiva, poiché i lavoratori hanno trovato i propri mezzi di lotta contro il capitalismo industriale. Come “mettere fuori legge questo nuovo capitalismo canaglia”, che prospera “sui nostri sentimenti” e il cui “scopo è quello di automatizzarci”?

Al posto della nostra forza lavoro, cara al capitalismo industriale, il capitalismo di sorveglianza si nutre di “ogni aspetto di ogni esperienza umana” e ci porta a firmare il patto di faustiano del XXI secolo: “È quasi impossibile” sfuggire al capitalismo di sorveglianza “, nonostante il fatto che ciò che dobbiamo restituire distruggerà la vita come la conosciamo. Si consideri che Internet è diventato essenziale per la vita sociale, che ora è saturo di commercio e che il commercio è soggetto al capitalismo di sorveglianza”.

Che i nostri sentimenti servano a generare profitto è inaccettabile, ma anche radicalmente nuovo, spiega l’autrice a coloro che interpretano il fenomeno come una continuità. Che si tratti di guidare le nostre relazioni amichevoli o affettuose, il nostro voto o il contenuto del nostro frigorifero, del nostro guardaroba o della nostra biblioteca, quello che succede a noi è la “perdita di sovranità sulle nostre vite”. La nostra dipendenza è al centro del progetto di monitoraggio commerciale, che è definito in due domande: qual è il prodotto? Qual è il cliente?

Per Shoshana Zuboff, nonostante il detto “se è gratuito, tu sei il prodotto”, gli internauti non sono prodotti, ma “le fonti di un valore aggiunto cruciale per il capitalismo di sorveglianza: gli oggetti di un processo di estrazione delle materie prime tecnologicamente avanzato e sempre più inevitabile“, dei produttori – malgrado loro – di dati. Il prodotto è “il nostro comportamento futuro”, sotto forma di clic, acquisito, online od offline, dalle aziende che lo acquistano e lo vendono, lo scambiano su nuovi mercati.

Tale patto col diavolo firmato utilizzando Google e Facebook (tra gli altri …) ci intorpidisce il cervello, ci fa creare dei meccanismi di difesa (“Non ho nulla da nascondere”), genera un “cinismo rassegnato”. “In questo senso, il capitalismo di sorveglianza impone una scelta fondamentalmente illegittima che gli individui del XXI sec. non dovrebbero dover fare”, afferma Shoshana Zuboff.
Siamo vittime di un’asimmetria senza precedenti: “Il capitalismo di sorveglianza sa tutto di noi, mentre le sue operazioni sono progettate in modo che non ne sappiamo nulla“, esso “annulla i diritti fondamentali associati all’autonomia individuale“, diritti “essenziali per la possibilità stessa di una società democratica“.

In un promemoria del 2016, rivelato da Buzzfeed nel marzo 2018 si legge: “Dunque, noi colleghiamo più persone insieme. Questo fatto essere negativo se ciò le rende nocive. Può costare la vita a qualcuno, esposto a molestie. Qualcuno forse potrebbe morire in un attacco terroristico coordinato attraverso i nostri strumenti. Ma noi colleghiamo sempre le persone.

“Proprio come la civiltà industriale prosperò a spese della natura e ora minaccia di costarci la Terra, la civiltà dell’informazione disegnata dal capitalismo di sorveglianza e il suo potere strumentale prospereranno a costo della natura umana e minacciano costarci la nostra umanità “, avverte l’economista. “Per proteggersi da questo, non sarà sufficiente combattere contro i monopoli o difendere la riservatezza dei dati, anche se è essenziale”.

Shoshana Zuboff ci invita a non confondere il capitalismo di sorveglianza con tecnologie, che sono solo lo strumento: il capitalismo di sorveglianza non è una tecnologia, è una logica in azione. Per inciso, ricorda i cookies, che furono inventati nel 1994 da Netscape, senza essere inizialmente sfruttati dal capitalismo di sorveglianza che se ne impadronì solo anni dopo. Ad esempio, si chiede, che bisogno ha Google di conservare per sempre lo storico delle nostre ricerche? Potrebbe sempre servire, ha  risposto Eric Schmidt, amministratore delegato di Google, nel 2009.
Non c’è fatalità tecnologica, dice l’autore. Le tecnologie non sono fini a sé stesse, ma mezzi per l’economia: “Se è possibile immaginare qualcosa come l’Internet delle cose senza il capitalismo della sorveglianza, non è possibile immaginare il capitalismo di sorveglianza senza Internet delle cose”. E cita Max Weber: “Il fatto che il cosiddetto progresso tecnologico nei tempi moderni sia a tal punto orientato economicamente al profitto è uno dei punti fondamentali nella storia della tecnologia”. I vecchi occhiali possono ancora servire, a volte.

La nostra personalità: ecco ciò di cui il capitalismo di monitoraggio ci spossessa, mettendo fine a un’epoca ch’eppure ancora la nutre. L’epoca dell’individuazione, dei diritti umani individuali grazie ai quali tutti possono sperare di diventare creatori della propria vita, senza dovere per forza seguire le vie già tracciate di un’appartenenza di classe, di genere, di luogo, rimpiange Zuboff. Nonostante il suo potenziale liberatorio, i tempi sono difficili da vivere. L’individualizzazione è messa in scacco dalle disuguaglianze che ciascuno dei 99% deve affrontare. Paghiamo per il nostro proprio dominio.
“A cavallo del XXI secolo, quando i meccanismi fondamentali del capitalismo di sorveglianza appena cominciavano a prendere forma, la massimizzazione del valore per gli azionisti è stata ampiamente accettata come la funzione obiettivo dell’impresa”, distruggere i posti di lavoro di passaggio. E dopo dieci anni di successo del settore digitale e lo sviluppo di Internet, i paesi occidentali sono entrati negli anni 2010 con un livello record di disuguaglianza, scontri a Londra, gli Indignados in Spagna e Occupy negli Stati Uniti.

Dopo questo scenario, Shoshana Zuboff mostra con accurata precisione i meccanismi economici che stanno alla base della immensa accumulazione di ricchezza del capitalismo di sorveglianza, che non si accontenta di catturare i nostri pensieri, processo di cui Google è descritto come l’inventore e leader, e Facebook la sua filiazione di maggior talento.

All’inizio è stato quindi Google, per il capitalismo di sorveglianza, dice Shoshana Zuboff, ciò che Ford e General Motors sono stati per il capitalismo industriale. Come i suoi predecessori, dobbiamo scrutare Google non solo come azienda, ma come punto di partenza per una nuova forma di capitalismo. Mentre le sue invenzioni nella pubblicità, come le aste e la pubblicità mirata, sono state eccessivamente studiate, esse sono invece sotto-analizzate, rimpiange di Zuboff, perché “l’invenzione di Google di pubblicità mirata ha aperto la strada dei successi finanziari

[…] ma anche della scoperta e dell’elaborazione del capitalismo di sorveglianza”.
Nel 1999, venivano effettuate ogni giorno con Google sette milioni di ricerche. Non c’erano entrate, nessun modo di far pagare gli “utenti” e solo sette persone nel reparto pubblicità, “la maggior parte di loro condivideva l’antipatia generale dei fondatori per la pubblicità”.

Sergey Brin e Lawrence Page potevano scrivere, allora, in The Anatomy of a Large-Scale Hypertextual Web Search Engine: “Ci aspettiamo che i motori di ricerca supportati da annunci pubblicitari siano fondamentalmente sbilanciati verso gli inserzionisti e lontani dalle esigenze dei consumatori. Poiché è molto difficile, anche per gli esperti, valutare i motori di ricerca, il loro pregiudizio è particolarmente insidioso. […] [È quindi] cruciale avere un motore di ricerca potente e trasparente.”

Quando arriva lo scoppio della bolla di Internet siamo nel 2000

È alla fine di quell’anno che, sotto la pressione dei suoi investitori, Google cambia strategia. Grazie ai dati di ricerca e di navigazione, Google non indirizzerà più la pubblicità sulle parole chiave cercate, ma la renderà visibile alle persone ritenute pertinenti. Questo è un cambiamento di paradigma essenziale: i dati non riguardano più solo il miglioramento del prodotto, ovvero l’efficienza del motore di ricerca, per fornire risposte migliori.

Servono a un altro scopo: offrire agli inserzionisti il pubblico che stanno cercando, e quindi servono a guadagnare denaro. I dati personali, ciò che stiamo cercando, dove, quando e come, diventano ciò che Shoshana Zuboff chiama “surplus comportamentale”, che potrebbe essere tradotto in valore aggiunto comportamentale, che porterà direttamente al modello economico di Facebook – la figura che unisce i due colossi è Sheryl Sandberg, che passerà dal primo al secondo nel 2008 – e con esso la ricetta per le entrate pubblicitarie.
Nel 2002, il New York Times si chiede ancora se Google possa inventare un modello di business tanto performante quanto il suo motore di ricerca. Nel 2003, il metodo di raccolta dei dati è stato sviluppato in un brevetto intitolato “Generazione di informazioni d’utente per un uso nella pubblicità mirata” (Generating user information for use in targeted advertising). Una svolta di 180 gradi che porta Google del servizio all’utente alla sua sorveglianza.

Il fatto che oggi non siamo più sorpresi pubblicità mirata alla persona giusta al momento giusto, the right place, mostra, secondo Shoshana Zuboff, l’ampiezza del processo avvenuto. La pubblicità, che è sempre stata un gioco di indovinelli, adotta metodi precisi. La reificazione e il merchandising dei nostri comportamenti portano Google e Facebook a comprare tutte le aziende che possono fornire dati, e ce ne sono sempre di più man mano che le nostre vite vengono digitalizzate. Google acquista YouTube nel 2006 per 1,65 miliardi di dollari (si può consultare su Wikipedia l’elenco degli acquisti di Google e Facebook). È questo il modo in cui dobbiamo capire lo sviluppo del sistema Android di Google: la capacità di replicare sui telefoni cellulari il dominio ottenuto nella ricerca, per farne un mezzo per sapere tutto quello che succede in un telefono e letteralmente rapinare tutti i comportamenti quotidiani.
A dicembre 2012, Instagram lancia una nuova funzionalità: i messaggi privati…
“Il mondo online non è realmente governato da leggi terrene. Questo è il più grande spazio non governato del mondo”, così si felicitavano nel 2004 Eric Schmidt e Jared Cohen (Google), alla prima pagina del loro libro The New Digital Age Transforming Nations, Businesses and our Lives. La rapina dei dati personali è già avvenuta, senza che sia mai stata richiesta alcuna autorizzazione.

Shoshana Zuboff assegna una pesante responsabilità all’articolo 230 della legge del 2006 che regola le telecomunicazioni negli Stati Uniti, una normativa che, come il LCEN in Francia, protegge gli ospiti dei siti della responsabilità dei contenuti ivi pubblicati. Perché per mantenere il flusso di dati prodotto dagli utenti, le piattaforme hanno un’esigenza vitale dell’espressione degli internauti, dell’uso delle stesse delle piattaforme. Non solo per massimizzare la quantità di tempo trascorso a guardare gli annunci, ma per raccogliere i dati dei partecipanti alle discussioni, i likes e tutti i tipi di azioni.
Shoshana non dimentica di ricordare che dopo gli attacchi dell’11 settembre 2001, la politica di sicurezza e il Patriot Act hanno perseguito lo stesso obiettivo delle società d’internet di raccolta di informazioni online. “Se le organizzazioni terroristiche vogliono pianificare e attuare attacchi contro gli Stati Uniti, i loro membri devono effettuare transazioni e lasciare tracce in questo spazio informativo”, ipotizzò il generale Poindexter nel 2002. E aggiunse: “Dobbiamo essere in grado di estrarre questo segnale dal rumore. La digitalizzazione di tutte le nostre azioni è diventata una “architettura dell’estrazione” dei dati. E la collaborazione di aziende high-tech con governi, indebolita nel 2013 dalle rivelazioni di Edward Snowden, è di nuovo ripresa alla grande.

C’è però stato qualche inciampo sulla strada del capitalismo di sorveglianza, e Shoshana Zuboff decostruisce metodicamente il “ciclo di espropriazione” che governa l’azione di queste compagnie: l’incursione (prendere senza chiedere), l’abituare l’utente (non possiamo fare altrimenti), l’adattamento (fare ammenda e promettere di fare meglio – questa è la fase in cui Facebook si trova attualmente), e infine il reindirizzamento, andare su un altro percorso per sorprendere in velocità le volontà di regolamentazione. Ad esempio, nel caso di Facebook, inventando la fusione di tutte le sue messaggerie (Instagram, WhatsApp e Messenger).

Se le mappe creano l’impero, come ricorda Shoshana Zuboff, citando lo storico della cartografia John B. Harley, Google Maps sarà essenziale per Google.
La storia della costruzione di questo oggetto sin dal suo inizio, della protesta locale destata qua e là dalle famose macchinette di Google Street View che fotografano ogni strada, fino al gioco Pokemon Go, come tutti i capitoli che descrivono questa forma di impresa economica: appassionante. Con Street View, Google si appropria di tutto lo spazio pubblico, senza chiedere nulla. Il caso di Pokemon Go, dove si crede di cacciare dei Pokemon nel proprio quartiere mentre in realtà si è spinti verso una destinazione precisa, è edificante. Il problema, sottolinea Zuboff, è che il giocatore non sa che questa o quella insegna ha pagato affinché il gioco diriga i suoi passi sino al suo negozio, il che è una grande differenza con la pubblicità tradizionale, visibile, evidente e talvolta regolamentata.

Ancora peggio, il gioco traspone il sistema pay-per-click, già tradizionale nella pubblicità online, nel mondo fisico. Il vero cliente di Niantic (editore del gioco e sussidiario di Google) è ancora una volta l’inserzionista, non il giocatore. Inserzionista che pagherà solo quando il giocatore arriva nell’area target: questa è la paga per visita. L’azione dell’utente fa scattare il reddito: il “gioco” farà di tutto per spingere il giocatore dove il suo passaggio produrrà un profitto.
Allo stesso modo, non saremo sorpresi quando scopriremo che il robot aspiratore Roomba può captare la mappa della casa di chi è connesso e darla a Google Maps, che trova un modo per cartografare sino allo spazio privato, diventato nuova terra di conquista. Certo, possiamo rifiutare le condizioni di utilizzo dell’aspirapolvere e bloccare questo trasferimento di dati. Salvo che allora, sarà necessario fare a meno di varie funzionalità quale l’attivazione remota tramite un’app installata sul telefono.
Dal punto di vista del consumatore, si tratta di una grave distorsione nei contratti che di solito lo lega al produttore: il degrado del prodotto acquistato, garanzia che funziona à 100% solo a certe condizioni. Zuboff cita anche il caso di un letto collegato, che registra il tempo di sonno, il russare e molti altri eventi, ma li restituisce al proprietario solo se ha accettato le CGU (condizioni). Condizioni d’uso la cui accettazione serve ad altri interessi oltre a quelli della persona che li firma. Il gioco Pokemon Go chiede all’utente se può contare i suoi passi.

Ricordiamo che questo genere di tecnologie sono da tempo sperimentate per il controllo dei lavoratori, la misura a distanza del lavoro ecc. (fra altri, il coleottero spia o micro droni o il braccialetto -brevettato da Amazon- e in alcuni casi i chip)

Come uscire fuori da tutto ciò quando per Hal Varian, capo economista di Google e pilastro della casa, “il monitoraggio continuo diventerà la norma”?
Nel 2012, Facebook pubblica uno studio sulla prestigiosa rivista scientifica Nature, uno studio intitolato “Un’esperienza di 61 milioni di persone sull’influenza sociale e la mobilitazione politica”.  L’azienda spiega come, durante la campagna elettorale a metà del 2010, ha testato diversi messaggi inviati a determinati utenti, fornendo loro informazioni sui seggi elettorali o sui loro amici che hanno indicato che loro avevano già votato. Di conseguenza, è stata in grado di osservare i cambiamenti nell’affluenza dei votanti in base ai messaggi ricevuti o meno. Di fronte a questo risultato, i ricercatori hanno affermato: “Ciò ha implicazioni per la nostra comprensione del ruolo dei social network nella società”.
Ma che cos’è, scientificamente parlando, un esperimento condotto all’insaputa dei partecipanti? Questa è la norma su Internet: “È sempre così. Gli esperimenti sono condotti su ciascun utente in un punto o in un altro della sua permanenza sul sito. Che si tratti di annunci di dimensioni diverse, messaggi di marketing diversi, pulsanti di invito all’azione diversi, visioni di flussi generati da diversi algoritmi di classificazione varia e così via. L’obiettivo fondamentale della maggior parte delle persone di Facebook che lavorano sui dati è influenzare e modificare l’umore e il comportamento delle persone. Fanno di tutto continuamente per farti amare di più le storie, per farti cliccare su più annunci, per trascorrere più tempo sul sito. È così che funziona un sito Web, tutti lo fanno e tutti sanno che tutti lo fanno“, spiega Ledvina, ex Facebook.

Pokemon Go vuole accedere alla geolocalizzazione anche quando il giocatore non gioca 

Un secondo studio, Experimental evidence of massive-scale emotional contagion through social networks (“L’evidenza sperimentale di un contagio emotivo su larga scala attraverso i social network”), è iniziato nel 2012 e pubblicato nel giugno 2014. Per i ricercatori, il risultato è inequivocabile: “Gli stati emotivi possono essere trasmessi agli altri attraverso il contagio emotivo e coinvolgere le persone a provare le stesse emozioni senza esserne consapevoli. Ancora una volta, le condizioni dell’esperimento sono contestate, e il redattore capo della rivista Pnas si chiede: “Abbiamo firmato per Facebook per realizzare questi esperimenti e siamo autorizzati a lasciarli?”
A differenza del capitalismo del passato, il capitalismo di sorveglianza “fa dei mezzi di modificazione dei comportamenti un motore di crescita” e la sua struttura finanziaria guidata dagli azionisti, non si preoccupa dei consumatori in quanto lavoratori. Cresce in una “radicale indifferenza” alla sorte delle popolazioni come individui, il che spiega la (non) politica di moderazione implementata su Facebook o il funzionamento degli algoritmi di YouTube. “Tutti gli sforzi per la moderazione dei contenuti dovrebbero essere intesi come difensivi piuttosto che come atti di responsabilità”, afferma Shoshana Zuboff.

Non sempre lontana da una forma di catastrofismo, Zuboff teme … una “settima estinzione“, quella dei sentimenti, della coscienza, del libero arbitrio, “quella di ciò che è più prezioso nella natura umana”.

Un secondo studio, Experimental evidence of massive-scale emotional contagion through social networks (“L’evidenza sperimentale di un contagio emotivo su larga scala attraverso i social network”), è iniziato nel 2012 e pubblicato nel giugno 2014. Per i ricercatori, il risultato è inequivocabile: “Gli stati emotivi possono essere trasmessi agli altri attraverso il contagio emotivo e coinvolgere le persone a provare le stesse emozioni senza esserne consapevoli. Ancora una volta, le condizioni dell’esperimento sono contestate, e il redattore capo della rivista Pnas si chiede: “Abbiamo firmato per Facebook per realizzare questi esperimenti e siamo autorizzati a lasciarli?”
A differenza del capitalismo del passato, il capitalismo di sorveglianza “fa dei mezzi di modificazione dei comportamenti un motore di crescita” e la sua struttura finanziaria guidata dagli azionisti, non si preoccupa dei consumatori in quanto lavoratori. Cresce in una “radicale indifferenza” alla sorte delle popolazioni come individui, il che spiega la (non) politica di moderazione implementata su Facebook o il funzionamento degli algoritmi di YouTube. “Tutti gli sforzi per la moderazione dei contenuti dovrebbero essere intesi come difensivi piuttosto che come atti di responsabilità”, afferma Shoshana Zuboff.

Non sempre lontana da una forma di catastrofismo, Zuboff teme … una “settima estinzione“, quella dei sentimenti, della coscienza, del libero arbitrio, “quella di ciò che è più prezioso nella natura umana” .

Bisogna che ognuno ridiventi proprietario dei propri dati? Shoshana Zuboff scarta questa soluzione: “Che interesse c’è ad avere dati che innanzitutto non dovrebbero esistere? Tutto ciò non fa che istituzionalizzare e legittimare di più la raccolta dei dati. È come negoziare il numero di ore al giorno che un bambino di sette anni potrebbe lavorare, piuttosto che contestare la legittimità del lavoro minorile.”