https://elpais.com/tecnologia/2019/12/19/actualidad/1576714757_110095.

html

SHOSHANA ZUBOFF | AUTORA DE 'LA ERA DEL CAPITALISMO DE LA

VIGILANCIA'

“Todo lo que sabías sobre la privacidad está mal. Hay que probar otro camino”

La escritora estadounidense se ha convertido en la gran profeta de los riesgos de un

futuro de datos descontrolados

JORDI PÉREZ COLOMÉ

19 DIC 2019 - 08:39 ART

Shoshana Zuboff está cansada. Su libro, La era del capitalismo de la vigilancia, salió

en enero y lleva un año de conferencias, entrevistas y viajes. No hay nada para un
autor como lograr que el título de su libro pase a definir una categoría. En su caso,
el debate sobre la privacidad.

Zuboff, de 68 años, se ha convertido en una profeta del fin del mundo tal como lo
conocemos. Como otros profetas, a veces sus frases suenan de apocalipsis: "No
quiero ser melodramática pero a su manera quieren esclavizarnos, no con
asesinatos y terror sino con una sonrisa" o "si Greta Thunberg dice que nuestra
casa están en llamas, yo digo que nuestro hogar, la sociedad, está en llamas".

"No quiero ser melodramática pero quieren esclavizarnos, no con asesinatos y terror
sino con una sonrisa"

Pero su tesis es menos exagerada: billones de datos nutren un sistema

informático que predice nuestras conductas. ¿Para qué? Sobre todo para saber
mejor qué consumiremos. Pero cuando uno predice el comportamiento, la
tentación de intentar modificarlo es enorme. Es una pendiente obviamente
peligrosa.

Primero, porque no lo entendemos: "Intenta imaginar a los indígenas sentados en

sus porches, el día en que aquellos grandes barcos aparecieron en el horizonte.
Nunca habían visto nada así. Y nadie vio nada ofensivo el primer día, más que un
español con barba, tropezando por la playa, con su armadura y espada y ropa
pesada. En una situación así eres cognitivamente incapaz de entender qué
pasará", explica. Los indígenas, según Zuboff, somos nosotros. “Con la privacidad,
somos como los indios de América al llegar los españoles. No sabemos qué nos
viene encima”, añade.
El libro de Zuboff, una de las primeras profesoras de la Harvard Business School
en los 80, llegará a España en abril de 2020 (Paidós), más tarde que en las otras
lenguas principales europeas. El original inglés tiene más de 600 páginas y está
lleno de jerga económica y teoría. Pero al hablar, Zuboff hila un discurso concreto
y comprensible para todos los públicos. EL PAÍS habló con ella en Milán, en el
marco de las jornadas OnLife organizadas por el diario La Repubblica.

Si, según Zuboff, entramos en una nueva era del capitalismo llamado "de la
vigilancia", ¿a qué se refiere? "El capitalismo evoluciona cogiendo cosas que viven
fuera de la dinámica del mercado y llevándolas al mercado para ser compradas y
vendidas", explica, en referencia a animales, madera, cultivos, minerales,
conocimientos. "Ahora con tanta competencia global, ya no queda casi nada en
los márgenes y, de repente, el único territorio virgen somos nosotros, la
experiencia humana privada", añade.

"Ya no queda casi nada en los márgenes y, de repente, el único territorio virgen somos
nosotros, la experiencia humana privada"

Zuboff emplea una metáfora que entronca con épocas anteriores. "Todos esos
datos entran por una cadena de producción en un nuevo tipo de fábrica
computacional", explica. ¿Y qué fabrican ahí? "Productos. ¿Qué productos?
Predicciones del comportamiento de los usuarios".

Es más fácil de entender de lo que parece. Nuestro comportamiento íntimo

es previsible: estás más cerca de una compra si después de mirar unos
pantalones, buscas una marca, un precio, comparas y pones unos en el carrito y
vuelves atrás con dudas y buscas descuentos. Todas las opciones están trazadas.
Cuando esos movimientos se repiten millones de veces, crean un patrón del
comprador que acaba comprando (y del que no). Una vez entendido eso, se
predice su comportamiento: si va a comprar, se le deja solo. Si no, probemos este
truco o mensaje. Es decir, tratemos de modificar sus acciones de consumo.

Pero ahora ya no es solo un problema de trazar nuestra vida online para

ofrecernos anuncios personalizados, sino de acaparar toda nuestra vida. Hay que
añadir en esa cadena de producción el tono de nuestra voz con Alexa, el rato que
has hecho deporte (o el que no), si has entrado en Tinder o en Netflix, si tienes la
nevera llena, si has ido al médico, si tienes tres hijos, si vas a misa o yoga, si
compras ensalada pero comes palomitas, si tienes 20 amigos o 200.

Hay millones de datos aparentemente inconexos que pueden convertirse en

patrones, en predicciones. "Y bien, ¿dónde van todas esas predicciones? No es
para nosotros, para resolver nuestros problemas", dice. "La mayor infraestructura
computacional jamás imaginada para el conocimiento, con sus científicos,
servidores, procesadores, almacenamiento, sirve a quienes tienen un interés
financiero en saber cómo nos comportaremos con seguros, sanidad, educación,
inmobiliarias, comercio, en cada sector".
"Venden, en suma, certeza sobre nuestro futuro", dice. Eso tiene pinta de ser
bastante caro.

Los pequeños gestos no bastan: digo que no a unas cookies, apago el wifi del móvil,
limito la localización. Es coger el paraguas en un día de tornado.

Pero Zuboff cree que hemos entendido mal el problema de la privacidad porque
confiamos en nosotros para solucionarlo: "Todo lo que sabías sobre la privacidad
está mal. Hay que probar otro camino", dice.

Los pequeños gestos no bastan: digo que no a unas cookies en esta web, apago el
wifi de mi móvil cuando salgo de casa, limito la localización, busco en modo
incógnito. Todo eso es coger el paraguas en un día de tornado. "Son elecciones
personales y resultan un error fundamental de categoría", dice Zuboff. "Porque la
privacidad no es que tú seas privado. Es un problema de acción colectiva. Porque
cada vez que nos exponemos un poco contribuimos a los sistemas que predicen
certezas, que construyen una sociedad con sistemas de certezas por encima de
sistemas de libertad".

Una de las frases más célebres y repetidas por Zuboff es sobre los ciudadanos
que presumen de no tener nada que ocultar: "Si no tienes nada que esconder, es
que no eres nada", les responde. "Es la peor forma de adoctrinamiento", sigue.
Las grandes multinacionales han logrado hacer creer que es razonable creer que
unos están más protegidos que otros al usar un dispositivo. Pero nadie está
exento.

Para Zuboff eso afecta a la democracia. Si no eres soberano en tus decisiones,

pierdes algo fundamental. Hasta ahora, parece que la predicción afecta sobre todo
decisiones de consumo. Pero es absurdo pensar que no hay gurús políticos
pensando en cómo manejar voluntades en campañas electorales.

Con todos estos males, Zuboff tiene una gran respuesta, y no es usar un correo
encriptado en lugar de Gmail, aunque todo suma. Zuboff admite por ejemplo que
el Reglamento europeo de Protección de Datos es un paso en la buena dirección.
Pero hay que ir más allá. ¿Por qué? Porque es el único camino. "Es momento
para la movilización. El pueblo debe movilizar las instituciones democráticas.
Tenemos diez años para lograr una nueva ley. La única cosa que los capitalistas
de la vigilancia temen es la ley".
https://elpais.com/elpais/2019/10/11/ideas/1570795153_974032.html

Invadirán tu privacidad y te gustará

El capitalismo de la vigilancia avanza. La naturaleza humana se mercantiliza

mediante la acumulación de datos sobre nuestras vidas, advierte la psicóloga social
Shoshana Zuboff

JORDI PÉREZ COLOMÉ

13 OCT 2019 - 19:00 ART

Un humano llegará a una ciudad nueva. El móvil le dirá a qué bar debe ir. Cuando llegue,
en la barra estará su bebida preferida. Mirará alrededor y la gente tendrá una renta y gustos
similares. No es un escenario inimaginable. Las grandes compañías sabrán con más detalle
qué series, libros, comida y ocio hemos consumido: a qué ritmo leemos, cuántas veces
vamos a ese bar o quién es más dócil en casa. Con más datos, más capacidad de predicción.

El nuevo libro de la psicóloga social Shoshana Zuboff, The Age of Surveillance

Capitalism (La era del capitalismo de la vigilancia, que publicará Paidós en español
en 2020), es un gran manual para prever ese futuro. Su argumento central es que
no sabemos ver el futuro porque somos malos al imaginarlo. Recurrimos a una
distopía equivocada, 1984, de George Orwell, y a su Gran Hermano, que somete a
la humanidad con rabia, violencia y represión. Pero es un error pensar que el
futuro será así, cree Zuboff. Ella prefiere como modelo otra novela contemporánea
a 1984. Walden dos, del psicólogo B. F. Skinner, trata sobre ingeniería social,
menciona herramientas controladas por acopiadores de datos, pero en ella el
control se ejerce de forma mucho más suave y ligera. Y es que el futuro, según
Zuboff, será distópico, pero bastante discreto y amable. Trillones de datos
individuales y cotidianos de millones de personas serán detectados y agregados.
El resultado serán patrones parecidos al efecto de mirar por la ventanilla en un
avión que despega. Las caras y las marcas de coches se pierden y los humanos
se convierten en hormigas que siguen rutas fijas. Con la repetición de esos
movimientos más el uso de toda nuestra información en Internet, será posible
afinar las predicciones. Nuestro razonamiento irá perdiendo valor. Las
infraestructuras que no serán rentables, la gente que será pobre o la forma en la
que vamos a organizar nuestra jubilación serán más previsibles.

Hoy muchos defendemos que no es tan malo que las empresas sepan qué
compramos, qué vemos en la tele o dónde vamos en coche. Total, pensamos, no
hacemos nada malo. Ese enfoque es un error, según Jen King, directora de
Privacidad del Consumidor en el Center for Internet and Society de la Universidad
de Stanford. “Hay al menos dos motivos para preocuparse”, opina. “Uno, no se
trata de hacer algo bueno o malo, sino de qué te hace vulnerable. Dos, en muchos
casos no sabrás si alguien ha aprovechado esa vulnerabilidad: a veces porque
estás identificada como mujer y no verás anuncios que discriminen a mujeres. A
veces te ofrecerán algo más caro que a otra persona”, explica. El segundo punto
es clave: la falta de privacidad es usar información para aprovecharse de ti, no
para revelar algo que quieres esconder.

Un modo de entender mejor este debate es cambiarlo de perspectiva. “La

privacidad es el modo equivocado de hablar de la recolección generalizada de
datos. El daño no es individual sino colectivo. Es más parecido a la contaminación,
todos sufrimos, y la lucha debe ser como el ambientalismo”, explica la periodista
experta en privacidad Julia Angwin, en un podcast de la revista The Atlantic.
Un banco negará créditos, una empresa preferirá contratar a otro o no veremos
anuncios de universidades, no porque Google nos lea el correo o hayamos dado
2.000 likes a cosas variadas, sino porque los datos de millones de personas como
nosotros indican que somos más proclives a ser de un modo. “La vigilancia
comercial puede resultar en discriminación de precios, manipulación, mal uso de
información sensible”, subraya Calli A. Schoeder, abogada de privacidad de
VeraSafe. Tu vida tenderá en una dirección y ni te enterarás. Como la
contaminación: respirarás peor, pero no se verá, mirarás el cielo y será azul como
siempre. La metáfora del cambio climático sirve también para distinguir a los
responsables del sistema que describe Zuboff. “Hay mucha presión para que el
cambio dependa de los consumidores, que compren bombillas de bajo consumo o
compensación de carbono para sus billetes de avión”, dice Joris van Hoboken,
profesor de la Vrije Universiteit de Bruselas. “Ocurre algo similar en privacidad.
Tienes que estar siempre pendiente de si tus datos pueden ser recogidos, o de
las cookies. Pero el problema es más estructural que individual”, añade.

La distopía resulta más temible porque todo parecerá indoloro y, casi, deseado

Zuboff advierte de lo fácil que será en ese mundo promover cambios de

comportamiento de millones de humanos con pequeños impulsos o incentivos. No
hará falta un Gran Hermano que reprima y ordene, la violencia no será necesaria.
La autonomía individual será una de las principales víctimas. Estará limitada
incluso la capacidad de portarse mal: a quien no pague la letra del coche no se le
permitirá encenderlo, quien deba hacer régimen no podrá abrir la nevera a ciertas
horas. La distopía es más temible porque todo parecerá indoloro y, casi, deseado.
Será difícil denunciar al ente que oprime porque será el “sistema”, según Zuboff,
que ha escrito el libro hablando con docenas de ingenieros anónimos en Silicon
Valley, pero cuya obra es un trabajo denso. Su visión parece requerir de un
complejo andamiaje teórico.

El origen de este proceso socioeconómico emerge, según Zuboff, de un día de

abril de 2002 en la sede de Google. La compañía había logrado un buscador
magnífico, pero tras el fracaso de las puntocom en 2001, había preocupación por el
futuro financiero. Ese día, una frase curiosa se convirtió en una de las búsquedas
más populares: “Nombre de soltera de Carol Brady [un personaje de una comedia
de los años setenta]”. Tanto interés repentino se debía a una pregunta del
programa ¿Quién quiere ser millonario?, y los picos de búsqueda se correspondían
con los husos horarios de EE UU: dos grandes (las dos costas) y el último,
diminuto, Hawái. “Fue como probar un microscopio electrónico por primera vez.
Era un barómetro momento a momento”, comentó el cofundador de Google,
Sergey Brin. Zuboff considera aquella comprensión del poder predictivo de los
datos como el pequeño boom inicial de la era de la vigilancia. El resto es historia:
en 2016, el 89% de los beneficios de Alphabet (la casa madre de Google)
procedían de anuncios personalizados. En 2017 Google era la segunda mayor
empresa del mundo, detrás de Apple.
Las búsquedas por hora, el modo en que se escribe y los errores ortográficos
dicen cosas de nuestras vidas y, cuando se agregan, trazan comportamientos que
se pueden vender a anunciantes. Eso permite segmentar anuncios por perfiles de
usuarios. Google solo necesitó seguir mejorando ese “excedente de
comportamiento”. Facebook perfeccionó el excedente social. Alexa y Amazon
apuntaron a la voz y el interior de casa. La lista ya no parará.
El tópico dice que cuando un servicio es gratis es porque “tú eres el producto”.
Zuboff sostiene que es mucho peor: somos el objeto del que se saca la materia
prima, la mina de la que se extrae el oro. Pero el oro ya no somos nosotros, sino el
producto agregado que se vende a los anunciantes: “Tú eres el cadáver
abandonado. El producto deriva del excedente que es arrancado de tu vida”,
escribe. El capitalismo industrial convirtió la naturaleza en mercancía. Es el turno
de la naturaleza humana. Eso no significa que la humanidad desaparezca, sino
que, como la naturaleza, sea domesticada.
https://www.lavanguardia.com/cultura/20201010/483967110295/shoshana-zuboff-
google-facebook-trump-capitalismo-de-la-vigilancia.html

Shoshana Zuboff: “Pensábamos que usábamos a Google, pero es Google el que nos usa

a nosotros”
ENTREVISTA
JUSTO BARRANCO
BARCELONA
10/10/2020 07:00Actualizado a 10/10/2020 12:04
3

Es un libro monumental en tamaño y ambición y explica con pelos y señales, incluidas la

Casa de los Sueños de Barbie o el videojuego Pokemon Go, cómo el capitalismo ha
cambiado de época, cómo hemos entrado en lo que Shoshana Zuboff denomina La era del
capitalismo de la vigilancia (Paidós). Si en el capitalismo industrial se explotaba al máximo
la naturaleza y hoy vivimos una emergencia climática, el nuevo capitalismo de la vigilancia,
creado por Google pero seguido por empresas digitales y no digitales, explota con afán la
propia naturaleza humana para convertirla en predicciones sobre nuestra conducta que
comercializar, señala Zuboff, catedrática emérita de la Harvard Business School y que a
finales de los ochenta ya publicó La era de la máquina inteligente. Un proceso que nació en
el caldo de cultivo del neoliberalismo, pero también de la crisis de las puntocom y del 11-S, y
por el que Google comenzó a aprovechar los datos de las búsquedas no para mejorar su
producto sino para vender ingente publicidad personalizada. Hoy, con la escala alcanzada y
con la tecnología del 5G y el internet de las cosas ya aquí, cree que amenaza el futuro de la
autonomía humana y la democracia. No sólo buscan nuestros datos, dice: escanean nuestras
emociones y modifican nuestra conducta para su beneficio.

“Hubo un tiempo en el que buscábamos en Google. Ahora Google busca en nosotros”,

denuncia en el libro.

Pensábamos que usábamos a Google y las redes sociales, y Google y esas redes nos usan a
nosotros. Pensamos que sus servicios son gratis, pero esas compañías piensan que nosotros
somos gratis. Pensamos que son compañías innovadoras que ocasionalmente cometen errores
que violan la privacidad, cuando la realidad es que esos errores son las innovaciones.
Pensamos que la web nos da acceso a todo tipo de conocimiento registrado, cuando de hecho
esas empresas están extrayendo nuestra experiencia, convirtiendo nuestras vidas en datos y
reclamando esas vidas como su conocimiento registrado. La mayor paradoja es que su
retórica nos ha tratado de persuadir de que la privacidad es algo privado. Que decidimos
cuánta información personal damos a Google o Amazon y podemos controlar ese
intercambio. Pero el hecho real es que no es privada, es pública. Cada vez que doy a estas
compañías algo de información personal, su interfaz les permite obtener tantos datos más de
mi experiencia de los que no soy consciente... Hasta captar las microexpresiones de mi cara
que predicen mis emociones y mi comportamiento, y así nutrir grandes sistemas de
inteligencia artificial que son sistemas de conocimiento y poder desigual. Una sociedad que
cuida su privacidad es muy distinta a una indiferente a ella o incluso que es agresiva en su
deseo de eliminarla. La privacidad es pública, si la entregamos destruimos la sociedad y
disminuye la democracia.

Dice que el capitalismo industrial explotaba la naturaleza, y que ahora el capitalismo de

la vigilancia explota la naturaleza humana. ¿Adónde nos lleva?

El capitalismo busca hace siglos cosas que no son aún parte de la dinámica del mercado para
convertirlas en mercancías. Hoy tenemos un nuevo mundo, el digital. Pequeñas compañías
intentaron averiguar cómo hacer dinero en él. Hubo una burbuja por las puntocom y explotó.
Las compañías estaban desesperadas y los inversores se retiraban. En esa emergencia las
compañías no tenían tiempo y en Google descubrieron un bosque virgen como nuevo espacio
de extracción y mercantilización: nosotros, sobre todo nuestras experiencias privadas. Han
plantado sus banderas en nuestras vidas. Y han dicho que es su material bruto y gratis, sus
activos privados que vender como mercancía. Así nace el capitalismo de vigilancia y explica
las capitalizaciones de Google, Facebook, cada vez más de Amazon, Microsoft, Apple y
miles de compañías no solo en el sector tecnológico. El CEO de Ford dice que quiere atraer
financiación como la de Google y Facebook pero nadie está interesado. Así que cambiarán
Ford y será un sistema operativo de transporte que extraerá datos de la gente que conduce sus
coches y los agregará con lo que tienen de ellos en Ford Credit para crear grandes bases de
datos y atraer inversores. Es el dividendo de la vigilancia.
Afirma que no solo obtienen información sino que empujan nuestro comportamiento.

Documentos filtrados de Facebook muestran que en sus fábricas la inteligencia artificial toma
trillones de datos al día y hace seis millones de predicciones de comportamiento humano
cada segundo. Y como la competición en este mercado se intensifica descubren que los datos
más predictivos vienen de cómo intervenir en nuestro comportamiento para garantizar
resultados comerciales. Facebook en 2013 hizo experimentos que mostraban cómo manipular
con señales subliminales, dinámicas de comparación social, microtargeting psicológico y
premios y castigos. Con una recopilación de datos muy inteligentes vieron que podían afectar
el comportamiento en el mundo real. Fue en 2018 cuando con Cambridge Analytica vimos
que los métodos de Facebook se usaban a gran escala, pasando de objetivos comerciales a
políticos. La campaña de Trump usó los datos de Facebook para apuntar psicológicamente a
muchos votantes negros y persuadirles de no votar en el 2016, una de las claves por las que
Hillary perdió.
 “Gracias al 11-S el capitalismo de la vigilancia ha tenido 20

años para desarrollarse sin ninguna ley que lo impida”

La tecnología iba a aumentar la autonomía individual, el conocimiento,

la democracia, y ahora dice que todo eso está en peligro.

El capitalismo de la vigilancia es profundamente antidemocrático. La

modificación de la conducta como escuela de comportamiento siempre
estuvo contra la idea de libertad. B.F. Skinner, gran teórico de la
modificación conductual, escribió Más allá de la libertad y la dignidad: le
parecían entidades ficcionales, valores imaginarios problemáticos que van
contra la eficacia social. Como él, los hombres que mandan los grandes
imperios del capitalismo de la vigilancia también creen que tienen una mejor
manera de gobernar el mundo, la verdad algorítmica y la gobernanza
computacional, superiores a la democracia. El siglo digital debía
democratizar el conocimiento, pero vemos enormes concentraciones de
conocimiento en pocas compañías que acaparan la capacidad de entender esa
información. Tenemos una pequeña élite, una casta sacerdotal que controla
concentraciones de conocimiento inauditas. Conocimiento sobre nosotros. Y
les da poder para influirnos. Es una manifestación fundamentalmente
antidemocrática del capitalismo y ha sucedido porque en los últimos 20 años
el capitalismo de la vigilancia no ha sido impedido por la ley, aún debemos
crear los derechos, los marcos legislativos, los paradigmas regulatorios que
hagan el mundo digital compatible con la democracia. El capitalismo de la
vigilancia fue inventado en el 2001 en Google. ¿Qué más sucedió en 2001?

El 11-S

Con el 11-S se dejó de discutir en el Congreso sobre protección de derechos

de privacidad. A esas compañías ya conocidas por su asalto a la privacidad
se las dejó que se desarrollaran de manera que invadieran nuestra privacidad
porque las agencias de inteligencia en EE.UU. y Europa, que no pueden
recolectar esos datos, los obtendrían de ellas. Así, el capitalismo de la
vigilancia ha tenido 20 años para desarrollarse sin ninguna ley que lo impida
y se ha hecho tan peligroso para la gente, la sociedad y la democracia.
https://nuso.org/articulo/capitalismo-de-vigilancia/

TEMA CENTRAL
NUSO Nº 290 / NOVIEMBRE - DICIEMBRE 2020
Capitalismo de vigilancia
ROB Lucas

La era del capitalismo de la vigilancia, de Shoshana Zuboff, se transformó rápidamente,

pese a su extensión, en un libro de referencia, y su título sintetizó un momento del
capitalismo. ¿De qué forma se mercantilizan los datos personales y qué efectos tiene eso
sobre las personas? ¿Qué tan pertinentes son los conceptos de expropiación y desposesión
digital? ¿Estamos frente a una nueva lógica de acumulación capitalista?

Casi todos los años, desde 2013, un rasgo definitorio pronosticado o declarado, en
retrospectiva al menos, por alguna gran publicación –The Economist, The
Guardian, Oxford English Dictionary, Financial Times– ha sido el techlash, la
reacción contra el exceso digital. Si tuviésemos que buscarle un origen a este
discurso, probablemente estaría en las revelaciones efectuadas por Edward
Snowden en 2013, pero los gigantes tecnológicos se convirtieron realmente en
tema de preocupación para la clase dominante con los levantamientos políticos de
2016. Que las empresas y los Estados tengan a su disposición asombrosas
cantidades de datos sobre nosotros no es, al parecer, tan problemático si esos
datos están bajo el control seguro de personas con las que nos identificamos
tácitamente. Las campañas de Barack Obama fueron las primeras en aprovechar
con gran ventaja la microfocalización que hace un uso intensivo de los datos, pero
cuando los expertos en datos –en ocasiones, la misma gente– prestaron sus
destrezas a Donald Trump y a la campaña por la salida del Reino Unido de la Unión
Europea, Facebook apareció como un sirviente del hombre de la bolsa populista.
Se aprobaron leyes, como la Regulación General de Protección de Datos de 2016
en la Unión Europea y la Ley de Privacidad del Consumidor de 2018 aprobada por
el estado de California. Organizaciones de todo el mundo tuvieron que retocar los
procedimientos de suscripción a sus boletines informativos, pero los señores de
los datos siguieron adelante.

En este contexto discursivo destaca una figura, por la importancia de su

contribución y la aclamación que ha recibido. Comenzando en 2013, con diversos
artículos en el Frankfurter Allgemeine Zeitung, y culminando en el libro de 2019
titulado The Age of Surveillance Capitalism: The Fight for a Human Future at the
New Frontier of Power1, Shoshana Zuboff describía un nuevo tipo de capitalismo
inclinado a convertirnos en ratas de laboratorio de la psicología
conductista.Asombrosamente para un libro que sonaba un tanto marxiano –al
incluir entre sus temas no solo el capitalismo sino también la expropiación, el
excedente económico y las enormes asimetrías de poder–, La era del capitalismo
de la vigilancia obtuvo la aprobación de Obama, que había presidido una enorme
expansión de la vigilancia masiva, bajo el programa PRISM de la Agencia de
Seguridad Nacional estadounidense. Zuboff se unió como cuarta galardonada con
el Premio Axel Springer al archicapitalista de la vigilancia, Mark Zuckerberg, al
inventor de la red, Tim Berners-Lee, y al aspirante a capitalista de la vigilancia Jeff
Bezos, receptores también del mismo galardón en las ediciones anteriores. ¿Cómo
explicar que una crítica haya sido canonizada tan de inmediato? Las continuidades
en la obra de Zuboff hacen que resulte instructivo esbozar toda su trayectoria.

La historia de Zuboff, nacida en 1951, comienza en la fábrica de su abuelo materno,

empresario e inventor que tal vez le inspirase el gusto por los negocios y la
tecnología. En Harvard estudió con uno de los principales conductistas, B.F.
Skinner, y comenzó una tesis en psicología social titulada «The Ego at Work» 2. Pero
desde sus años de estudiante tuvo un pie en el mundo de la gestión empresarial,
trabajando durante un tiempo en Venezuela como «asesora de cambio
organizacional» para la empresa de telecomunicaciones estatal, periodo durante el
cual estudió a trabajadores que se trasladaban desde la selva. Poco después de
completar su doctorado, empezó a examinar las repercusiones psicológicas y
organizacionales del trabajo efectuado con computadoras, lo que culminó en un
libro hoy ampliamente considerado como un clásico: In the Age of the Smart
Machine: The Future of Work and Power [En la era de la máquina inteligente. El
futuro del trabajo y el poder] (1988).

Centrado en estudios etnográficos sobre un puñado de empresas

estadounidenses que estaban introduciendo nuevas tecnologías informáticas, In
the Age of the Smart Machine ofrecía una explicación humanista de las
dificultades de trabajadores y directivos para adaptarse. Como tal, quizá pueda
interpretarse como una aportación no marxista a los debates sobre el proceso de
trabajo que tenían lugar en aquella época y que comenzaron con el libro publicado
en 1974 por Harry Braverman, Trabajo y capital monopolista: la degradación del
trabajo en el siglo XX. Pero Zuboff no hacía hincapié simplemente en las
repercusiones de la automatización para los trabajadores, porque la
informatización del proceso de trabajo no solo reproducía algo hecho por el cuerpo
humano: producía un nuevo flujo de información que formaba un «texto
electrónico» que se volvería fundamental para el nuevo proceso de trabajo.

Para Zuboff, el verbo «automatizar» (automate) necesitaba, en consecuencia,

complementarse con el de «informar», para lo que ella acuñó un nuevo verbo en
inglés, informate. La parte más amplia del libro estaba dedicada a la «información»
en este sentido e investigaba cómo afrontaban los trabajadores la textualización
del lugar de trabajo, de qué forma la importancia dada al conocimiento conducía a
una nueva «división del aprendizaje» y cómo los directivos intentaban reforzar su
autoridad. Los análisis de Zuboff de las culturas digitales que se desarrollaron en
torno de los tablones de anuncios en la década de 1980 eran misteriosos presagios
de lo que se produciría en la era de las redes sociales de masas. Y en el último
tercio del libro estudiaba las repercusiones más oscuras del texto electrónico a
medida que fuera utilizado para apoyar la vigilancia sobre los trabajadores en una
materialización del «poder panóptico». Si la información iba a ser una herramienta
de «la certidumbre y el control» gerenciales, se preguntaba Zuboff, ¿quedarían las
personas reducidas a «servir a una máquina inteligente»? Invocando a Hannah
Arendt, imaginaba el ideal conductista de sociedad controlada por la vigilancia y
los empujoncitos haciéndose realidad en la informatización del ámbito laboral.
Pero el análisis de Zuboff había indicado una alternativa, basada en un uso más
horizontal del texto electrónico.

In the Age of the Smart Machine le sirvió a Zuboff para obtener un puesto
permanente en Harvard, pero seguía teniendo un pie fuera del mundo académico,
y en 1987 fue contratada como asesora de la empresa Thorn EMI por el consejero
delegado Jim Maxmin, quien se convertiría en su coautor y esposo. En la década
de 1990 dirigió una escuela de verano para ejecutivos de mediana edad, en la que
los animaban a reflexionar sobre cosas como qué «patrimonio neto» era
suficiente. Desde su casa situada a orillas de un lago en Nueva Inglaterra, Zuboff y
Maxmin gestionaban un fondo de inversión en comercio digital al tiempo que
trabajaban en el libro que se publicaría en 2002, The Support Economy: Why
Corporations Are Failing Individuals and the Next Episode of Capitalism [La
economía como red de apoyo. Por qué las empresas les fallan a los individuos y el
próximo episodio del capitalismo], que ahondaba en la historia empresarial para
elaborar una periodización de la «lógica empresarial». Pero el hilo central era un
relato sobre el largo proceso de surgimiento del individuo autónomo que habría
sonrojado a Hegel. Los deseos de este individuo eran siempre anteriores a
cualquier cosa que estuvieran haciendo las empresas, a la espera de ser liberados
por emprendedores astutos y capaces de alinearse con el consumidor final y
fundar una nueva lógica empresarial.

Josiah Wedgwood fue el primero de estos grandes hombres, Henry Ford, el

segundo, aunque como principales consumidoras, las mujeres eran las
protagonistas no reconocidas de la historia capitalista. Basándose en la noción de
capitalismo gerencial propuesta por Alfred D. Chandler y en el concepto de
segunda modernidad de Ulrich Beck, Zuboff y Maxmin describieron cómo, en el
mundo alumbrado por Ford, la creciente individualidad psicológica acabó
estrellándose contra las rocas de las organizaciones burocratizadas y de las
culturas corporativas masculinistas: esta era la contradicción central y motivadora
de su teoría. A las empresas solo les preocupaba el «valor de transacción» y
contemplaban al consumidor final como un simple medio. Las relaciones
combativas con los consumidores eran síntomas de una «crisis de transacción».
Había llegado por lo tanto el momento de que un nuevo profeta pusiera de
manifiesto aquellos deseos latentes. Tan solo con que propinasen un giro
copernicano hacia el consumidor final, las empresas encontrarían un mundo de
«valor de relación» acumulado. Necesitarían basarse en las nuevas tecnologías y
ahorrar costos mediante la fusión de infraestructuras digitales, orientándose a la
provisión de «soporte» configurado para el individuo. La «revolución» económica
proyectada parecía implicar la generalización de algo parecido a un asistente
personal de los ejecutivos.

Zuboff expuso estas ideas en artículos para la prensa de negocios, pero su

fragilidad conceptual se volvía más visible cuando el mundo de los sueños se
topaba con la realidad. Steve Jobs era presentado como un «líder histórico» capaz
de corregir los errores del capitalismo estadounidense en nombre del «soporte»;
Obama también fue reclutado con naturalidad. En 2008, Zuboff peregrinó hacia
Silicon Valley «con la esperanza de encontrar líderes que comprendiesen la crisis»,
pero le asqueó ver la obsesión de ganar dinero con la publicidad. Desilusionada por
la dirección tomada por la tecnología estadounidense, comenzó el proyecto que se
convertiría en su siguiente libro. Si The Support Economy era una utopía del
asesor gerencial, La era del capitalismo de la vigilancia es la distopía que emerge
cuando la profecía falla. En este mundo, lo que está equivocado
fundamentalmente es un mal modelo empresarial, que se está desbocando. Se
trata de un volumen extenso e indisciplinado de casi 700 páginas, cuyo enfoque
se desliza de lo sistemático a lo ensayístico. Estructurado en torno de tres partes,
pasa de los «cimientos» al «avance» del capitalismo de vigilancia, antes de
ampliar el objeto de análisis para considerar la tecnología como base del poder.
Los examinaremos uno a uno.

Zuboff comienza volviendo a una cuestión central de su primer libro: si vamos a

ser reducidos a trabajar para las máquinas, o viceversa. Solo que ahora el
problema atañe a la «civilización de la información». Las máquinas como tales no
están en juego, sin embargo, porque el capitalismo de vigilancia es una «forma de
mercado» con sus propios «imperativos económicos», y Zuboff considera que la
tecnología está modelada fundamentalmente por los fines económicos a los que
sirve. La primera parte nos devuelve también al marco de The Support Economy: el
capitalismo gerencial, la segunda modernidad, el largo proceso de surgimiento del
individuo y la primacía de las necesidades de los consumidores en la historia
económica. Pero la contradicción entre el individuo y el capitalismo gerencial
encuentra ahora expresión en la aceptación masiva de internet y en los disturbios
de 2011 en Reino Unido. Apple sigue siendo la salvadora prevista, el iPod defiende
las necesidades de los consumidores, pero hay dos Apples –la humana y la divina–
porque la empresa nunca se entendió propiamente a sí misma como la compañía
de «soporte» orientada a la asesoría que Zuboff defiende. Si Apple debería haber
sido la Ford de la tercera modernidad, será Google el que verdaderamente invente
un nuevo tipo de empresa. El mundo no logró así efectuar la transición
pronosticada y el capitalismo de vigilancia llenó el vacío, convirtiéndose en la
«forma de capitalismo dominante».

El objetivo de Zuboff es revelar las «leyes del movimiento» de esa forma, trazando
un paralelo con la explicación dada por Ellen Wood sobre los orígenes del
capitalismo propiamente dicho. Google experimentó en sus comienzos un círculo
virtuoso o «ciclo de reinversión de valor conductual»: las personas necesitaban
búsquedas y las búsquedas podían mejorarse recogiendo los «datos
conductuales» producidos por los usuarios. Hasta entonces Google había
conseguido ser el tipo de empresa de Zuboff, pero a diferencia de Apple, no tenía
un modelo de negocio sostenible. Tras el hundimiento de las puntocom, los
inversores en capital de riesgo estaban hambrientos y forzaron un cambio en el
aprovechamiento del excedente para utilizarlo en la publicidad dirigida. En este
cambio, los datos conductuales se convirtieron en un «activo de vigilancia» y en
materia prima para la producción de «derivados conductuales», «productos de
predicción» y «futuros conductuales», las cosas que Google vendía de hecho a los
anunciantes para obtener «ingresos derivados de la vigilancia». Esto, para Zuboff,
fue un proceso de «acumulación primitiva» o «desposesión digital», y para ello
llama en su auxilio a Karl Marx, Hannah Arendt, Karl Polanyi y David Harvey. Como
otros antes que ella, Zuboff añade un artículo a la lista de mercancías ficticias de
Polanyi: tierra, trabajo, dinero y datos conductuales. Dado que el mundo digital era
inicialmente un territorio de frontera carente de leyes, Google pudo entrar como
magnate ladrón y reclamar los abundantes «recursos naturales humanos». Si se
establecieron monopolios, no fue en el sentido tradicional de distorsionar los
mercados eliminando la competencia, sino como medio para «acorralar» los
suministros de datos, dirigiendo a los usuarios a los rediles de la vigilancia.
Mientras que In the Age of the Smart Machine se había analizado la «división del
aprendizaje» en el ámbito laboral, esa división caracteriza ahora a la sociedad en
general, a medida que los capitalistas de la vigilancia forman una nueva «casta
sacerdotal» con una asombrosa concentración de poder.

El clima político instalado tras el 11-S condujo a un «excepcionalismo de

vigilancia» que facilitó la metamorfosis de Google, que fue descubriendo sus
afinidades electivas con la CIA; por su parte, los aparatos de seguridad
estadounidenses estaban felices de eludir los controles constitucionales
entregando la tarea de recopilar datos a un sector privado muy poco
reglamentado.

Entre el capital de vigilancia y el gobierno de Obama se establecería una puerta

giratoria, mientras que Google canalizaría recursos inmensos a las actividades de
cabildeo. En poco tiempo, Facebook se había unido al juego, usando la tecla del
«Me gusta» para seguir a los usuarios por internet y vender derivados de los datos
resultantes. Adonde iban, otros los seguían: bajo la dirección de Satya Nadella,
Microsoft entró en la extracción de datos de los usuarios, comprando la red social
LinkedIn, lanzando su asistente personal Cortana e introduciendo la vigilancia en
el sistema operativo de Windows. Apoyado por el Congreso, Verizon también entró,
dando comienzo al espionaje por parte del proveedor de servicios de internet y
usando los datos resultantes para dirigir la publicidad.

Si la primera parte del libro cubre el grueso de la teoría de Zuboff, la segunda se

centra en el avance del capitalismo de vigilancia en lo «real», a medida que su
modelo de negocio, centrado en la predicción, pasa de seguir la conducta a
modelarla e intervenir en ella. Hace tiempo que los tecnólogos predijeron que
llegaría un momento en el que las computadoras saturarían la vida cotidiana a
punto tal que acabaría desvaneciéndose. A medida que los capitalistas de la
vigilancia persiguen la predicción perfecta, se ven obligados a avanzar en esta
dirección, buscando «economías de gama» –mayor variedad de fuentes de datos–
y «economías de acción»: generar modelos para volver las variables más
predecibles. De ese modo desarrollan un nuevo «medio de modificación
conductual». Uno de sus heraldos fue R. Stuart Mackay, quien en la década de
1960 desarrolló la telemetría para efectuar un seguimiento de los animales
salvajes, antes de pasarse a la idea de configurar remotamente su conducta.
Ahora los individuos se han convertido en objetos de seguimiento constante y las
aseguradoras pueden adquirir la capacidad de apagar a distancia el motor de un
automóvil cuando se produce un retraso en el pago. La infraestructura digital
cambia así de «una cosa que tenemos a una cosa que nos tiene» (Zuboff siente
aprecio por el quiasmo). Las pulseras y las aplicaciones para medir la actividad,
Google Home y Alexa, los televisores inteligentes, la tecnología biométrica de
Facebook, las «ciudades inteligentes», los sensores portátiles en el sector
sanitario, los «tejidos interactivos», los juguetes infantiles o simplemente el
teléfono inteligente: estamos sometidos a un espionaje constante y a la «entrega»
de nuestra conducta en forma de datos, y no hay muchas posibilidades de
evitarlo. Sobre esta base, pueden efectuarse análisis detallados del «patrón de
vida» de los individuos, mientras que Baidu usa sistemas de seguimiento y
localización para predecir los movimientos de la economía china. Los metadatos
sobre patrones de conducta se convierten en herramientas para efectuar perfiles
psicométricos, mientras se desarrollan mecanismos capaces de leer estados
emocionales.

Facebook cruzó la línea de la manipulación social con sus experimentos sobre

«contagio emocional», mientras que el juego de «realidad aumentada» Pokémon
Go condujo el «tráfico peatonal» a las ubicaciones de empresas contribuyentes,
planteando la pregunta de si los capitalistas de vigilancia podrían estar
aventurándose en el diseño de «arquitecturas de elección». Los experimentos de
modificación conductual realizados en la Guerra Fría, con reclusos y pacientes
como objetivos, condujeron en una ocasión a una reacción legislativa que impidió
un desarrollo mayor, pero ahora las empresas privadas avanzan, sin las trabas de
un proceso democrático, en la búsqueda de «resultados garantizados». La propia
conciencia del consumidor se convierte en una amenaza para los ingresos; la
libertad y el «derecho al tiempo futuro» se ponen en peligro. El capitalismo de
vigilancia encarna un nuevo tipo de capitalismo no menos trascendental que el
industrial, y «la lucha por el poder y el control en la sociedad ya no va asociada a
los datos ocultos de la clase y su relación con la producción, sino, por el contrario,
a [sic] los datos ocultos de la modificación de la conducta diseñada y
automatizada».

La tercera parte de In the Age of the Smart Machine estaba dedicada a la

«técnica» en cuanto «dimensión material del poder». Aquí pasamos ahora, de
manera similar, al tipo de poder augurado por el capitalismo de vigilancia. El
término utilizado por Zuboff es «instrumentarismo»: «la instrumentación y la
instrumentalización de la conducta para los fines de modificación, predicción,
monetización y control». Mientras que el totalitarismo movilizaba la violencia para
apoderarse del alma, el instrumentarismo observa silenciosamente y modela la
conducta. Skinner fue su profeta, su libro Walden dos, la utopía. Para los
conductistas, la libertad es una laguna en la explicación que debe superarse
mediante la extensión de la ciencia conductista a la sociedad, y ahora la visión que
ellos plantearon está siendo realizada por capitalistas de la vigilancia que buscan
«sustituir la sociedad por la certidumbre», mientras persiguen su propia
«utopística aplicada». La «física social» del profesor del Instituto Tecnológico de
Massachusetts Alex Pentland entra al ataque como un intento de sustituir la
política por un plan tecnocrático en nombre del «bien mayor». ¿«El bien mayor de
quién?», pregunta con razón Zuboff.

Existen en la actualidad «calificaciones crediticias» de radicalismo y

«calificaciones de amenaza» derivadas de las redes sociales, mientras que la
empresa de creación reciente Geofeedia rastrea las localizaciones de los
manifestantes. El sistema de crédito social chino –que vigila a los ciudadanos y
aplica castigos y recompensas en consecuencia– no puede pasarse por alto,
aunque Zuboff parece no tener muy claro qué hacer con él. «Conclusión lógica»,
por una parte, de la búsqueda de «certidumbre» que percibimos bajo el
capitalismo de vigilancia –e instrumental más que totalitario–, el sistema de
crédito social difiere en tanto que va dirigido a los resultados sociales, no de
mercado. También es, asegura Zuboff, de dudosa importancia para su relato al
estar formado por una cultura no democrática a la que no le interesa la privacidad;
pero al mismo tiempo «transmite la lógica del capitalismo de vigilancia y el poder
instrumental que este produce».

El individuo está ahora sitiado, enganchado a modos patológicos de socialidad

mediante técnicas derivadas de la industria del juego, incapaz de forjar un
sentimiento de identidad adecuado. «Efectos escalofriantes» llegan a la vida
cotidiana a medida que las personas modelan su comportamiento para presentarlo
en internet. Hay tintes de Sherry Turkle y Nick Carr en los lamentos de Zuboff por
el hogar entendido como espacio meditativo para el cultivo del yo. Hacen falta
«propuestas sintéticas», lo que parece aludir a medidas legislativas como el
«derecho a ser olvidado» y el Reglamento General de Protección de Datos (2016)
establecidos en la UE y respaldados por la acción colectiva.

Volvemos, en conclusión, a la relación entre los mercados, el conocimiento y la

democracia. En el razonamiento de Friedrich Hayek y los conductistas, la libertad
de los actores del mercado estaba asociada a la ignorancia. Con una información
cada vez más completa, los capitalistas de la vigilancia amenazan a este dúo. De
acuerdo con la visión optimista de Zuboff, el capitalismo se basó en otro tiempo en
«reciprocidades orgánicas» entre empresas y personas. El intercambio de
mercado equitativo formó el ímpetu de la revolución estadounidense y los
industriales británicos se vieron obligados a hacer concesiones democráticas
debido a que dependían de las «masas». Con el paso al modelo del valor para el
accionista, estas reciprocidades se erosionaron; ahora, los capitalistas de la
vigilancia han sobrecargado esta dinámica, produciendo organizaciones de
«hiperescala» con descomunales valoraciones bursátiles, diminutas bases de
empleados y una escasa dependencia de la sociedad. No ha habido «doble
movimiento» polanyiano que imponga límites sociales a la explotación de los datos
conductuales, y ahora nos enfrentamos a una «recesión democrática» mientras
se pierde la asociación vital de los mercados con la democracia. Zuboff acaba con
un popurrí de referencias que agradarían a cualquier atlantista liberal: Arendt
sobre el totalitarismo, el desprecio que George Orwell sentía por James Burnham y
la caída del Muro de Berlín.

Aunque a menudo recargado, La era del capitalismo de la vigilancia presenta una

imagen interesante del paisaje infernal provocado por la actual tecnología
capitalista. Zuboff acierta al afirmar la necesidad de nuevos nombres para lidiar
con las transformaciones con que nos castigan los gigantes tecnológicos. La
expresión «capitalismo de la vigilancia» identifica algo real y, aunque no fuera ella
la primera en acuñarla, para mérito suyo ahora parece probable que entre en el uso
general. Hay también algo asombroso en su viejo proyecto de vincular el poder
tecnológico con la psicología conductista. Zuboff ha dedicado buena parte de su
vida intelectual a forjar un Anti-Skinner que sitúe al individuo psicológico en el
escenario central, librando una guerra contra sus reducciones positivistas a
manos de científicos, directivos y capitalistas de la vigilancia. Probablemente sea
este el aspecto en el que resulta más convincente. Pero las afirmaciones
fundamentales de La era del capitalismo de la vigilancia son de carácter político-
económico y deberían evaluarse como tales. ¿Qué puede decirse, entonces, de sus
conceptos de expropiación y desposesión digital? Como desde hace tiempo
afirman los defensores de la propiedad intelectual, hay algo especialmente
extraño en la noción de que los datos sean cosas que puedan ser robadas, ya que
no son bienes escasos, como ha señalado Evgeny Morozov en una reseña
publicada en The Baffler. Mi posesión de un constructo de datos dado no impide
que todos los demás lo tengan. Los datos conductuales pueden verse también
como representaciones, y hace falta recurrir al pensamiento mágico para
equiparar la representación con la posesión. Si alguien me espía y anota lo que
hago, mi conducta no deja de ser mía. Ha dejado, por supuesto, su impronta en
algo que yo no poseo, pero de todas formas eso no lo tenía desde el principio.

La idea de que tales datos pudieran ser «gastados» también tiene poco sentido y
dado que ello no es así tampoco existe un espacio identificable superior a él. Se
hace así imposible trazar la línea entre el primer «ciclo de reinversión inocuo» de
datos conductuales por parte de Google y el aprovechamiento de un «excedente
conductual». Los conceptos cuantitativos de la economía política son aquí
equívocos, puesto que realmente no hablamos de magnitudes continuas, sino de
diferentes usos de los datos: para mejorar un motor de búsqueda, y para mejorar la
publicidad dirigida y de ese modo ganar dinero. Podríamos estar tentados de
denominar a esto último «excedente» en relación con lo primero, pero ¿y si los
mismos datos se utilizan para ambos? O, si lo que lo convierte en excedente es el
uso comercial, y no una cantidad nominal de conducta, ¿qué deberíamos hacer
ante el hecho de que Zuboff vea el sistema de crédito social chino –destinado al
control social y no a la mercadotecnia– como una sanguijuela de excedente
conductual? Y de nuevo ¿excedente de qué? ¿Es inocua alguna parte del sistema
de crédito social, como el Google de los primeros tiempos?

Esta noción sustancialista de la conducta recuerda la cosmovisión del socialismo

ricardiano en la que se considera el trabajo como algo aglomerado en los
artefactos de la economía capitalista. Esto ayudó a avalar un cierto punto de vista
moral: es nuestro trabajo, debería ser nuestro. Y hay una cierta cualidad intuitiva
en la idea de que una cosa dada encarna directamente una cantidad determinada
de trabajo, siempre que pensemos en empresas individuales (como el historiador
empresarial tiende a hacer) o mercancías concretas, y no en la economía en su
totalidad. Esas ideas han perdurado durante mucho tiempo y seguimos
encontrando vestigios de ellas en la enredada noción de que, si subir algo a
Facebook le permite a Zuckerberg ganar dinero, ello debe ser trabajo productivo,
una consecuencia semihumorística de lo cual es la demanda «Salarios para
Facebook» (Wages for Facebook). Zuboff distingue su posición concentrándose en
la conducta y no en el trabajo, pero el sustancialismo y el punto de vista moral son
prácticamente los mismos, aunque tengan aún menos sentido en el caso de los
datos.

Zuboff afirma que el capitalismo de vigilancia es la forma dominante de

capitalismo, con Google y Facebook convertidas en vanguardia de una dinámica
que se está verificando en toda la economía. Sin duda estas empresas son muy
poderosas y tienen extraordinarias capitalizaciones bursátiles, pero casi la
totalidad de sus ingresos deriva de la publicidad. Aun cuando entramos en una
informatización ubicua, ciudades inteligentes y demás procesos análogos, los
ingresos publicitarios siguen siendo la principal razón por la que las empresas
privadas acumulan datos sobre los usuarios. ¿Quién compra esos anuncios? En
gran medida otras empresas, lo que significa que la publicidad en general es
un costo para estas y, por lo tanto, una deducción de sus beneficios totales: en
términos de la economía política clásica, es uno de los faux frais de la producción.
La rentabilidad de los anunciantes está limitada por la de empresas de otros
sectores, puesto que dependen de ellas para la obtención de ingresos. Sin
importar lo radicalmente que los capitalistas de la vigilancia transformen la
publicidad, mientras esta represente su actividad principal, la capacidad que
tengan de guiar el capitalismo en su totalidad será limitada.

En opinión de Zuboff, los capitalistas de la vigilancia persiguen la «certidumbre

total» y el control real de la totalidad de la conducta de los usuarios con sus
productos de predicción. Aunque una ventaja en la predicción puede traducirse en
una ventaja a la hora de colocar anuncios publicitarios y, por lo tanto, proporcionar
más ingresos, esto tiene límites lógicos. Incluso si fuera posible en teoría la certeza
o el control, los anunciantes seguirían sin poder garantizar las ventas de otras
empresas a voluntad, porque si la renta disponible de los consumidores es finita,
cada transacción segura disminuiría el alcance de otras, haciendo que la
«certeza» se debilitara a sí misma. Tiene más sentido rastrear, dirigir y predecir el
comportamiento del usuario de un modo lo suficientemente preciso como para
que sea razonable que múltiples compañías paguen por participar en la captura de
los mismos consumidores. Aparte de ello, perseguir una predicción cada vez más
perfecta sería arrojar dinero en un agujero. Además, la conducta que tiene sentido
predecir se mantiene casi por completo en el ámbito de la actividad de mercado,
planteando la cuestión de si, sea cual fuere la retórica, puede realmente verificarse
hacia qué «totalidad» están conduciendo los capitalistas de la vigilancia. Quizá la
economía de la atención –de acuerdo con la cual la atención del usuario es un bien
escaso perseguido por las empresas– sea aquí un enfoque más útil.

Aunque es recomendable buscar explicaciones sociales para los avances

tecnológicos, quizá Zuboff se haya dejado extraviar por su inclinación a pensar en
términos de «formas de mercado» y a reducir la tecnología a fines económicos. Es
sintomático que vacile respecto al sistema de crédito social chino. Y aunque
reconoce la contribución del Estado a alimentar el capitalismo de vigilancia, tiene
asombrosamente poco que decir respecto de los detalles ciertos de su
función: PRISM, la Snooper’s Charter, Five Eyes... Ello se muestra esencialmente
como un ámbito neutral y pasivo, que en ocasiones sigue allí donde lo conduce la
empresa, que tiene algunas leyes malas y necesita más leyes buenas. Pero
cualquier historia de la tecnología estadounidense encontrará que el Estado no ha
sido ni mucho menos neutral ni pasivo. Por lo general, ha llevado la iniciativa en el
impulso de un importante cambio tecnológico, coordinando empresas o tirando de
ellas tras de sí, como vemos en la informática, la creación de redes, las armas, las
máquinas herramienta, etc. Si el cambio fundamental se produce mediante los
actos de grandes empresarios, esto es algo que debe permanecer en la sombra.

Desde su comienzo, el Estado moderno ha sido un aparato de recolección de

información. Cuando estuvieron a su disposición, los medios de almacenamiento y
procesamiento de datos, mecánicos primero y electrónicos después, simplemente
facilitaron lo que ya llevaba mucho tiempo ocurriendo. La tarjeta perforada de
Hollerith y sus descendientes permitieron automatizar el procesamiento de datos,
incluidos, como es bien sabido, los de los campos de concentración nazis y los
relativos al internamiento de estadounidenses de origen japonés durante la
Segunda Guerra Mundial. La vigilancia basada en la informática tiene de por sí sus
orígenes en esta historia de longue durée, lo cual es útil tener en cuenta al intentar
periodizar acontecimientos más cercanos al presente. A lo largo de la década de
1970, TRW –una corporación con intereses en los sectores aeroespacial, automotriz,
electrónico, informático y de procesamiento de datos– recogió enormes
cantidades de datos sobre decenas de millones de consumidores estadounidenses
para vendérselos a potenciales acreedores. Y de manera poco sorprendente, dado
el alcance de sus operaciones, TRW estaba íntimamente entrelazada con la CIA.
Aunque el intento por parte de Zuboff de interpretar políticamente la fundación
del capitalismo de vigilancia –como acto de personas específicas en una
coyuntura específica– sea admirable, oculta esta historia más prolongada de la
informática en la vigilancia estatal y sus cruces con el sector privado. Es aquí
donde encontramos las razones más convincentes para preocuparnos.

Después de todo, ¿qué debería importar que Facebook me muestre repulsivos

anuncios publicitarios y quizá hasta me convenza de comprar algo, si esa es la
única repercusión que tiene la gigantesca acumulación de datos sobre mí? Es en el
momento en que salimos del simple intercambio de mercado –que yo soy
formalmente libre de abandonar– y, por lo tanto, del foco principal del capital de
vigilancia propiamente dicho, cuando esta asimetría de conocimientos se vuelve
verdaderamente problemática. ¿Vamos a estar sometidos a una manipulación
digital, pagada por el mayor postor? Aquellos de nosotros que nos movilicemos
más allá de los rituales habituales de la participación democrática, ¿vamos a ser
rastreados, pastoreados y neutralizados antes de que podamos plantear una
 amenaza real? ¿Van a ser las inequidades sociales silenciosamente fortalecidas
por las clasificaciones que nos impongan aquellos en posición de supervisar?
Responder a estas preguntas en serio implicará comprender el Estado como una
fuerza activa en el desarrollo tecnológico, como un ámbito diferenciado y que
dista mucho de ser neutral. En sí misma, la regulación normativa del capital de
vigilancia no será suficiente –ni siquiera respaldada por los movimientos sociales–,
porque cualquier reto serio se volvería también un reto al Estado de vigilancia.

Nota: este artículo fue publicado originalmente con el título «El negocio de la
vigilancia» en New Left Review segunda época No 121, 3-4/2020.

 1.

Profile, Londres, 2019. Hay edición en español: La era del capitalismo de la

vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder,
Paidós, Barcelona, 2020.

 2.

Juego de palabras entre «el ego en el trabajo» y «el ego en acción» [n. del e.].
https://elpais.com/cultura/2020/09/25/babelia/1601043525_508297.html

El dinero te vigila
Cada vez que usamos Internet cedemos inconscientemente parte
de nuestra soberanía personal a un poder opaco, sin límites ni
fronteras. La socióloga Shoshana Zuboff ha puesto nombre a ese
fenómeno en un libro llamado a marcar época: 'La era del
capitalismo de la vigilancia'

Facebook llegará a conocer todos los libros, todas las películas, todas las
canciones que usted, lector de estas líneas, haya consumido en su vida,
larga o corta. La información de la que dispone la empresa informática
servirá para deducir a qué bar irá usted cuando llegue a una ciudad extraña,
un bar en el que el camarero ya tendrá preparada su bebida favorita. Ello lo
pronostica el creador y director ejecutivo de Facebook, Mark Zuckerberg,
una de las personas más ricas del mundo, que la fundó en 2004. El
presidente ejecutivo de Google, Eric Schmidt, no se queda atrás: “Si nos
dais más información de vosotros mismos, de vuestros amigos, podemos
mejorar la calidad de nuestras búsquedas. No nos hace falta que tecleéis
nada. Sabemos dónde estáis, sabemos dónde habéis estado. Podemos
saber más o menos qué estáis pensando”.

Ha nacido el capitalismo de la vigilancia. El 1984 de Orwell se queda

antiguo.

Es como si un tiburón hubiera estado nadando silenciosamente en círculos

bajo el agua del mar, justo debajo de la superficie en la que se estaba
desarrollando la aburrida vida cotidiana, y hubiese saltado de repente con
su piel reluciente, por fin a la vista de todos, para hacerse con un buen
bocado de carne fresca. Con el tiempo ese tiburón ha revelado ser una
nueva variante del capitalismo, desconocida hasta hace muy poco, una
variante que se multiplica con extraordinaria rapidez y que se ha fijado el
dominio como meta, la hegemonía respecto a otros capitalismos (comercial,
industrial, financiero…), a través del conocimiento y monetización de
nuestra pequeña existencia. Una forma de capitalismo sin precedentes se
ha abierto paso a codazos, casi sin previo aviso, para entrar en la historia.
El capitalismo de la vigilancia es, según lo define Shoshana Zuboff,
profesora emérita de la Harvard Business School y autora del monumental
libro La era del capitalismo de la vigilancia, la reivindicación unilateral, por
parte de un selecto grupo de empresas provenientes de Silicon Valley, de la
experiencia humana privada como materia prima para su traducción en
datos. Estos datos son computados y empaquetados (del mismo modo que
las célebres hipotecas subprime, origen de la Gran Recesión del año 2008)
como productos de predicción y vendidos en los mercados de futuros de los
comportamientos de la gente. Los servicios online gratuitos, las app que no
cuestan nada, solo son un cebo, no un regalo que hacen media docena de
empresas magnánimas creadas por jóvenes emprendedores, casi todos
estadounidenses, divertidos y simpáticos, en nada parecidos a los grandes
magnates encorbatados del pasado que posaban fumando un habano.
A través de estos servicios digitales básicos comienza la extracción de
datos de la vida de cada uno de los ciudadanos que utilizan Internet, la
acumulación de sus comportamientos (cómo se visten, qué películas ven,
qué comida engullen, los libros que leen, el deporte que practican, si son
activos o jubilados…), que serán horneados para poner en bandeja un festín
de predicciones listas para ser transformadas en dólares. Muchos de esos
ciudadanos, desconocedores de esta realidad escondida, felices con la
innovación tecnológica que hace sus vidas más cómodas, han abierto sin
darse cuenta las puertas de sus casas y sus refugios más íntimos a estos
monopolios que succionan nuestra información y con ella moldean nuestro
futuro. El filósofo alemán de origen coreano Byung-Chul Han lo resume en
esta certera frase: “Pienso que estoy leyendo un ebook, pero en realidad es
el ebook el que me lee a mí”.
¿Le dice usted a su cónyuge que hoy le apetece comer paquetitos de pato
crujiente con salsa hoisin y poco después, casi instantáneamente, aparecen
en su teléfono móvil diversos mensajes de restaurantes chinos que se los
pueden proporcionar?, ¿organiza el viaje familiar anual a San Petersburgo y
Moscú, y le llueven las ofertas sobre el viaje, alojamiento y compras que
puede hacer?, ¿mira en el ordenador, en la tableta o en el móvil un anuncio
de camisas vaqueras que le gustan y la publicidad de las páginas web que
visita habitualmente se llena de pantalones, parkas, gorras, zapatillas del
mismo estilo? Este es el resultado del capitalismo de la vigilancia. Evgeny
Morozov, un ensayista bielorruso experto en tecnología, que ha escrito una
larguísima (y a veces despiadada) crítica al libro de Zuboff que a su vez es
casi otro libro (Los nuevos ropajes del capitalismo), dice en ella: se nos está
engañando por partida doble; en primer lugar, cuando hacemos entrega de
nuestros datos a cambio de unos servicios relativamente triviales y, en
segundo lugar, cuando esos datos después son utilizados para personalizar
y estructurar nuestro mundo de una manera que no es transparente ni
deseable. Se pierde cualquier atisbo de soberanía personal.

La nueva tiranía no necesita golpes de Estado. Se basa en nuestra

gran dependencia de la tecnología
La experiencia humana como materia prima gratuita para una serie de
prácticas comerciales la mayoría de las veces ocultas de extracción,
predicción y ventas. Este es el nuevo y creciente capitalismo de la
vigilancia, que plantea enormes contradicciones a la “democracia de
mercado” en la que estábamos instalados. ¿Qué supondrá este cambio
fundamental para nosotros, para nuestros descendientes, para nuestras
imperfectas democracias, para “la posibilidad misma de que exista un futuro
humano en un mundo digital”? (Zuboff). Para desarrollar esas antinomias, la
autora se apoya en el concepto de “tiranía” utilizado por Hannah Arendt; la
tiranía como perversión del igualitarismo, porque trata a todos los demás
como seres igualmente insignificantes: “El tirano manda según su voluntad
e interés propio (…) como uno contra todos, y los todos a los que oprime
son todos iguales, es decir, carecen de poder”. La tiranía del capitalismo de
la vigilancia no requiere de golpes de Estado clásicos, ni del látigo del
déspota, ni de los campos de exterminio nazis, ni de los desaparecidos, ni
de los gulags del totalitarismo. Es una especie de golpe incruento,
aparentemente indoloro y parasitario, pero que llega al fondo de lo que
pretende, la dependencia masiva de las obsesiones que nos inyecta.

Este es un libro importante. La era del capitalismo de la vigilancia es un texto

multifacético. Es de economía conductista, pero también de psicología, de
tecnología o —esencialmente— de pensamiento político. Tiene que
encontrar sus lectores en los intersticios de esas profesiones y no ser
marginado por los científicos sociales acostumbrados a las disciplinas
unipolares. Es una intensa llamada de atención a la posibilidad de un golpe
de Estado desde arriba y permanente, no como un derrocamiento puntual
del Estado, sino más bien como un sumidero de la soberanía personal (y
por acumulación, del conjunto de la ciudadanía) y como una fuerza muy
poderosa en la peligrosa deriva hacia la “desconsolidación” y la falta de
calidad de la democracia, que actualmente amenaza a los sistemas políticos
liberales. Sus actividades representan un desafío al elemental derecho al
tiempo que tenemos por delante, que comprende la capacidad del
ciudadano de imaginar, pretender, prometer y construir un futuro.
La era del capitalismo de la vigilancia. Shoshana Zuboff. Traducción de Albino
Santos. Paidós, 2020. 910 páginas. 38 euros. Se publica el 29 de septiembre.
https://hipermediaciones.com/2020/08/23/capitalismo-vigilancia-i/

AGOSTO 23, 2020 / 10 COMMENTS

EL CAPITALISMO DE
VIGILANCIA. LA
REBELIÓN DE LAS
MÁQUINAS (I).
The Age of Surveillance Capitalism de Shoshana Zuboff es
actualmente la obra de referencia cuando se habla de la gran
máquina de explotar datos creada alrededor de Google y
Facebook. Publicado en 2019, el libro ha sido ampliamente
citado en las conversaciones sobre la forma que está adoptando
la sociedad digital(izada) del siglo XXI. Espero que tan amplia
repercusión se base en una atenta lectura de las casi 700
páginas que integran este volumen. En esta serie de entradas les
contaré brevemente de qué va el libro y les diré cuál es mi
opinión.
El libro de Shoshana Zuboff, reconocida psicóloga social y
socióloga de la Harvard University, nos propone un tour de
force sobre todo bidisciplinar donde la autora va y viene de la
economía (además de citar a los clásicos – Adam Smith, Karl
Marx, Friedrich Hayek, Milton Friedman, Joseph
Schumpeter-, toma muchos elementos de la crítica a la
ortodoxia de Karl Polanyi) a la psicología (B. F. Skinner) en
casi todos los capítulos. A lo largo del texto proliferan las
declaraciones de los padres fundadores del capitalismo de
vigilancia, incluyendo a empresarios conocidos como Mark
Zuckerberg, Larry Page, Serguéi Brin, Eric Schmidt y Bill
Gates e investigadores cuya contribución tecnológica ha sido
fundamental en las últimas tres décadas de vida digital.
El libro se divide en tres partes de unas 200 páginas cada una.
La primera está dedicada al surgimiento del capitalismo de
vigilancia, la segunda indaga en su expansión hacia otros
ámbitos de la vida social y económica, y la tercera se centra en
la consolidación de un poder instrumental que, según Zuboff,
no merece otro nombre que el de Big Other, un concepto con
evidentes connotaciones orwellianas. Si en un momento el
capitalismo de vigilancia pasó del mundo virtual al real (de
esto se habla en la segunda parte de libro), ahora estaríamos
asistiendo al pasaje hacia el mundo social, un entorno
donde toda la sociedad se convierte en objeto de extracción
de datos y control.
Primera parte. Los fundamentos del capitalismo de
vigilancia

La primera parte del libro está dedicada al surgimiento

del surveillance capitalism. Zuboff repasa el nacimiento de
Google a finales de los años noventa, esa época gloriosa en que
las ciberculturas marcaban el ritmo de las conversaciones en
ámbito empresarial y académico, y cada día nacía una start-
up que prometía cambiar el mundo a condición de que los
inversores le pusieran millones de dólares sobre la mesa. Esta
burbuja, como sabemos, explotó en el 2001 y dejó a buena parte
de Silicon Valley pedaleando en el aire. Google, el buscador que
habían creado un par de estudiantes de Stanford allá por 1997,
no era la excepción. Como muchas start-ups, esta empresa había
nacido más como desafío computacional que como proyecto
empresarial con modelo de negocios incluido.
“Google invented and perfected surveillance capitalism in much
the same way that a century ago General Motors invented and
perfected managerial capitalism.”
Cuando estalló la burbuja, el search engine de Google era tan
exitoso que estaba a punto de superar a Yahoo! en cantidad de
búsquedas… pero necesitaban generar más ingresos para evitar
la fuga de los inversores. No bastaba con AdWords, el sistema
publicitario que habían introducido en 2000: además de explotar
mejor los datos de los usuarios que obtenían del
buscador, Google debía crear nuevos entornos de interacción
para obtener más informaciones de los internautas. Así fue
que, en los años siguientes, nacieron decenas de servicios
“gratis”, desde Gmail hasta Google Maps y Google Books.
Había nacido la gran máquina de “chupar” datos de los usuarios.
O sea, había nacido el capitalismo de vigilancia. Al poco
tiempo se sumaría al festín Facebook con sus propias estrategias,
mucho más sofisticadas que las de Google (ver mi post del 2009
“Facebook vs. Google“).
“Ford’s invention revolutionized production. Google’s
interventions revolutionized extraction and established
surveillance capitalism’s first economic imperative: the
extraction imperative.”
Google y Facebook utilizaron muchos datos de sus usuarios para
mejorar sus servicios. Pero, además, descubrieron que estaban
captando datos aparentemente secundarios o sin valor… ¿Cómo
monetizarlos? Aquí Zuboff introduce un concepto nuevo, el
de behavioral surplus (“excedente de comportamiento“).
Estos datos considerados hasta ese momento basura numérica,
convenientemente procesados, podían servir para identificar
patrones de comportamiento y predecir las acciones de
los usuarios. Zuboff hace mucho hincapié en las posibilidades
predictivas de la machine intelligence, lo cual tiene obviamente
consecuencias culturales, económicas y políticas.
“In this phase of surveillance capitalism’s evolution, the means
of production are subordinated to an increasingly complex and
comprehensive ‘means of behavioral modification’.”
¿Por qué se pudo desarrollar esta economía de la vigilancia? En
esta parte del libro Zuboff recupera la historia del
neoliberalismo y relata cómo se impuso una lógica contraria a la
intervención estatal que privilegiaba la libertad individual. Las
empresas digitales se encontraron con un vacío legal y
un paraguas ideológico favorable para dar rienda suelta a sus
experimentos socio-computacionales.
En esta primera parte del libro la autora también describe la
trama de relaciones que une a las compañías del capitalismo de
vigilancia con la National Security Agency, la CIA y otros entes
dedicados al espionaje y control político, mientras que analiza
paso a paso cómo Google y Facebook van probando nuevas
formas de captar datos violando la privacidad de los
usuarios. A veces estos experimentos retroceden por las
denuncias recibidas o intervenciones de la justicia, pero no
tardan en ser reimplementados siguiendo otros caminos.
También dedica unos cuantos párrafos a la cooptación de
investigadores y laboratorios. Como veremos más adelante, el
MIT está en el centro de la mira de Zubbof.
En reiteradas ocasiones la autora insiste en que es errado decir
que los usuarios “somos el producto” de los servicios
“gratuitos” de Google, Facebook y otras
plataformas: nosotros somos la materia prima, la fuente de
datos que estas empresas recopilan, procesan, empaquetan y
venden en forma de perfiles hiperpersonalizados y
predicciones de comportamiento.
“We are the objects from which raw materials are extracted and
expropriated for Google’s prediction factories. Predictions
about our behaviour are Google’s products, and they are sold to
its actual customers but not to us. We are the means to others’
ends.”
Estos paquetes de datos son la mercancía que sale de las “líneas
de producción” de Google y Facebook. Según Zuboff, este
nuevo modo de producción entierra en el pasado al viejo
capitalismo industrial perfeccionado por Ford y General Motors.
Estamos frente a una nueva lógica extractiva (de datos) que
no tardará en expandirse al resto de las actividades
humanas, tal como pasó en su momento con la línea de montaje
y la producción en serie.
Antes de pasar a la segunda parte del libro, un par de
comentarios que retomaré al final de esta reseña. Para mí, esta
primera parte es la más lograda de The Age of Surveillance
Capitalism. El relato de Zuboff está muy bien armado y la
descripción del surgimiento del capitalismo de vigilancia es muy
detallada. Si bien la autora se basa en una serie de
investigaciones científicas, buena parte de su relato se alimenta
de entrevistas a expertos en data analysis y declaraciones
públicas de los referentes de estas empresas (Page, Brin,
Zuckerberg, etc.).
Segunda parte. El avance del capitalismo de vigilancia

Si la primera parte del libro está dedicada al surgimiento del

capitalismo de vigilancia, en la segunda Zuboff explica cómo la
explotación de datos y el mercado de las predicciones se
expandió hacia empresas fuera del circuito digital. Desde las
primeras páginas de la segunda parte la autora arremete contra
el ubiquitous computing, el modelo de las smart cities y
la Internet of Things. La interconexión entre dispositivos a
través de redes 5G no solo aportará más información personal a
la gran industria de los datos: también se convertirá en un
potente dispositivo de control social.
Un ejemplo, al cual Zuboff volverá varias veces a lo largo del
libro, le sirve para describir el futuro que se vislumbra: se
avecina una nueva fase de la captación de datos personales a
través de dispositivos hogareños, desde las nuevas interfaces
vocales (Alexa, Siri, Cortana, etc.) hasta las aspiradoras-robot
como la Roomba, que mapea cuidadosamente el interior de
las casas y envía esa información a la casa central. Otro caso:
imaginemos que el propietario de un coche comprado a crédito
deja de pagar las cuotas mensuales de su vehículo; al detectar la
morosidad, el sistema envía un mensaje al coche y este deja
de funcionar hasta que el propietario no se ponga al día.
 “Pokémon Go was surveillance capitalist’s dream come true,
fusing scale, scope, and actuation.”
Según Zuboff ya no se trata solo de captar datos sino de pasar a
la acción. Un ejemplo de este pasaje a una “economía de la
acción” lo encontramos en Pokemon Go. Durante el verano del
2016 una buena parte del planeta se pasó los días cazando
pokemones. Según Zuboff, esta experiencia -auspiciada por
Google- fue la puesta a punto de un potente dispositivo de
control y acción social. Con la excusa de cazar pokemones, los
usuarios podían ser teledirigidos a un local de Starbucks o
McDonalds (sistema de “sponsored locations”). Esta
“economía de la acción” reaparece en los experimentos
sociales que realiza Facebook manipulando el muro de
cientos de miles de usuarios, donde se ha llegado incluso a
movilizar votantes solo cambiando el “sentimiento” de las
noticias que se visualizan en la pantalla.
“Emotional states can be transferred to others via emotional
contagion, leading people to experience the same emotions
without their awareness. Online messages influence our
experience of emotions, which may affect a variety of offline
behaviours.”
Para sostener esta parte del libro Zuboff recurre al conductismo
radical de B. F. Skinner, el psicólogo que soñaba con la
posibilidad de una “ingeniería conductual” basada en una
“technology of behaviour“. Después de experimentar varias
décadas con palomas, ratas y otros bichos, Skinner desarrolló
una sofisticada teoría basada en el “reforzamiento” como
base para la manipulación de los sujetos y un mejoramiento
de la sociedad vía el aumento de la felicidad. También Marta
Peirano menciona al conductismo radical de B. F. Skinner en
su libro El enemigo conoce el sistema.
“It is not possible to imagine surveillance capitalism without the
marriage of behaviour modification and the technological
means to automate its application.”
Como podemos ver, el relato que se va construyendo a medida
que pasan las páginas de The Age of Surveillance
Capitalism asume dimensiones apocalípticas: el capitalismo de
vigilancia ha construido una sofisticada máquina de
captación de información, construcción de predicciones y
manipulación social que aparentemente no presenta
resquicios. Aunque la referencia de Zuboff sea Hannah
Arendt, el tono del libro se acerca mucho a los planteos de
la Dialéctica de la Ilustración (1944) de Theodor
Adorno y Max Horkheimer. Si en ese volumen los alemanes
cargaban las tintas contra ese malvado mecanismo que hacía que
los sujetos alienados “desearan y se aferraran obstinadamente a
la ideología mediante la cual se les esclaviza”, el discurso de
Zuboff transmite en la misma frecuencia de onda pero con una
diferencia para nada marginal: ahí donde Adorno y
Horkheimer desarrollaron su crítica de la industria cultural
basándose en la economía política de Karl Marx y el
psicoanálisis de Sigmund Freud, la crítica al capitalismo de
vigilancia de Zuboff se funda en un extraño cóctel que va del
cuestionamiento light al capitalismo de Karl Polanyi al
conductismo radical de B. F. Skinner.
En la próxima entrada les contaré la tercera parte del libro y
compartiré unas cuantas reflexiones (y perplejidades) sobre el
recorrido que nos propone Shoshana Zuboff en The Age of
Surveillance Capitalism.
https://hipermediaciones.com/2020/09/01/capitalismo-de-vigilancia-
destino-oscuro-ii/

Tercera parte. Poder instrumental para una tercera modernidad.

Según Zuboff se está generando un poder nunca visto, sin

precedentes históricos, motivo por el cual nos cuesta mucho
nombrarlo y ponerlo a foco. Ella recurre al concepto de
“instrumentarianism“, un nuevo tipo de poder que va más allá
del clásico “totalitarian power” fundado en la represión del
Estado. Si el surgimiento del nazismo o del estalinismo
confundió a sus primeros analistas (la revista Time eligió en
1939 a Josef Stalin como “Man of the Year“), algo similar
estaría pasando con el capitalismo de vigilancia.
Totalitarianism operated through the means of violence, but
instrumentarian power operates through the means of
behavioral modification.
Y aquí, en vez de aparecer en escena Antonio Gramsci y su
concepto de “hegemonía” (la referencia ineludible cuando
pensamos en formas de dominación no violenta y
consensuales),  Zuboff vuelve a poner todas sus fichas en el
conductismo radical de B. F. Skinner y su “technology of
behaviour“. El Big Other, a diferencia del Big Brother, se basa
en un perfeccionado mecanismo de control y sumisión social
fundado en la manipulación de la conducta a través de los
algoritmos. Al Big Other no le interesa lo que pensamos o
sentimos, lo único que busca es extraer información para
convertirla en mercancías vendibles en el mercado de los datos.
Como ya mencioné en la primera parte de la reseña, en esta
economía los humanos no somos “el producto” sino la
materia prima, la fuente de datos. En cierta manera, el
panorama que nos pinta Zuboff tiene mucho de The Matrix, ese
mundo donde los humanos son reducidos a pura fuente de
energía.
Según la autora de The Age of Surveillance Capitalism la idea de
Skinner se está materializando: vivimos una sociedad donde la
incertidumbre tiende a desaparecer gracias a la creciente
capacidad predictiva de la conducta humana que
demuestran las máquinas digitales. Omnisciencia, control y
certeza son las palabras clave de este nuevo poder. Si bien
reconoce que no es fácil de exportar, el modelo sociopolítico
chino le sirve a Zuboff como modelo avanzado de este tipo
de poder. La autora insiste en que nos encontramos en una
bifurcación histórica: o avanzamos hacia una tercera
modernidad donde se refuercen los valores democráticos,
o seguiremos el camino que “nos lleva a Shenzhen”.
 Facebook is a prototype of instrumentarian society, not a
prophecy. It is the first frontier of a new societal territory, and
the youngest among us are its vanguard.
Entre los profetas que nos llevan por el mal camino Zuboff
menciona a numerosos investigadores y empresas que trabajan
codo a codo con los organismos estatales para desarrollar el
“instrumentarian power”.  Además de los sospechosos
habituales como Mark Zuckerberg, en esta lista aparecen
referentes del MIT como Alex Pentland (creador del concepto
de “reality mining“) o de Berkeley/Google como Hal Varian. Si
bien Zuboff no aplica conceptos muy vinculados a la tradición
crítica como “capitalismo de plataformas” (Srnicek) o
“trabajo digital” (“digital labour“) (Fuchs),  no duda
en reforzar su descripción del capitalismo de vigilancia
recurriendo a los trabajos sobre “media addiction“, sobre
todo de las nuevas generaciones.
Para terminar, si bien Zuboff se niega a hablar de
“inevitabilidad”, durante la mayor parte del libro se respira
un clima oprimente donde el “no exit” parece ser la única
posibilidad frente al poder de las grandes corporaciones del
capitalismo de vigilancia. Citando a Piketty, defiende la idea de
que otro capitalismo es posible y concluye el libro (perdón por
el spoiler) mencionando la caída del muro de Berlín por la
presión de la ciudadanía.
Después de esta breve descripción (no es fácil sintetizar un libro
de 700 páginas…) podemos comenzar a reflexionar sobre este
trabajo tan sugerente y abierto al debate.

Combatiendo al capital (vigilante)

Si en los años noventa tuvimos una sobredosis de libros que

anunciaban una sociedad más democrática, justa y liberada
del peso de los átomos gracias a la levedad de los bits, la
producción actual, que mira desde una perspectiva crítica la
deriva autoritaria e hipercomercial de la red digital,
es necesaria y urgente. En este contexto, el libro de Shoshana
Zuboff es una de las referencias cuando se trata de mapear las
conversaciones sobre la comunicación digital interactiva en
este momento tan particular de la vida del Homo sapiens sobre
el planeta. Sin embargo, no podemos dejar de lado una mirada
crítica de The Age of Surveillance Capitalism, un texto que tiene
páginas muy interesantes pero otras que, desde mi punto de
vista, hacen agua desde una perspectiva analítica.
Si bien el texto de Shoshana Zuboff es un ensayo y, por lo
tanto, no podemos exigirle lo mismo que a un texto científico,
termina proponiendo una serie de conceptos y categorías que
apuntan a una teoría o marco de análisis del capitalismo de
vigilancia que va más allá de lo que sería un texto de non-
fiction. Al basar su análisis en declaraciones y frases a menudo
descontextualizadas de los grandes actores del capitalismo de
vigilancia (Page, Brins, Schmidt, Zuckerberg, etc.), la denuncia
que impulsa la autora pierde fuelle. El discurso corporativo de
los grandes actores del capitalismo de vigilancia se merece
un análisis que vaya más allá del “contenido manifiesto” y
de la transcripción de las frases célebres de Mark
Zuckerberg o Larry Page. Y, al mismo tiempo, el análisis
crítico del capitalismo de vigilancia se merece ir más allá de
las declaraciones más o menos rimbombantes de sus
enunciadores.
Si es cierto que la explotación indiscriminada de datos y el
mercado predictivo nacido en Google y Facebook está yendo
más allá de estas corporaciones, tal como se explica en la
segunda parte del libro, sería interesante tener datos
empíricos al respecto. Sabemos que la mayor parte del
facturado de Google y Facebook proviene de la publicidad y del
tráfico de datos… ¿Podemos decir lo mismo de las empresas
tradicionales? ¿Qué parte de su facturado o ganancias proviene
de los datos? Un ejemplo: una empresa fabrica coches con
sensores. Esos sensores recopilan información sobre sus
usuarios que permiten mejorar el diseño de los vehículos. Pero
esos datos también aportan información apetecible para otras
compañías. Ahora bien, si la empresa decidiera vender esos
datos… ¿podemos decir que es una empresa del
“capitalismo de vigilancia”? ¿O la venta de datos sería solo
una fuente de ingresos secundaria a la principal, que
seguiría siendo la venta de vehículos y servicios
colaterales? El libro hubiera salido enriquecido si esta parte
estuviera basada en números y datos empíricos más sólidos. En
ese sentido, al libro de Zuboff le falta lo que a los
de Piketty les sobra: las tablas, números y análisis
económicos que le hubieran permitido a la autora describir
el funcionamiento y alcance real del capitalismo de
vigilancia.
Otro elemento a tener en cuenta: si el lector o lectora espera una
crítica al capitalismo, no la encontrará en The Age of
Surveillance Capitalism. Por más que Zuboff arremeta contra las
políticas neoliberales, ella critica al “capitalismo de vigilancia”
y no al “capitalismo” a secas. Shoshana Zuboff no
es Christian Fuchs ni Nick Srnicek. Desde esta perspectiva,
podríamos decir que a Zuboff también le falta lo que a Fuchs
le sobra: una crítica dura del capitalismo, algo que este profesor
de la University of Westminster viene haciendo desde hace
varios años en libros como Communication and Capitalism: A
Critical Theory (2020), Rereading Marx in the Age of Digital
Capitalism (2019), Social Media: A Critical
Introduction (2017), Culture and Economy in the Age of Social
Media (2015) o Digital Labour and Karl Marx (2014).
Me parece que en su afán de convertir el negocio de los datos en
una nueva fase del desarrollo capitalista (o en una forma
pervertida del “buen capitalismo”), la autora
termina modelando un objeto a medida para que encaje en su
denuncia. Que un grupo de corporaciones haya hecho del
tráfico y procesamiento salvaje de datos su modelo de
negocios no implica que todas las empresas vayan a seguir
ese camino; para algunos actores la venta de datos será una
fuente de ingresos secundaria, y muchos otros ni siquiera
participarán en este tipo de actividad extractiva. Otro
ejemplo: si Amazon es un actor fundamental del capitalismo de
vigilancia, dudo mucho que una librería de barrio sea parte del
mismo mecanismo de explotación de datos y control social. O
sea, mal que le pese a Zuboff, no todo es capitalismo de
plataformas.
Ratas, palomas e internautas

El conductismo pasó por varias etapas. Después de los trabajos

pioneros de John B. Watson e Iván Pavlov, el behaviorismo se
convirtió por culpa de un perro y una campanilla en una
caricatura de sí mismo hasta alcanzar en tiempos recientes el
estatus de meme. Si bien es una de las corrientes hegemónicas
de la psicología, sobre todo en los países anglosajones, sabemos
que en otras latitudes diferentes escuelas -como la psiconalítica-
han marcado el paso de la práctica profesional y académica. Uno
de los campos donde el conductismo ha encontrado un terreno
fértil ha sido la investigación sobre los procesos de toma de
decisiones económicas. Daniel Kahneman, el psicólogo que
ganó el premio Nobel de Economía en 2002, es una de las
grandes referencias en la llamada behavioral economics. Su
libro Pensar rápido, pensar despacio (2011) es una lectura
indispensable para cualquier persona interesada en estos
procesos o que simplemente quiera saber cómo pensamos y
tomamos decisiones.
Como ya vimos, Zuboff se nutre del conductismo radical de  B.
F. Skinner a la hora de apuntalar su discurso crítico sobre el
capitalismo de vigilancia. Es una lástima que no haya expandido
su marco de referencia a otros enfoques. Desde mi perspectiva,
creo que analizar la dinámica de uso de las plataformas en
términos de satisfacción/deseo podría proporcionarnos
mejores resultados para comprender su funcionamiento.
Uno de los problemas que percibo en los enfoques
experimentales (ya sean conductistas o de las ciencias
cognitivas) es el pasaje de lo micro a lo macro. Este tema -que
desde hace años venimos charlando con colegas como José Luis
Férnández de la Universidad de Buenos Aires- es fundamental:
¿Puede extrapolarse a toda la sociedad lo que se verifica en
un laboratorio con unas palomas, ratones o perros? Entre un
laboratorio y la sociedad existe un “gap” muy difícil de
colmar…  a menos que uno pueda hacer experimentos con
cientos de miles de personas. Y acá la cosa se pone
interesante: como bien describe Shoshana Zuboff, eso es
precisamente lo que están haciendo las grandes
corporaciones del capitalismo de vigilancia. ¿Qué pasa
cuando Facebook toca la campanilla? ¿Cómo responden miles
de internautas cuando Google retoca un algoritmo? Este tipo de
estudios -que los usuarios consentimos cuando aceptamos las
condiciones de uso de las plataformas– abre una dimensión
“macro” a métodos que, hasta el día de hoy, se limitaban al
mundo “micro” del laboratorio. Así como hay límites a la
experimentación genética con seres humanos, este tipo de
experimentos sociales, que pueden llevar a cambiar el resultado
de una elección,  debería estar taxativamente prohibido por
las leyes nacionales e internacionales. Este tema
también debería formar parte de la agenda de las
universidades, sobre todo si tenemos en cuenta que la
comunidad científica es en parte cómplice de estos
experimentos manipulatorios.
Volviendo al libro de Zuboff, al beber del conductismo radical
de Skinner su análisis del capitalismo de vigilancia termina
acercándose a la primera época de las teorías de los efectos de
los medios. Sí, me estoy refiriendo a las (primitivas) teorías de
la “aguja hipodérmica” y la “bala de cañón”. Si bien el contexto
es radicalmente diferente, The Age of Surveillance
Capitalism termina prácticamente jugando en la misma liga
que los trabajos pioneros -también inspirados en el
conductismo- de los padres fundadores de los estudios de los
efectos de la comunicación en los años 1920 y 1930.
Salvation?

Como habrán visto, los subtítulos de esta serie de entradas

incluyen un homenaje a la saga de Terminator (“La rebelión de
las máquinas”, “Destino oscuro”). Ahora llegó la hora de
“Salvation”… ¿Hay salvación a la distopía que nos depara la
era del capitalismo de vigilancia? A pesar de que aquí y allá
Zuboff intenta insuflar algo de optimismo, su libro es una oda
al apocalipticismo digital. Solo al final, en un par de páginas,
deja caer de manera inconexa y sin profundizar algunas vías
para contrarrestar el poder de las grandes corporaciones que han
hecho de los algoritmos y los datos un gran negocio.
La referencia a Nicholas Negroponte al inicio de esta entrada
no es casual. Al igual que el fundador del Media Lab del MIT,
tengo la impresión de que Shoshana Zuboff termina
mitificando -en el sentido barthesiano- las tecnologías
digitales. Ahí donde Negroponte construye un discurso
mítico que pone a las tecnologías digitales al centro de un
programa de emancipación y transformación, Zuboff las
coloca en el corazón de una estrategia de dominación y
control social. Si Negroponte no tenía en cuenta los posibles
usos desviados o directamente antidemocráticos de las
tecnologías digitales, Zuboff solo ve dominación y control, y
liquida en pocas frases los posibles beneficios que los
algoritmos ofrecen a sus usuarios (entre otras cosas, los
algoritmos pueden ayudarnos a reducir la cantidad de
accidentes de coche o predecir la evolución de una
pandemia). En breve: mientras sigamos atados a lecturas
monodimensionales, no saldremos nunca del desgastante
péndulo entre apocalípticos e integrados.
The Age of Surveillance Capitalism es un libro que vale la pena
leer, a pesar de su extensión (hay ideas que se repiten una y
otra vez, como si la autora nos quisiera inculcar un concepto a la
manera de Skinner con sus ratas y palomas) y de las limitaciones
que acabo de mencionar en estos párrafos. El “capitalismo de
vigilancia” existe, es un problema grave de nuestra sociedad
y debe ser enfrentado desde diferentes niveles, comenzando
por la alfabetización de los usuarios hasta llegar a la
implementación de acciones políticas y judiciales a escala
internacional. Lo repito: la primera parte del libro, donde se
cuenta con lujo de detalles la emergencia de nuevos actores en la
red sociotecnológica que se movieron (y siguen haciéndolo) con
total impunidad en un marco de vacío legal, es una excelente
descripción del mitificado mundo de Silicon Valley y sus start-
ups.
¿Hay “Salvation”? Por supuesto. Pero la condición previa para
cualquier tipo de acción, no sólo en este campo, es comprender
el funcionamiento del (eco)sistema en todas sus
dimensiones, incluyendo los actores, relaciones y procesos
que forman parte de cada componente de la red
sociotecnológica (o, si prefieren, de cada “interfaz”), los costes-
beneficios y las dinámicas de satisfacción-deseo que se
presentan en cada caso. Como ya escribí en otro post sobre las
interpretaciones críticas de las plataformas,
Pensar que Amazon o Uber son solo empresas que utilizan datos
como materia prima y lucran con ellos me parece reductivo, casi
como pensar que la vieja televisión de broadcasting era solo un
dispositivo para generar rating. Siguiendo con este ejemplo, las
transformaciones sociales que generó la televisión a su alrededor
no se pueden reducir a la dimensión “matemática” del rating, de
la misma manera que no podemos simplificar el rol de las
nuevas corporaciones exclusivamente a su dimensión
“algorítmica” (…) Debemos abrir el abanico interpretativo a
la hora de analizar las plataformas.
Lo aclaro por las dudas: decir que la crítica a las plataformas
se queda corta o no tiene en cuenta todas las dimensiones del
fenómeno no es lo mismo que defender sus lógicas de
extracción de datos ni justificar el rumbo que está tomando
la evolución de estas corporaciones. Que un puñado de
empresas controlen el mercado de los datos y trafiquen de
manera salvaje con la información personal es un problema de
primer orden de nuestra sociedad. Pero para empezar a
resolverlo, debemos aprehenderlo en toda su complejidad. Y
para eso, nunca alcanzará un único libro o mirada.