Loading. Please wait...
search

Distopías probables: cuando el Gran Hermano seamos nosotros mismos

Volvía de la universidad camino a casa y mi alarma de Freebook (o FreeB) me avisó de que estaba a punto de perder dos freecoins. Por la acera me crucé con una chica guapísima. Me llamó la atención su piel canela, su oreja llena de piercings y sus hermosos rasgos orientales… ¡era difícil no mirarla! Pero Freebook monitorizó el giro de mi cuello, la dilatación de mis pupilas, el aumento de mi tensión arterial y la subida de niveles de testosterona y gonadotropina en sangre.

El asesinato de Kiki Wonders

Aunque fueron variaciones muy sutiles (solo me fijé durante unos segundos en el rostro de una chica), FreeB es extremadamente sutil ¿Y qué tendría de malo mirar a una china por la calle? Nada, de hecho incluso hay que hacerlo para puntuar bien en hábitos sexuales saludables, solo que yo tenía novia en ese momento (ahora ya dudo mucho que jamás pueda conseguir una, ya os contaré por qué). Y si uno tiene pareja, el número de veces que se puede mirar con deseo a otra se reduce drásticamente.

Además, ese día ya la había cagado varias veces. Llegué tarde a clase de Data Science (lo cual penaliza mucho), desayuné demasiados cereales (superando el límite máximo de hidratos de carbono para el desayuno indicado en hábitos alimenticios saludables) y me salí varias veces el carril bici mientras circulaba pensativo con mi preciosa Bianchi Folgore Simplex de 1949. Estoy a una sola infracción leve de perder dos freecoins.

¿Y qué pasaría si perdiera esas dos freecoins? La FreeBScale tipifica con bastante precisión a qué FreeBClass perteneces: a la cabeza del sistema están los FreeBLegends (1000-900 freecoins), clase formada fundamentalmente por actores, modelos, multimillonarios y deportistas de élite. Suelen tener más de un billón de seguidores. Tienen acceso garantizado a todo lo clasificado como VIP. Después tenemos a los FreeBInfluencers (9000-6000. Llamados graciosamente FBI): estaríamos hablando de la clase media alta, es decir, de todos aquellos que luchan ferozmente por ser legends.

Después tendríamos a los FreeBMass (6000-4000) y a los FreeBHorde (4000-1000), la clase media, el aura mediocritas del mundo civilizado. Por último llegamos a los FreeBRefused (1000-0), los desterrados, los parias. Tienen prohibido prácticamente todo, incluso entrar en ciertas zonas de las ciudades.

Si perdía mis dos freecoins, pasaría de FreeBMass a FreeBHorde, con lo que perdería, para empezar, un montón de beneficios en la universidad. No tendría acceso a muchas revistas ni webs de investigación, perdería horas de prácticas en laboratorio, incluso mi plaza para aparcar la bici pasaría a otro… Y fuera de lo académico muchos más problemas: perdería canales de TV, acceso a los últimos estrenos de cine, no podría entrar en la sauna del gimnasio… ¡Incluso subiría mi recibo de la luz!

Pero no era tan grave. Iba a centrarme. Mi intención era recuperar freecoins haciendo trabajo comunitario: hacer un maratón de visualización de vídeos de publicidad (+0,00005 freecoins el segundo), compartir memes en defensa de causas sociales (+0,00001 el clic), corregir alguna entrada deficiente de Wikipedia, o incluso comprar freecoins con dinero de verdad, si bien son bastante caros (hasta existen trabajos en los que una parte de tu sueldo es en freecoins).

Distraído en esos pensamientos iba yo de vuelta a casa cuando sucedió mi gran desgracia: no sé de donde salió pero allí, en mitad del carril bici se cruzó un diminuto perro crestado chino vestido con un jersey rosa. La verdad es que yo iba muy despistado y algo deprisa, por lo que no lo pude esquivar y lo atropellé. El ridículo chucho emitió un doloroso chillido mientras que yo caí contra unos arbustos partiéndome la muñeca. Mi Bianchi, hecha pedazos.

El resto de la historia aparece en mi memoria como un rapidísimo aluvión. Resultó que el ridículo chucho era Kiki Wonders, el perro de, nada más y nada menos, Chelsea Wonders, la youtuber con más followers del mundo gracias, precisamente, a narrar las andanzas cotidianas de su adorable perrito. Y ya está, su siguiente vídeo, con más de 2.000 millones de visualizaciones, me retrató como el sanguinario asesino del animalito más querido de la red.

Os podéis imaginar lo que esto significó para mis freecoins. La cantidad de dislikes a todas mis fotos y entradas en Freebook se contaron por millones, lo que llevó a que mi saldo, en solo unos minutos, llegara a números rojos, es decir, pasé a ser un FreeBRefused de los más odiados del universo.

Nadie salió en mi defensa pues ¿quién osaría enfrentarse a Chelsea Wonders? Nadie, absolutamente nadie tuvo la sensatez de decir que sólo fue un desafortunado accidente. Hasta se hizo un especial del Show de Oprah Cummings sobre mí. En prime time se argumentó que yo no sólo era un desalmado maltratador de animales y un peligro vial (se pidió al Congreso una ley para exigir un carné de conducir para ciclistas), sino también un denodado machista porque, sin ninguna duda, no habría atropellado a Kiki si su dueña hubiese sido un hombre.

Mi expulsión de la universidad fue fulminante y mi novia ni siquiera se molestó en dejarme, sencillamente, me bloqueó en todas sus redes sociales. Y luego llegó lo peor: todo mi historial de datos de internet fue analizado pormenorizadamente por la opinión pública. Desde luego fue muy poco gratificante ver a Oprah Cummings hacer un detallado recorrido por mi historial de visitas a páginas porno, para descubrir que en un vídeo que vi hacer más de diez años, durante veintitrés segundos, aparece una actriz porno que, en ese momento, no era mayor de edad (tenía diecisiete años y diez meses). Días después fui acusado de pederastia y recibí la consiguiente citación judicial.

¿Qué clase de gobierno, qué clase de terrible dictadura totalitaria dispondría de un sistema de vigilancia y castigo tan atroz? Ninguno. Freebook no está controlado por ningún poder político centralizado, de hecho se creó precisamente para escapar a ello. Freebook nació como una alternativa a las todopoderosas redes sociales oficiales.

A raíz de los variados escándalos de violaciones de la privacidad en el uso de los datos, los usuarios ya no estaban dispuestos a que se comerciara con ellos sin su consentimiento y se creó una red social en la que se especificaba que nadie podía vender o comprar datos porque absolutamente todos los datos pertenecían a todos los usuarios. Realmente, ya no había nada que comprar ni vender pues todo ya era de todos. Por eso se pudo analizar al detalle todo mi historial porno de internet. En Freebook no existe ninguna ley de protección de datos. Muchos se congratularon al pensar que había llegado el paraíso del socialismo digital y que, al fin, se había vencido a las grandes corporaciones.

De hecho, todas las normas de puntuación para ganar o perder freecoins han sido votadas y aprobadas por la mayoría de usuarios. Nada hay en Freebook que no sea absolutamente democrático. Es más, el desacuerdo y la crítica es algo completamente aceptado. Cada usuario puede criticar lo que le plazca en su muro, incluso hacer grupos de protesta con otros usuarios. De hecho, el grupo Muerte a la tiranía de Freebook tiene unos cien millones de usuarios, siendo de los más populares de la red (y de los que más freecoins pueden conseguirse por participar en él. Su administrador, Rick Cummings, marido de Oprah, es uno de los hombres, digitalmente, más ricos de la red).

Freebook utiliza una tecnología de tipo blockchain y los puntos funcionan de forma muy parecida que cualquier criptomoneda: su valor está garantizado fiduciariamente por todos los demás miembros de la comunidad. El despótico poder de Freebook está distribuido por todos y cada uno de los usuarios ¿Qué mejor dictadura aquella a la que todos se someten felizmente y a la que todos colaboran para preservar? Queriendo escapar de oscuros poderes se terminó por llegar a la esclavitud perfecta: una tiranía aceptada gustosamente por todos, en la que cada uno es esclavo de todos los demás. Finalmente, el Gran Hermano éramos nosotros.

Estoy en la azotea del edificio donde vivo (o vivía. Mi casera solo me dio tres días para marcharme). Voy a hacer lo único que podrá volver a restituir mi cuenta de freecoins: voy a grabar mi propio suicidio. Voy a lanzarme al vacío mientras grabo con mi móvil la caída. Creo que puedo conseguir el vídeo con más visualizaciones de la historia y seré la única persona que ha pasado de ser refused a legend, aunque sea a título póstumo.

(Si te ha gustado la historia, no dejes de ver el primer capítulo de la tercera temporada de Black Mirror. Y si crees que todavía estamos muy lejos de algo así te presento a Skynet).

Cuestión de fuerza bruta

Durante mucho tiempo pensamos que la tarea importante en Internet iba a ser separar la auténtica información del ruido. En millones de webs llenas de basura, el reto consistía en encontrar la web valiosa. Sin embargo, en la actualidad nos hemos dado cuenta que el ruido no era un desperdicio del que deshacerse, sino que, precisamente, en el ruido está la auténtica información porque el ruido está lleno de datos.

¿Cómo no nos habíamos dado cuenta de ello antes? Sencillamente, porque no podíamos, porque no teníamos la potencia de cómputo necesaria. Verdaderamente, los algoritmos que se utilizan en deep learning no son tan revolucionarios como pudiera parecer. Recientemente, uno de los grandes desarrolladores de redes neuronales artificiales, Geoffrey Hinton, afirmó que desde 1986, cuando él mismo junto con Rumelhart y Williams inventaron la backpropagation, no se había dado ningún avance significativo en ese campo. Suena muy chocante: ¿cómo es posible que nos estén vendiendo que el deep learning es la vanguardia tecnológica en IA si lleva treinta años estancado?

Efectivamente, si nos fijamos en el último gran logro del aprendizaje no supervisado, el espectacular Alpha Zero, capaz de machacar sin paliativos a Stockfish 8, un programa de ajedrez que juega a un nivel Elo de 3.400 (Magnus Carlsen tiene 2.843 a Abril de 2018), su arquitectura interna no es, a falta que los de DeepMind liberen el código, nada del otro mundo. Se basa en un árbol de decisión de Montecarlo (algo que ya se había inventado en los años cincuenta del siglo pasado) y una red neuronal convolucional (un desarrollo de Dan Ciresian del neocognitron de Fukushima de 1980) ¿Cómo es que entonces no se había hecho mucho antes?

Los algoritmos que se utilizan en deep learning no son tan revolucionarios como pudiera parecer

Porque las redes neuronales tienen el grave defecto de que son exasperantemente lentas de entrenar, por lo que para que hacerlo sea factible (o, sencillamente, rentable) hace falta una tremenda capacidad de cómputo. Alpha Zero ha jugado millones de partidas contra sí mismo, muchísimas más de las que juega en toda su vida cualquier jugador profesional. Así que aunque nos quisieran vender que estábamos ante el fin de la fuerza bruta (dado que Alpha Zero solo calcula unas 80.000 jugadas por segundo, en vez de las 70 millones de Stockfish), nada más lejos de la realidad: Alpha Zero no necesita tanta para jugar, pero necesita muchísima más para entrenarse.

Y es que las grandes líneas de investigación en el campo necesitan ingentes capacidades de cómputo: visión artificial, procesamiento, traducción o generación de lenguaje natural, están progresando a base de fuerza bruta. Todos recordamos los 16.000 núcleos del proyecto del X Lab de Google, procesando 10 millones de imágenes para categorizar gatitos. Es más, incluso ya tenemos productos a nivel comercial: podemos comprar las potentes GPU Tesla de Nvidia aunque, al menos aún no, las TPU de Google. Las redes neuronales requieren más potencia y ya vamos teniendo procesadores viables con suficiente capacidad de cómputo; ahora necesitamos los datos, ¿de dónde los sacamos?

El oro azul

La herramienta Data Selfie monitoriza nuestra actividad en Facebook

Uso una aplicación llamada Data Selfie que simula la monitorización de datos que Facebook hace de mí a partir de mi actividad. Facebook sabe el tiempo que pasas mirando cada entrada y los likes que das, sabe qué tipo de objetos hay en cada foto que contemplas y, evidentemente, qué personalidades aparecen. A partir de ello calcula tu orientación religiosa, política, si eres impulsivo o reflexivo a la hora de tomar decisiones, si eres abierto a la hora de cambiar de opinión, si estás comprometido o no con causas sociales o, lo que más le interesa, tus preferencias a la hora de comprar. Así se crea tu perfil digital, tu otro yo que vive en la red,

¿Y para qué podría valer? Entiendo que si soy alguien importante, pueda interesar dicho perfil pero, ¿a quién puede importarle que yo sea católico o mahometano, o que me gusten las webs de coches y de cocina japonesa? Un perfil solo no tiene ningún interés, pero muchos sí, sobre todo en tres sentidos: para investigar (psicólogos, sociólogos, economistas, etc. están encantados de poder hacer experimentos con gigantescas bases de datos estadísticos de las costumbres de la gente), para vender (saber el perfil como consumidores de millones de personas equivale a saber qué es lo que van a querer comprar millones de personas) y, lo más escalofriante, para manipular la forma de pensar de la población.

Los de Cambridge Analytica utilizaron el perfil digital de 50 millones de personas (como mínimo, ahora se habla de más de 80) para que votaran, para más INRI, a Donald Trump. A pesar del escándalo y de las protestas y sanciones a nivel político y económico que esto pueda generar, no pasará nada. Nadie está abandonando masivamente Facebook porque esto era algo que ya sabíamos y que, curiosamente, no nos ha importado nunca. Ya sé desde hace mucho que un montón de empresas compran, venden y compiten por mis datos. Ya sabíamos que ninguna aplicación es, realmente, gratis (¿Para qué quiere la aplicación de dibujar unicornios con la que juega mi hija saber su geolocalización?), pero no nos importa. No nos duelen prendas en vender nuestra alma al diablo con tal de disfrutar un rato jugando al Candycrush.

La firma finlandesa F-Secure avalada por la Europol, realizó un pequeño experimento en una cafetería londinense. Para obtener Wifi gratis los usuarios debían aceptar una serie de cláusulas entre las que figuraba entregar a sus primogénitos por toda la eternidad. Seis usuarios aceptaron la “cláusula Herodes” ¿Qué se demostró? Una obviedad: que nadie lee los legalmente enrevesados “Términos y condiciones de uso” que aceptamos ciegamente cada vez que descargamos una aplicación. Si lo hiciéramos podríamos comprobar que nosotros, y no la aplicación que descargamos, somos el verdadero producto con el que se comercia.

Nadie lee los legalmente enrevesados “Términos y condiciones de uso” que aceptamos ciegamente cada vez que descargamos una aplicación. Si lo hiciéramos podríamos comprobar que nosotros, y no la aplicación que descargamos, somos el verdadero producto con el que se comercia

Ya sabemos los nombres de estas grandes empresas dedicadas al comercio con nuestros datos: Acxiom, Corelogic, Datalogix, eBureau, ID Anallytics, Intelius, PeekYou, Rapleaf y Recorded Future (en España tenemos a la alicantina adSalsa). Según Amnistía Internacional, en Europa operan ahora mismo, al menos, cincuenta de estas data brokers. Y es que el negocio de los datos parece bastante floreciente (Los de Twitter te ofrecen acceso a datos de Facebook, YouTube, Google Buzz y, obviamente, Twitter desde 300 dólares al mes).

El fin de la intimidad

Algunos historiadores comentan que la distinción entre vida privada y vida pública es algo minoritario en la historia de la humanidad (igual que el amor romántico), siendo un invento de la Edad Moderna. Cuando llegó el contractualismo y con él las declaraciones de derechos humanos, pronto se protegió el derecho a la privacidad o intimidad: yo tengo derecho a que una parte de mi vida sea accesible a quien sólo yo quiera. Este espacio se entendió, sobre todo, como el ámbito doméstico (“de puertas hacia dentro”), en donde uno tiene sus relaciones de pareja y familiares.

Sin embargo, y de forma algo inexplicable, los adolescentes actuales suben voluntariamente a la red toda su vida privada. Cuando hace no tanto, que alguien leyera tu diario (que incluso llevaba un pequeño candado) era considerado como un grave atentado a tu intimidad, ahora se escriben blogs en los que se expone a todo el mundo, sin el más mínimo pudor, las andanzas amorosas del finde pasado. Subimos fotos de lo que comemos, de cualquier paisaje mínimamente bonito por el que pasemos, de nuestras mascotas y de nuestros hijos (a menudo indistinguibles) y, por supuesto, de nuestros viajes.

Es más, es que si no las subimos parece que los sucesos que representan no hubiesen sucedido. Mi estancia en Edimburgo, si no fuera subida a la nube, sucumbiría a lo efímero, quedaría olvidada en el tiempo; sería como si nunca hubiese pasado. Empero, si la fotografío y la elevo a los altares de lo público, si la hago visible a los demás, es como si cobrara peso ontológico. Como bien decía, aunque en un contexto muy diferente, el agudo obispo de Berkeley: ser es ser percibido.

Es divertido el artículo de Krista Burton publicado en el New York Times criticando a las parejas que publicitan su amor desvergonzadamente en Instagram ¿Sería su relación similar sin esta red social? Seguramente que no y, es más, la pregunta crucial es: ¿Sería su relación sin esta red social?

No sabemos qué fue antes, si el huevo o la gallina: un individuo narcisista deseoso de que todo el mundo sepa hasta el más mínimo detalle de su vida o unas herramientas tecnológicas especialmente diseñadas para satisfacer esta orgía del ego. Suponemos que ambos sucesos se han ido retroalimentando mutuamente para que, contra todo pronóstico, el ser humano haya utilizado su mejor tecnología para construir al propagador y amplificador de cotilleos más poderoso jamás diseñado: internet tal y como funciona a día de hoy.

Entonces tenemos ya la fórmula perfecta: antiguos algoritmos que se vuelven muy poderosos gracias a la enorme capacidad de cómputo actual y una población gentilmente dispuesta a ceder todos los datos que hagan falta… ¿cuál será la consecuencia? Aparte de que podremos llegar a un mundo como el de Freebook (si no estamos ya en él), todo indica que vamos hacia uno en el que los algoritmos van, progresivamente, a tener mucho más que decir…

El poder algorítmico

Poner mis datos en manos de algoritmos propicia que, con esos datos, se puedan hacer mejores predicciones con respecto a mi comportamiento, mejores incluso, que las que yo podría hacer con respecto a mí mismo. Está cerca de llegar el verano y, en vista de los kilitos que he cogido esta Semana Santa, decido apuntarme al gimnasio con la saludable intención de ir tres veces a la semana de aquí hasta julio ¿Voy a cumplir este objetivo?

Supongamos que en mi perfil digital están almacenadas con precisión todas las veces que, en ocasiones anteriores, he hecho propósitos similares: fechas de asistencia, duración de las sesiones, ejercicios realizados, ritmos cardíacos, calorías perdidas… todo. Con esa información, un algoritmo podría escrutar mis posibilidades de éxito y apostar a favor en contra, seguramente, con mucha más precisión y objetividad que yo: no Santi, no te lo crees ni tú. Irás dos días y te borraras.

Vale, ¿y qué? Pongamos ahora un ejemplo más potente. Supongamos que de toda mi vida he sido una persona de derechas. Lo soy tanto por tradición familiar (mi abuelo y mi padre lo eran), como por convicciones (a mí los antisistema como que no). Entonces llegan las elecciones y voy a votar, muy decidido, al partido de derechas al que he votado siempre. Pero de camino al colegio electoral me encuentro con una antigua compañera de instituto y nos tomamos un café. Es una chica encantadora que, además, está mucho más guapa que cuando la veía en clase.

Poner mis datos en manos de algoritmos propicia que, con esos datos, se puedan hacer mejores predicciones con respecto a mi comportamiento, mejores incluso, que las que yo podría hacer con respecto a mí mismo

En la conversación entra el tema de la política y resulta que es una ferviente activista de izquierdas (Nadie es perfecto). El caso es que, embelesado por sus ojos verdes y su dulce tono de voz, no me atrevo a llevarle la contraria y, poco a poco, hasta me van pareciendo muy convincentes sus argumentos anticapitalistas. Al final, nos despedimos y, en un estado casi hipnótico, llego al colegio electoral y voto a un partido de izquierdas. Cuando vuelvo a casa y se me pasa el efecto narcótico me paro y pienso… ¿Qué he hecho? ¿Por qué demonios he votado yo a la izquierda?

¿Qué pasaría si hubiese dejado esta decisión en manos de un algoritmo que votara por mí en función de mi perfil digital? Que la decisión hubiese sido la correcta ya que el algoritmo no se hubiese dejado afectar por una situación puntual y yo no me estaría lamentando del error. Entonces, ¿estamos diciendo que un programa informático podría decidir mi voto mejor que yo? Así es… pero… ¿dónde deja esto a nuestros sacralizados sistemas democráticos?

Demos un paso más. Pensemos que no solo en la elección de gobernante, sino que en todas y cada una de las decisiones de nuestra vida, podrían existir algoritmos que podrían elegir por nosotros mucho mejor que nosotros mismos. Podrían elegir nuestra vocación académica, nuestro trabajo ideal, incluso nuestra pareja y amigos. Bueno… siempre podríamos elegir no hacerles caso y tomar nosotros la decisión. Sí, pero la elección es complicada: elegir libremente en contra del algoritmo es tomar una decisión a sabiendas que nos equivocamos, a sabiendas de que es la decisión incorrecta ¿Votaríamos a la izquierda sabiendo que somos de derechas y que, posteriormente, nos sentiremos mal por haberlo hecho?

El futuro nos pondrá en la disyuntiva de dejar el poder en manos de inteligencias artificiales que decidan con mucha eficacia o seguir decidiendo nosotros pero errando

Podríamos hacerlo, pero el caso es que, en un mundo competitivo, perderíamos contra los que no lo hacen ¿Podrías competir en un puesto de trabajo contra alguien que ha sido aconsejado, conducido y entrenado desde su infancia para él, en vista de que sus aptitudes naturales eran idóneas para el cargo? Imposible. El futuro nos pondrá en la disyuntiva de dejar el poder en manos de inteligencias artificiales que decidan con mucha eficacia o seguir decidiendo nosotros pero errando.

¡No! ¡Jamás cederemos el poder a máquinas desalmadas! ¿Seguro? Otro ejemplo más. Mañana tienen que operar a tu hija a corazón abierto ¿Quién prefieres que lo haga? ¿Un cirujano humano o un robot con una eficacia absoluta (miles de intervenciones realizadas sin un solo error)? Y una pregunta con trampa: ¿preferirías que te gobernara una inteligencia artificial diseñada para hacer siempre el bien o… Donald Trump?

Todo parece indicar, tal y como tan magistralmente nos cuenta Harari en su recomendable Homo Deus, que iremos dejando la responsabilidad (a parte del trabajo duro) en manos de algoritmos y que nosotros seremos algo así como los reyes de las monarquías absolutas: dejaremos el aburrido ejercicio de gobierno en manos de validos, mientras que nos dedicaremos a disfrutar de la vida… o a quién sabe qué ¿Será ese el futuro?

Sobre Santiago Sánchez-Migallón: Profesor de Filosofía atrapado en un bucle: construir una mente artificial, a la vez que construye la suya propia. Fracasó en ambos proyectos, pero como el bucle está programado para detenerse solo cuando dé un resultado positivo, allí sigue, iteración tras iteración. Quizá no llegue a ningún lado, pero dice que el camino está siendo fascinante. Darwinista, laplaciano y criptoateo, se especializó en Filosofía de la Inteligencia Artificial, neurociencias y Filosofía de la Biología. Es por ello que algunos lo caracterizan de filósofo ciberpunk, aunque esa etiqueta le parece algo infantil. Adora a Turing y a Wittgenstein y, en general, detesta a los postmodernos. Es el dueño del Blog La Máquina de Von Neumann y colabora asiduamente en Hypérbole y en La Nueva Ilustración Evolucionista.

Fotos | iStock, Book Catalog

También te recomendamos

¿Y si pudieran detener al criminal antes de que cometa el crimen? Problemas y desafíos de la policía predictiva

El día después de que podamos subir nuestro cerebro a un ordenador y replicarlo en otro lado

Hay un motivo por el que a nuestro ojo le vuelve loco el negro puro de OLED

– La noticia

Distopías probables: cuando el Gran Hermano seamos nosotros mismos

fue publicada originalmente en

Xataka

por
Santiago Sánchez-Migallón

.

Powered by WPeMatico

Compártelo en tu red social:

O puedes copiar y compartir este enlace
Related Posts