21 KiB
El código es político, los algoritmos son armas matemáticas de destrucción 1
Benjamin Cadon
Se escucha mucho hablar de ellos, pero jamás se los ve. ¿Qué son esos algoritmos, estas criaturas invisibles e inasequibles que se deslizan en nuestros cerebros y habitan en nuestros bolsillos? ¿Qué propósitos los animan?
Desde un punto de vista formal, un algoritmo no es más que una inofensiva seguidilla de operaciones alimentada por los datos y que produce un resultado. Sin embargo, ellos automatizan la resolución de un conjunto de problemas complejos 2; y es así que algunos se transforman en Inteligencias Artificiales avanzadas, gracias a empresas que las atiborran con los datos que les entregamos amable y gratuitamente.
Un bestiario 3 de algoritmos
No hay nada como saber de qué se alimentan para identificar y comprender mejor su papel en la sociedad de los humanos informatizados. Ellos no nacieron de una chispa eléctrica en el fondo de un mar de sulfurosos datos. Sus progenitores son los seres humanos, quienes escriben las líneas de código para realizar un programa portador de un proyecto político y societal dictado por un patrocinador público o privado. Estos algoritmos nunca son «neutros» e imparciales, y se centran en realizar la misión que les ha sido asignada, con frecuencia por occidentales de género masculino procedentes de las clases altas acunadas por el capitalismo.
Es necesario mencionar también que un algoritmo tonto alimentado con muchos buenos datos conseguirá mayores éxitos que una famosa Inteligencia Artificial, y esto, aunque ésta tenga las garras afiladas. Cómo no citar estos ogros americanos que son los GAFAM (Google, Apple, Facebook, Amazon y Microsoft) o BATX para sus alter egos en China (Baidu, Alibaba, Tencent y Xiaomi). Su metabolismo está basado en el hecho de recolectar, con nuestra ayuda, un máximo de datos sobre nuestros más pequeños actos y gestos, «aumentando» nuestro cotidiano con un gran número de aplicaciones móviles y de objetos conectados, supuestamente, para hacer más fáciles nuestras vidas.
Quienes comen nuestros datos personales
Los algoritmos resultantes son polimorfos. En primer lugar ellos han crecido observándonos desde lejos, espiando nuestra actividad en las redes, los lugares que más frecuentamos. Se elevan a continuación por encima de nuestras interacciones con el objetivo de determinar mejor quien hace autoridad, pasando de la lógica del voto popular hacia una clasificación basada en el mérito.
En un tercer movimiento, se adentran en nuestra intimidad digital analizando la calidad y la frecuencia de nuestros intercambios para evaluar nuestra reputación y para rastrear nuestras afinidades. Por último se esconden de nuestra mirada para predecir mejor el menor de nuestros deseos, y poder condicionarlos.
Tabla de Dominique Cardon en «À quoi rêvent les algorithmes» 4 (¿Con qué sueñan los algoritmos?)
Estas diferentes generaciones de algoritmos conviven juntas y son fácilmente reconocibles debido a que son muy eficaces en brindarnos muchos servicios, siempre y cuando paguemos nuestro «dividendo digital» 5, ya que discretizan nuestra existencia, rebanándola en lonchas tan finas como sea posible para extraer toda información 6 monetizable.
Cada Estado cría a un ogro horrible que trabaja en temas de inteligencia. Sus propios intereses se enfrentan con frecuencia con los de sus amigos ogros comerciantes, pero estos lo dejan hurtar dentro de sus despensas 7. Su apetito insaciable le lleva a estar, a menudo, al acecho allí donde transitan un gran volumen de los datos. Se supone que debería poder encontrar un terrorista en un pajar, aunque sufre a menudo de miopía y de obesidad, es más eficaz robando secretos políticos e industriales que cogiendo a los malos antes de que pasen a la acción.
Quienes comen los datos públicos
Los diferentes estratos administrativos de la fuerza pública cultivan igualmente jardines florecientes de datos de sabores variados: biométricos, fiscales, medioambientales, urbanos, profesionales o incluso relacionados con la salud.
En apariencia neutrales y objetivas, las criaturas algorítmicas públicas serían la solución a las desigualdades en el trato causadas por el libre arbitrio de algunos funcionarios. Sin embargo, ellas pueden transformar a familias enteras en insectos kafkianos colgados de la máquina de escribir de la película Brazil 8. Actualmente, son ellas las que determinan a qué escuela debe asistir su hijo, si pueden beneficiar de ayudas sociales, a qué trabajo debe aplicar, o en qué momento del ciclo menstrual podrán procrear.
Los comerciantes de los datos personales proponen amablemente su ayuda a las organismos públicos para digitalizar y clonar las más bellas plantas de su jardín público, ya se traten de flores culturales o de hierbas medicinales. Como los comerciantes, la fuerza pública también esta evolucionando de la observación a la predicción, no solamente para optimizar la recogida de basura, sino también para enviar las fuerzas policiales allí donde un delito tiene mayor probabilidad de ser cometido. Todo gracias a algoritmo-perros como PredPol CompStat o HunchLab 9.
Quienes comen el dinero
Thomas Peterffy es un financiero que se dedicó a remplazar los agentes de bolsa y sus operaciones manuales por máquinas automatizadas. En 1987, constatando que el número de órdenes pasadas por Peterffy era sorprendentemente elevado, los responsables de los mercados enviaron a un inspector. Este esperaba encontrar una sala de mercados repleta de hombres vociferando y sudando, pero sólo encontró un ordenador IBM conectado a una terminal oficial del Nasdaq 10. Así fue como los algoritmos se lanzaron a los mercados financieros.
Hoy en día, el *algotrading (trading con algoritmos) se ha generalizado, y *los parpadeos algorítmicos serenos de las redes informáticas han remplazado a los corredores de bolsa (traders) neuróticos. Pero estas criaturas digitales de la finanzas se han visto sobrepasado por los *algotraders *de alta frecuencias. Estos se desplazan a la velocidad de la luz, construyendo caminos para llegar a la orden de compra y venta más rápidamente que los otros 11, y consiguen así un beneficio en cada operación. Se cobijan dentro de los numerosos «dark pools» que los bancos han creado gracias a la relajación paradójica de las reglamentaciones. En ese confort lucrativo interrumpido a veces por «Flash Crashs» 12, aumenta la diversidad de especies algorítmicas (Blast, Stealth, Sniffer, Iceberg, Shark, Sumo 13) al mismo tiempo que la complejidad de sus estrategias, volviendo los «mercados» cada vez más ilegibles e incontrolables aunque se supone que se regulan a golpe de manos invisibles.
Todo esto impacta en lo que llamamos «la economía real», es decir, la vida de la gente. Por ejemplo, cuando piratas informáticos sirios toman el control de la cuenta de Twitter de la Casa Blanca y mandan un tuit alarmista, este es inmediatamente leído por los robots algotraders, haciendo caer la bolsa en picado a alturas de 136 mil millones de dólares en 3 minutos 14.
En la jungla de las finanzas, otra criatura algorítmica con la forma de un gusano se duplica en todos los ordenadores receptores y engorda al ritmo de su utilización, devorando a su paso una cantidad impresionante de electricidad 15. Se llama la «blockchain» 16 y se desarrolló a partir del «bitcoin», la primera crypto-moneda que no necesita un organismo bancario central ligado a un Estado. El bitcoin vale hoy 28 mil millones de dólares 17.
Por suerte, iniciativas como Ethereum 18 han permitido a estos gusanos poder mutar para no solamente registrar transacciones, sino también transportar bases de datos y aplicaciones «inteligentes» (los «smart contratos»). Esto impulsa proyectos como la DAO 19 (Decentralized Autonomous Organisation), un fondo de inversión descentralizado sin directorio donde cada persona toma parte de las decisiones en función de su capital. Este fondo consiguió rápidamente 150 mil millones de dólares de diferentes inversores.
Sin embargo, un personaje algo travieso consiguió sustraer un tercio de este capital explotando una vulnerabilidad (él lo definió como una funcionalidad) del código grabado en el cuerpo del gusano DAO alojado por Ethereum. ¿Qué hacer?¿Cortar algunos de los anillos del gusano enfermo o matarlo para crear uno nuevo? Aunque los inversores parten del principio libertario según el cual «el código hace la ley», optaron por la segunda solución para que los inversores recuperasen su dinero. Esto plantea importantes cuestiones legales, particularmente a la hora de definir las responsabilidades en una red descentralizada 20 o imaginar formas de gobernanza para este «código» que suplanta en ciertos dominios las leyes de los Estados.
Otras criaturas algorítmicas son aficionadas al dinero y buscan reemplazar el trabajo humano, maximizando la productividad y los costos; y contribuyendo así a una mayor concentración de capitales. Las grandes empresas lo han entendido muy bien, y es así que Foxconn anuncia el remplazo de la casi totalidad de sus empleados por un millón de robots 21 y el gabinete de abogados BakerHostetler contrata a ROSS una inteligencia artificial para estudiar más rápidamente los complejos legajos jurídicos 22. La «muerte del trabajo» ha sido declarada 23 pero el régimen económico y social que debería sustituirlo tarda en aparecer.
Quienes comen los cerebros humanos
Las últimas variedades identificadas dentro de nuestro bestiario algorítmico son aquellas cuya voluntad es llenar el cerebro humano y aquellas que, por el contrario, aspiran a remplazarlo. Las inteligencias artificiales deben nutrirse con buenos datos para poder suplantar a los humanos dentro de un gran número de procesos. Es lo que hace Google con su proyecto reCAPTCHA 24, esas imágenes que debemos descifrar y transcribir para hacer comprender al servidor que no somos robots, sino humanos, pasando así a la inversa el test de Turing 25. La gran innovación de reCAPTCHA, es que el fruto de nuestras respuestas nutre directamente las inteligencias artificiales de los programas de Google: descifrado de texto para mejorar la digitalización de libros, identificación de los números de edificios para afinar la cartografía y ahora, identificación de imágenes que contienen animales o carteles de señalización para hacer que el piloto automático de los automóviles sean menos miopes. Acumulados, los resultados se vuelven cada vez más pertinentes representando millones de horas de trabajo humano 26.
En lo que se refiere al algoritmo que contribuye a nutrir nuestro cerebro, este es como su colega recolector de datos personales, cada vez más elaborado y sutil. Alimentamos su cerebro cotidianamente con la ayuda de un motor de búsqueda que nos indicará el lugar más pertinente, la información más precisa, el vídeo más emblemático. En 2017, en el 92,8 % de los casos se trata de Google. Esto lo transforma en un dictador cultural con una posición hegemónica completamente inusitada (pero, ¡¿qué hacen las autoridades reguladoras de la competencia?!). No aparecer en los primeros resultados es como no existir. Sin embargo, el algoritmo de búsqueda de Google es un secreto industrial celosamente guardado y sólo puede ser contrarrestado con el derecho al olvido 27.
La experiencia surrealista realizada en 2010, durante las elecciones del congreso de EE.UU, sobre 61 millones de usuarios, por los investigadores del laboratorio de Facebook 28, demostró que el control de los mensajes de movilización política tiene una influencia directa sobre el voto de las personas, así como el de sus amigos y amigos de amigos. Ahora que, las “noticias falsas” remplazan las verdaderas y engrosan la flota de la posverdad, podemos preguntarnos ¿a qué bando político pertenecen los algoritmos que deciden las publicaciones que aparecen en nuestros «muros»?
Los problemas de acoso y discursos de odio en estas plataformas, colocan a los algoritmos y sus diseñadores en la posición de censores morales de gran parte de la sociedad.
Se podría pensar que para alcanzar más rápidamente el punto de singularidad tecnológica 29, nuestras criaturas digitales agazapadas en la sombra se las ingenian para volvernos serviles.
La gobernabilidad algorítmica 30 sería ese nuevo modo de gobierno de las conductas, fruto de deslizamientos en nuestra relación con el otro, el grupo, el mundo, con el sentido mismo de las cosas, gracias o a pesar de un giro digital. Todo ello conlleva repercusiones fundamentales sobre la manera cómo se fabrican las normas y la obediencia 31.
Cuando un algoritmo come del cerebro humano, esto puede provocar también su muerte clínica. Qué decir de los algoritmos que predefinen las víctimas de los drones asesinos piloteados a distancia por seres humanos. ¿Cómo los algoritmos de un automóvil sin conductor escogen el menor mal/número de muertos cuando están implicados en un accidente? La ciberguerra vuela rasante sobre nuestras conexiones a la red, y cada país afila sus algoritmos para volverse cada vez más insidiosamente peligrosos que los de sus enemigos.
¿Cómo saber si un algoritmo es malo o bueno?
¿Algoritmo malo, aquel que transformó las cámaras de videovigilancia en un ejército de botnets sanguinarios que se precipitan en masa para estrangular servidores? ¿Algoritmo bueno, aquel que me recuerda el aniversario de mis amigos? No es tan simple formular estos criterios considerando la interdependencia entre algoritmo, datos y las intenciones que los rigen. No obstante, se puede esperar que un algoritmo bueno responda a lo siguiente:
-
Ser «abierto» y alimentarse exclusivamente de datos abiertos («open data»), completos y «cosechables» por otros, e idealmente también poder discriminar su acceso para volverse de pago para ciertos usos comerciales.
-
Ser «auditable» y por lo tanto constituido por un código de fuente abierto y documentado.
Ser «leal y justo» para no provocar discriminaciones o injusticias (sociales 32, de género 33, etc), ni hacer daño a los seres humanos 34.
-
Ser «transparente 35» y capaz de realizar auditorías sistemáticas acerca de sus operaciones y evoluciones. En el caso de que esté dotado de capacidades de aprendizaje o de predicción, debe someterse a controles ciudadanos.
-
Ser «alterable» para de forma legítima responder a las reclamaciones que puedan engendrar modificaciones en su funcionamiento.
En esta búsqueda de una moral y ética algorítmica, también es necesario mencionar las API (Application Public Interface), quienes permiten que las criaturas digitales vayan cazando datos de otros servidores y servicios, o por el contrario que puedan colocar contenidos o cebos. Estas API suelen usar patente de software anti código abierto permitiendo a sus propietarios abrir o cerrar a discreción sus puertas. También pueden implementar un peaje cuando el tráfico de un algoritmo se vuelve abundante y su monetización se vuelve oportuna.
En el ámbito del sector público y de la sociedad civil, podemos imaginar que los criterios de apertura, transparencia, responsabilidad, modificabilidad sean algún día aplicados y respetados. Pero para el sector privado/comercial resulta más complicado imaginarse tal cosa ya que los datos y los algoritmos se han vuelto «el petróleo del futuro» 36...
De la misma manera, un grupo de investigadores americanos y algunas grandes empresas de lo digital han intentado formular los «principios para unos algoritmos responsables». Se han reunido para iniciar un proceso sobre la ética de las Inteligencias Artificiales 37, y comunicar a los políticos y ciudadanos preocupados que ellos «anticipan y administran» esta complejidad con buenos resultados y que realmente no es útil legislar.
Sin embargo, la cuestión no trata de exigir transparencia del código de los algoritmos, sino de sus objetivos y motivaciones 38. Para animarnos podemos citar el debate participativo en Francia sobre la «Ley de la república digital» que ha llevado a instituir un deber de transparencia para los algoritmos utilizados por las instituciones públicas 39, o referir a la iniciativa «TransAlgo» 40 de l’INRIA que aspira a evaluar la responsabilidad y la transparencia de los programas robots.
Futurutopías algorítmicas soberanas
Entonces, ¿cómo pasar de una bestia algorítmica a un algoritmo que alimentamos como un animal de compañía? ¿Compostamos algunas lombrices para dibujar las ramificaciones biotecnológicas que conducirán a los hombres y a la tecnología a vivir en una armonía de silicio? ¿Cómo podemos volver a tomar en nuestras manos nuestros destinos, nuestra autonomía mental, nuestra soberanía tecnológica hoy en día propulsada algorítmicamente en el espacio del control social?
El código es un objeto político, todo como este mundo «digital» repleto de algobots que se introducen en nuestras realidades.
En calidad de objetos políticos, podemos por lo tanto atacarlos con herramientas clásicas: militancia y *lobbying *didáctico ante los poderes públicos, tentativas para influir y ahondar en los procesos reglamentarios, valorización de las iniciativas que dan mayor autonomía y felicidad a los seres humanos. Igualmente oportuno, reivindicar un lugar más importante de la sociedad civil dentro de las instancias de regulación y de normalización de Internet, la adopción de un estándar por una tecnología de red 41 teniendo, por ejemplo, el equivalente a un articulo para la constitución de un país.
A nivel individual, es necesario sin duda alguna «desgooglizar» Internet 42, es decir, como lo que propone la asociación Framasoft, apoyarse en los alojamientos de servicios autónomos, transparentes, abiertos, neutros y solidarios (cf. iniciativa CHATONS 43), o por qué no autoalojar sus datos en un mini servidor poco ambicioso. Se puede, también, probar el camuflaje utilizando el cifrado de extremo a extremo, lo que no es siempre adaptable, ni adoptable (PGP y los correos electrónicos). Según las situaciones se puede tener recursos de interferencias intentando hacer desaparecer el dato «verdadero» dentro de datos ficticios pero creíbles que un algoritmo cómplice nos puede proveer en abundancia.
Del lado de los poderes públicos, queda mucho trabajo por hacer, la vía hacia la transparencia ética está trazada, sólo falta empujarlas hacia allí con firmeza. Por supuesto, si hay que adoptar un corte de pelo y un maquillaje 44 extraño para escapar a los sistemas de reconocimiento facial 45, del fichaje biométrico, de la vinculación de las bases de datos públicas, y las derivas digitales del estado de urgencia, todo ello nos invita a no meter todos nuestros bytes en una misma cesta.
También se puede tomar partido por nutrir estos «algoIAs» con basura. Como hicieron algunos usuarios de Twitter quienes consiguieron en menos de un día transformar la IA de Microsoft TAY en una entidad sexista, racista y pro-Hitler 46…Mejor criar pequeños «algoponis» quienes, con una ondulación de sus crines multicolores sobre un fondo de prados de datos, nos recordarían que «¡la amistad es mágica!».
Cursilerías a parte, quizás sea también necesario proponer un intermediario informático, un «proxy» entre nosotros, nuestros datos y los actores públicos y privados que los acogen. Este intermediario podría alojar confortablemente a Eliza 47, mi inteligencia artificial estrictamente personal que se nutre de mis actividades y de mis preferencias para ayudarme de la mejor manera a compartir mis datos y contenidos. Sea en el anonimato, sea entregándolos a los organismos públicos en una lógica de interés general, sea cifrándolos o escondiéndolos para seguir hablando con mis amigos que no llegaron a salir de las redes sociales comerciales.
Distribuidas en el bolsillos de cada uno, las IA personales podrían volverse simbióticas, con el acuerdo de sus tutores, y contar a la humanidad micro-ficciones adaptadas a su contexto político y cultural, con el propósito de construir realidades armoniosas dónde cohabitarán en paz los algoritmos, los humanos, la naturaleza y el mundo inorgánico.