¿Pueden algunos humanos utilizar herramientas de control y vigilancia para monitorear a otros? ¿Es esta vigilancia motivada por la seguridad, el dinero o el poder? ¿Es moralmente aceptable?
Por Gabriel C.I. | 18/01/2025
Introducción al documental «Sesgo Codificado»
Para la tercera parte de “La Industria del Periodismo” nos vamos a servir de un documental de Netflix titulado “sesgo codificado” para comentar algunos aspectos sobre la actualidad de los nuevos medios de comunicación y del impacto que estos tienen y tendrán sobre nuestras vidas, espero que os guste.
El impacto de los algoritmos y la vigilancia
Se trata de un documental que aborda el papel de los algoritmos en nuestras vidas y en las sociedades actuales. Al inicio del vídeo, aparece una investigadora del MIT, quien explica que existen ciertos algoritmos con sesgos racistas. Ella realizó un experimento en el que usó el sistema de reconocimiento facial, el cual identificaba correctamente las caras de personas blancas, pero no lograba detectar la de una persona negra, como Serena Williams. Este ejemplo muestra cómo el algoritmo del sistema de detección presenta un sesgo racial, lo que pone de manifiesto un problema de discriminación automatizada en algunos de los sistemas de inteligencia artificial.
Además, el documental hace énfasis en la vigilancia y el señalamiento a las personas a través de estos algoritmos sesgados. Se muestra, por ejemplo, un sistema de identificación y vigilancia que utiliza cámaras distribuidas por ciudades en China y Gran Bretaña. Estas cámaras capturan imágenes que son procesadas por algoritmos, los cuales cuentan con bases de datos de rostros. En un ejemplo de este sistema, un hombre que se cubre la cara es identificado como sospechoso, ya que el algoritmo lo considera una infracción al comportamiento normativo. Sin embargo, lo único que hace es taparse el rostro.
Una de las mujeres que aparece en el documental argumenta que ella es una persona, no un robot, y que tiene la libertad de actuar como desee sin que un aparato o algoritmo con sesgos le arrebate ese derecho. Se plantea entonces una cuestión ética: ¿Es lícito que un aparato te señale, te vigile o te juzgue? ¿En qué base se fundamentan estas decisiones? ¿Qué tiene de humano este sistema? ¿Es realmente compatible con nuestra naturaleza humana? ¿Pueden algunos humanos utilizar herramientas de control y vigilancia para monitorear a otros? ¿Es esta vigilancia motivada por la seguridad, el dinero o el poder? ¿Es moralmente aceptable?
La reflexión se extiende a la libertad individual: en un contexto donde gran parte de la información que consumimos está manipulada o sesgada, ¿somos realmente libres? ¿Qué grado, o poder de decisión, o de libre albedrío tenemos cuando gran parte de la información que recibimos no es real o está sesgada con el único fin de manipularnos? ¿Por qué nos esconden algunas informaciones y nos machacan desproporcionadamente con otras? Esta última pregunta parece sencilla de contestar.
Los algoritmos como reflejo de la sociedad: Poder y control en un mundo automatizado
El documental aborda los sesgos como un problema, pero plantea la pregunta: ¿podemos realmente escapar de los sesgos? ¿Acaso los algoritmos se escapan de este mundo y pertenecen a otro mundo? Diría que podemos canalizarlos, minimizarlos o controlarlos, pero de ninguna manera escapar de ellos. Los algoritmos, tampoco escapan de este mundo, ya que reflejan los sesgos de nuestra sociedad, pues son productos de ella y de nosotros. Los que tienen el poder y cedían el control a otros humanos, cambian a estos humanos (que también tenían sesgos, por ejemplo, las ffccss) por máquinas con algoritmos. Es decir, los mismos que controlaban a los individuos mediante otros humanos, ahora emplearan máquinas más eficientes para sustituir a esos humanos. Automatizando, robotizando y masificando estos procesos.
Esto lleva a una reflexión sobre el futuro: ¿queremos seguir siendo humanos o preferimos la integración con las IAs y el transhumanismo? ¿O acaso estos avances tecnológicos están siendo reservados para unos pocos, mientras el resto se queda atrás? Si no actuamos de manera crítica y reflexiva, es posible que terminemos siendo seres diferentes, clasificados por tecnologías que alteren nuestra esencia humana.
El peligro del uso fraudulento de los algoritmos por los grupos de poder. Ética del algoritmo
El documental también menciona el caso de Microsoft, que tuvo problemas con una IA debido a que los datos introducidos fueron manipulados por «trolls» o, según el documental, extremistas de derecha. Esta IA adquirió los sesgos de los que la diseñaron, lo que muestra el riesgo de que los algoritmos sean manipulados para reflejar ideologías perjudiciales. Sin embargo, se podría argumentar que esto no es un problema exclusivo de un grupo en particular, sino que, en última instancia, cualquier grupo de poder (ya sea de derecha, izquierda, religiones o cualquier otro) podría influir en el diseño de algoritmos con fines ideológicos.
Pero o lo hacen este grupo de trolls o de nazis, o lo hace alguien. Se puede dejar al libre albedrío, a la “libertad” del empresario para hacer lo que quiera o, puede estar, por ejemplo, al servicio de un Estado socialista que responda a los intereses de la mayoría, y no de unos pocos. Y es que tenemos mucho poder cada uno como individuos, como para dejar una herramienta de tales dimensiones a nuestro libre albedrío. No necesitamos estar vigilados, siempre y cuando tengamos cierto grado de civilización y respeto, así debemos entender que si todos hacemos lo mismo… (Kant). No podemos exactamente hacer lo que queramos, vivimos en una sociedad compleja, desarrollada y debemos dotarnos de unas normas o entender las que rigen el universo, para que tenga cierta capacidad de funcionamiento la sociedad. El posmodernismo tiende a luchar contra la naturaleza del universo y del planeta, o más bien, intenta imponerse. Parece que la ausencia de normativa pueda deberse a un “neoliberalismo sociológico”.
¿Qué pasa si uso Thor o me hago cuentas, como ellos las bancarias, en otros países con regulaciones laxas o sin regulación al respecto?
Si es lícito que los ricos dispongan de países sin regulación para no pagar impuestos y saltarse las normas… ¿qué impide al resto hacer lo mismo con sus cuentas en redes sociales, por ejemplo? ¿Qué nos impide mentir a la IA y que los sesgos que usa sean inútiles? ¿Puede predecir la IA que nada de lo que decimos es verdad? ¿Por qué no engañarlos sistemáticamente como hacen ellos con nosotros con los algoritmos y los paraísos fiscales y tantas cosas?
El documental no solo aborda los peligros de los algoritmos y sus sesgos para la libertad, sino también su tremendo potencial. Este potencial puede ser tanto positivo como negativo, dependiendo de la forma en que se utilice. Al principio, se menciona el caso de Deep Blue, un sistema informático que, en 1997, derrotó al gran campeón de ajedrez Garry Kasparov, realizando operaciones lógices y demostrando el poder de los algoritmos en la resolución de problemas complejos.
Algoritmos que aprenden: ¿Qué datos se eligen y por qué?
También se hace referencia a los PLS (Partial Least Squares), una técnica de modelado estadístico utilizada en análisis multivariados. Esta técnica se utiliza para encontrar relaciones lineales, mediante ecuaciones lógicas, entre un conjunto de variables predictoras y una variable de respuesta (dependiente). A pesar de que esta técnica se usa desde hace siglos, comenzó a desarrollarse en los años 70 para la computación, y ahora se emplea en la creación de algoritmos que alimentan una variedad de dispositivos y sistemas de inteligencia artificial.
El documental destaca una diferencia crucial entre la computación tradicional y los algoritmos basados en PLS: mientras que en la primera se daban órdenes específicas a las máquinas, en la segunda se introducen grandes cantidades de datos para que el sistema aprenda y se adapte a los patrones que encuentra.
Y el problema radica en qué datos se introducen, por qué se seleccionan esos datos y no otros, y para qué se van a utilizar, así como en cómo los algoritmos van a tratar esos datos. Los modelos de obtención de datos, para su posterior tratamiento lógico, pueden ser realmente útiles, respondiendo a la segunda pregunta, en multitud de ámbitos, especialmente para investigadores o periodistas.
Los algoritmos como herramienta para el análisis y predicción del futuro
En realidad, los algoritmos son sistemas lógicos que nos pueden ayudar a resolver problemas, e incluso a predecir el futuro, como otros sistemas lógicos. Así, deben ser herramientas fundamentales al servicio de los investigadores y periodistas para el análisis de datos y para llegar a conclusiones más fundamentadas.
China, EEUU y Occidente: tres modelos, ¿mismos intereses?
Resulta interesante cómo el documental contrasta el modelo más cercano a la Europa socialdemócrata del siglo pasado, de capitalismo de Estado, representado por China, con el modelo neoliberal actual de Occidente. Se presenta una comparación entre la normativa estricta y regulada de China (socialismo, normativas, orden y organización) y la ausencia de regulación en Occidente (neoliberalismo, anarcocapitalismo, la ley del más fuerte). Sin embargo, esta comparación no es tan clara. Occidente tampoco escapa del mundo, y el mundo tiene normas. Al final del documental, se afirma textualmente: “Hacen lo mismo, pero Estados Unidos no lo reconoce y China sí.” Esta declaración plantea las preguntas: ¿Cómo que hacen lo mismo, pero uno no lo reconoce? ¿Qué puede llevar a EEUU a no reconocer las cosas que hace?
Igual, porque China puede reconocer a la opinión pública que usa esos sistemas de vigilancia desde el Estado y para la protección ciudadana; pero igual EEUU no puede reconocer a la opinión pública, por miedo a represalias, que sus algoritmos están al servicio de una élite capitalista que tiene sus propios intereses (económicos y no de seguridad) y que no tienen por qué ser los de los ciudadanos estadounidenses. ¿Están haciendo un uso fraudulento de los algoritmos para enriquecerse personalmente, o de las compañías para vendernos sus productos; y clasificarnos, y las autoridades lo tapan o miran para otro lado? ¿Regula EEUU, o no regula a propósito y conscientemente para que los que impongan sus normas sean los dueños de las empresas que controlan los algoritmos?
El algoritmo como herramienta de manipulación social
En el documental, también se menciona cómo los bancos utilizan algoritmos para detectar las vulnerabilidades de las personas, con el objetivo de aprovecharse de ellas. Esto es inmoral. Parece un atentado contra la humanidad. Se presenta el caso de un profesor que casi fue despedido debido a que un algoritmo lo señaló sin explicación alguna. Este tipo de situaciones son profundamente desesperanzadoras respecto a casi cualquier probable futuro que nos plantean.
O, tal vez, lo que ocurre es que Estados Unidos es igualmente desproporcionado en su vigilancia ciudadana como China, pero prefiere ocultarlo para no mostrar un autoritarismo encubierto. En cualquier caso, si lo encubren, abren la puerta a la especulación y las teorías conspirativas, de las cuales tanto se quejan. Si no quieren que la gente piense y especule, deberían ser transparentes, pero no criminalizar a la ciudadanía por pensar.
¡El algoritmo no es el problema, el problema es quién lo maneja y con qué fines!
Un algoritmo no es un ente independiente ni tiene poder propio. Son los empresarios y el Estado quienes los crean, los organizan y controlan, y son ellos quienes tienen el poder sobre los algoritmos y, por ende, sobre el resto de la sociedad.
La capacidad rompedora del ser humano
Pero el algoritmo no deja de ser, en la mayoría de los casos, un sistema lógico muy enrocado que no es capaz de saltarse sus propias normas, de ninguna forma. No actúa como el ser humano, que tiene una capacidad mayor para adaptarse y romper con esas reglas. Desde este punto de vista, podemos afirmar que el ser humano tiene un mayor potencial al poder salirse de la lógica de las ecuaciones lineales. El humano no está sometido a las normas que rigen los algoritmos, sino que sigue otras reglas, y, lo más importante, es quien establece esas reglas. Así, el ser humano es como un Dios en el universo de los algoritmos.
¿Cómo pueden los algoritmos tener sesgos a favor de la mayoría, si están diseñados en un sistema capitalista controlado por la naturaleza que crean las propias relaciones de producción capitalistas? Es imposible. Así siempre estarán en manos de una minoría. Los sesgos de los algoritmos y el uso de estos dispositivos que dependen de algoritmos sesgados estarán siempre orientados a defender los intereses de los dueños de estos sistemas.
Por último, creo que este documental puede servir para crear conciencia sobre los peligros muy reales que los algoritmos suponen para la sociedad. Es un problema que nos afecta a todos. Diría que es imprescindible en el ámbito educativo, ya que las futuras generaciones son quienes se verán más afectadas por este tipo de tecnologías. Las autoridades educativas deberían proporcionarnos a todos las herramientas necesarias para que podamos defendernos de estos abusos, pero también para que podamos hacer un uso responsable de los algoritmos, que no perjudiquen al resto de la sociedad.
Se el primero en comentar