Atlas de IA

Crawford, K. (2021/25 -3ª ed.-). Atlas de IA. Poder, política y costes planetarios de la inteligencia artificial. Barcelona: NED.

Para comenzar: la IA no es artificial ni inteligente, es un certificado de poder. La buena ciencia necesita pruebas sólidas para dar este enunciado, tan radical/rotundo, por válido. Veamos entonces que da de sí este volumen, escrito por una polímata, bien conocida a escala internacional.

Mejor que de IA se debiera hablar de aprendizaje automático, en el que se incluye, además del aspecto técnico -algoritmos, redes neuronales…-, la política, la mano de obra, la cultura y el capital -el atlas (humilde/parcial) de la IA: otra forma de ver las cosas (industria de extracción, estructura de poder, agotamiento de los recursos naturales…)-.

Desde esta específica atalaya -la de la interconexión: múltiples aspectos de la IA- se posibilitan diferentes concepciones de políticas planetarias, que es justamente lo que se pretende conseguir. En definitiva, se trata de dejar de lado una visión de túnel de la computación -sus innegables aportaciones (muy beneficiosas para distintos ámbitos: investigación, salud, educación…)-, para adentrarse en otro marco -el de la logística de la extracción– en el que se desarrolla: una reducción constante de minerales, de agua, de combustibles fósiles… y un aumento de la contaminación y del desgaste del suelo. La IA extrae -de nosotros y del planeta- mucho más de lo que se suele dar a conocer -invisibilidad-, dado que, al menos en parte, se trata de ocultar (ignorancia acerca de la cadena de suministros, desechos que queremos olvidar, secretos corporativos, ignorancia ambiental – impactos ecológicos, huella de carbono-, seguridad, ceguera oceánica…).

Si se quiere entonces entender el negocio de la IA, se han de tener en cuenta la guerra, la hambruna y la muerte que frecuentemente lleva consigo la minería, la devastación asociada a su extracción, las formas modernas de esclavitud (elementos/minerales de tierras raras, minerales de zona de conflicto… mina planetaria).

En el caso concreto del trabajo: hay consenso en la mayoría de los enfoques computacionales sobre la aplicación de una lógica de la eficiencia, que implica vigilancia y automatización (de la mano de obra), aspectos no precisamente muy propicios para la salud física y mental de los trabajadores -son tratados como robots: maximizar la extracción de valor de los trabajadores, apéndices de la máquina, contexto panóptico, baja remuneración, trabajos alternativos, privatización del tiempo… diversos traumas psicológicos-.

Pasemos a los datos: cualquier cosa puede convertirse en un dato utilizable sin limitaciones especiales -masa agregada, vaciamiento del contexto, el significado y la especificidad, falta de consentimiento, lógica de la extracción-. Ningún dato en sí es comparable a tener más datos: son intercambiables (más es mejor: los datos son el nuevo petróleo, recursos naturales, minería de datos, sujetos de datos, actitud colonizadora, saqueo del especio público). La privacidad, la ética y la seguridad no parecen asuntos que haya que tener específicamente en cuenta.

Los datos han de ser clasificados. Lo que ya conocemos es que estas clasificaciones están condicionadas por sesgos (prejuicios indebidos, errores de clasificación…). La solución última no debiera limitarse a su corrección sin más, sino al análisis de la maquinaria epistémica -la construcción del conocimiento, la perpetuación de las desigualdades, la asimetría permanente del poder-. Se pretende hacer ver/creer que algo es objetivo -al ser computable/clasificable: simplificación de la complejidad-, cuando es manifiestamente ideológico.

Dentro de este marco en el que nos estamos moviendo, ¿qué decir de la computación afectiva –reconocimiento emocional/entendimiento facial-, con su multitud de usos: de la vigilancia policial a la contratación? Que de momento se apoya en bases científicas no demasiado sólidas. No parece ser, por tanto, un problema de ingeniería resoluble con simplemente un mejor algoritmo.

Para ir acabando, ¿qué pasa con el Estado, con las arquitecturas algorítmicas con las que tomar decisiones? Pues que asume que las personas pueden ser rastreadas: se las conocerá por sus metadatos –operación dual de abstracción y extracción, violencia espistemológica-. Además, la IA ha de formar parte de la infraestructura de guerra -la IA armificada, la fiebre de la cima-.

Más allá de cierto nominalismo -la IA, ¿es o no verdadera inteligencia artificial?-, debiéramos, en cualquier caso, tener en consideración –conjuntamente– tanto su parte técnica (los algoritmos y sus derivaciones/productos -innegables-), como su contexto/poder/política, que es el asunto de interés de esta obra. Es la clave de la cuestión. Bienvenida, pues, esta necesaria y conveniente aportación. Su lectura resulta, por tanto, aconsejable, dentro del marco de la buena ciencia: la que tiene en cuenta el conjunto de variables que ofrece una visión más completa y equilibrada de lo investigado (aquí: la IA) y que, además, está al servicio de la ciudadanía, no al de su explotación por unos pocos individuos.