Tanto los dispositivos tecnológicos que usamos día a día, como los algoritmos de Aprendizaje automático (ML) que nos recomiendan qué películas ver, qué hotel elegir, qué comida comprar, están disponibles para nosotros gracias a una cadena de suministro, que involucra la extracción de recursos naturales, la mano de obra en diferentes partes de esta cadena y la posterior comercialización. Siendo, el objetivo final maximizar las ganancias de los inversionistas sin importar las consideraciones éticas y ambientales que surgen al distribuir y aplicar estos algoritmos a campos como la educación, la salud, el sistema judicial, la vigilancia civil, entre otros.
El término Inteligencia Artificial (IA) alude a un conjunto de algóritmos capaces de imitar la inteligencia humana a diferentes niveles. La autora propone ir más alla de la abstracción que el termino IA evoca y analizarlo con los pies en la tierra, preguntándos: ¿es realmente la IA inteligente o artificial?
Kate Crawford nos lleva en su carro a dar un paseo por las minas de litio en Silver Peak, Nevada, para revelarnos que la IA no podría existir sin la explotación de los recursos naturales. El litio conocido como el oro blanco es un mineral fundamental para la creación de baterias recargables, que componen los dispositivos donde se ejecutan los modelos de la IA.
Pero el litio no solo es un elemento fundamental en los computadores o celulares sino tambien en los carros eléctricos, de hecho, la compañia de automóviles Tesla consume anualmente la mitad del consumo total del planeta de hidróxido de litio. Lo que también, nos hace cuestionar sobre la transición enérgetica, esto, al tener en cuenta, que a lo largo de la historia la minería es un negocio rentable porque no tiene que responder por consecuencias a largo plazo.
Asi como el litio, hay 17 elementos llamados tierras raras, fundamentales para sustentar la revolución técnologica. Son denominados asi, porque es poco común encontrarlos en estado puro, por tanto, su extracción genera enormes cantidades de desechos y toxinas.
La nube o almacenamiento en la nube, tal vez sea la máxima abstracción, evocando un lugar etéreo y lejano. La realidad es que es la columna vertebral de la IA y se refiere a centros de datos, que para operar requieren enormes cantidades de agua.
Esta es la estrategia ganadora del capitalismo; en plabras de Kate: “explotar la historia geologica de la tierra para servirnos una fracción segundo”.
Los inicios de las investigaciones en IA estan ligados a las agencias de Inteligencia de Estados Unidos, que junto con DARPA (Defense Advanced Research Projects Agency) impulsaron el campo de la IA desde 1950. Esta, es una de las razones gracias a la cual las prioridades militares, la vigilancia, el reconocimiento facial, han moldeado en lo que se ha convertido la IA, donde la idea predominante es que las personas pueden y deben ser rastreadas y entendidas mediante sus metadatos.
Los datos para alimentar los sistemas de Inteligencia Artificial, estan disponibles por donde se quiera, llamadas telefónicas, correos electrónicos. Esto quedó evidenciado por Edward Snowden en 2013, al exponer los programas de vigilacion masiva llevados a cabo por el gobierno Estadounidense.
No solo el gobierno tiene a su disposición los datos de toda la ciudadania, las redes sociales, donde los ciudadanos de todo el mundo suben millones de imagenes diarias, contienen toda la información que compañias como Meta usan para entrenar los algoritmos de IA, haciendose mas ricas y concentrando mas poder con los datos que hacen públicos los ciudanos del mundo.
Entrenar algoritmos con millones de datos no es una tarea automática y requiere una gran inteligencia humana. Los algoritmos de aprendizaje automático capaces de hacer predicciones, encontrar patrones basados en datos de entrenamiento requieren un proceso de etiquetado, normalmente llevado a cabo por personas en paises pobres, donde el valor de su trabajo es infinitamente menor comparado con alguien haciendo la misma labor en Estados Unidos. Todo se vale para hacer posible estos sistemas informáticos a escala planetaria al mismo tiempo que las ganancias crecen exponencialmente.
Lo anterior deja en evidencia que la mayor importancia para la industria es conseguir datos. Sin importar el cómo, sin verificar la veracidad, sin importar el contexto de dónde se obtienen y sin pensar en las consecuencias, porque la innovación, la optimización de procesos es lo que importa, en otras plabras: el fin justifica los medios.
Crafword presenta el caso de Amazon, quienes idearon un sistema basado en Inteligencia Artificial que se encargaría de hacer el trabajo de contratación, esto, basado en los datos de los curriculos de miles de empleados que han estado trabajando exitosamente en la empresa a lo largo de años. ¿El resultado? el algoritmo no recomendaba mujeres, ningun curriculo de una mujer contenia datos que se parecian a los datos con los que el algoritmo había sido entrenado. El sistema tenia “hardcodeado” una realidad social: la poca representación de mujeres en la industría de la tecnología.
La IA no es un ente que está por encima de nuestras estructuras sociales, ni de las desigualdades presentes en la sociedad, por el contrario los datos con los que la IA es entrenada representan esas estructuras. Usar los modelos pensando que por ser herramientas estadísticas son neutrales u objetivas es un error.
Antes de pensar que la educación, el sistema judicial, la salud, pueden ser mejorados con inteligencia artificial, tenemos que preguntarnos, ¿por qué?.
Además de preguntarnos qué tipo de sociedad estamos construyendo … ¿Una brutalmente optimizada, donde el poder esta cada vez mas concentrado? o, ¿una que va más allá del mercado y donde los bienes comunes son preservados?.
