Argentina acaba de anunciar el Gemelo Digital Social: una inteligencia artificial que promete optimizar políticas públicas cruzando bases de datos de salud, economía y geografía de sus ciudadanos. La pregunta no es si funciona. La pregunta es a quién sirve.
El uso de la Inteligencia Artificial en la construcción del poder del Estado apenas comienza, y este anuncio es uno de sus ejemplos más reveladores. De acuerdo con la información oficial, el Gemelo Digital Social utilizará modelos predictivos para "comprender, predecir y optimizar decisiones de políticas públicas" a partir de bases de datos sociales, económicas y geográficas de los argentinos. La vaguedad del anuncio es un síntima del problema central que plantea esta iniciativa. Centraré mi análisis en el aspecto del poder.
En primer lugar, el Gemelo Digital Social es una estrategia de vigilancia estructural de los ciudadanos. Bajo la idea de una base de datos integradora, busca construir "modelos" de poblaciones y simular conductas humanas. Algo semejante a lo que ya opera la herramienta ELITE de la empresa Palantir en Estados Unidos: un sistema que cruza datos de salud, GPS, cámaras y expedientes migratorios para producir listas de "objetivos" de deportación, utilizado por el ICE durante la administración Trump. Ese es el antecedente más próximo del modelo argentino.
Un segundo riesgo es que esta información derive en un "tablero social" con el que se pueda "medir el puntaje" de cada ciudadano. Una especie de crédito social donde una calificación algorítmica determina el acceso a privilegios, beneficios sociales o simplemente a una mejor calidad de vida. El uso de esta información en un país latinoamericano con contrapesos legales y políticos débiles abre la puerta para que los algoritmos no solo analicen comportamientos ciudadanos, sino que los condicionen.
Un tercer riesgo es la soberanía de los datos extraídos. Si el gobierno argentino contrata los servicios de Palantir —empresa norteamericana con contratos activos con el Pentágono—, los datos de los ciudadanos argentinos migrarían hacia servidores extranjeros. Esta extracción y centralización de información sensible para construir un "mapa operativo de la sociedad argentina" rebasa los límites legales y políticos establecidos. A ello se suma un cuarto riesgo: la dependencia tecnológica. Argentina no cuenta con el conocimiento técnico suficiente para operar, mantener y modificar de forma autónoma un sistema como èste. Esa dependencia es también una cesión de soberanía.
Estos elementos apuntan a una conclusión: el Gemelo Digital Social es una decisión ideológica. Como se ha analizado en este espacio al revisar el manifiesto de Palantir —un documento en que la empresa expone su visión del papel de la tecnología en el poder del Estado—, la inteligencia artificial no es neutral. La advertencia del Papa León XIV resulta aquí pertinente: quien controla la IA "impone su visión moral como infraestructura invisible" de sistemas y decisiones. El Gemelo Digital Social es, precisamente, esa infraestructura: la herramienta a través de la cual el Estado ve, entiende, clasifica y controla su población.
Síguenos en nuestras redes sociales:
Instagram: @eluniversaledomex, Facebook: El Universal Edomex y X: @Univ_Edomex
