Sobre ello, reflexionaron el referente nacional en informática, ingeniero en Telecomunicaciones y especialista en Tecnología Informática aplicada en Educación de la Facultad de Ingeniería (FI) de la UNLP y calculista científico por la Facultad de Ciencias Exactas (FCE) de la misma casa de estudios, Armando De Giusti; y el abogado, profesor adjunto de la Facultad de Ciencias Jurídicas y Sociales (FCJyS) de la UNLP, coordinador del Centro de Estudios sobre Inteligencia Artificial y Relaciones Internacionales del Instituto de Relaciones Internacionales (IRI-UNLP), doctor en Relaciones Internacionales y especialista en Inteligencia Artificial Generativa, Javier Surasky.
Los primeros desarrollos aparecieron durante la década de 1980 y permitían analizar distintos escenarios posibles. Se utilizaban para estudiar, por ejemplo, cómo respondería una máquina industrial bajo determinadas condiciones, cuál sería el comportamiento de una aeronave durante un vuelo o cómo evolucionaría un cauce de agua frente a diferentes variables. La gran transformación llegó cuando esos modelos comenzaron a recibir información proveniente del mundo real mediante sensores. Desde entonces dejaron de ser representaciones estáticas para convertirse en sistemas que se actualizan de manera permanente con datos reales.
"En una primera etapa un gemelo digital ha sido un modelo que ajusta el componente o sistema tratando de considerar todos sus parámetros de funcionamiento y fue evolucionando para tener datos reales en funcionamiento para tomar decisiones sobre el producto o sistema de interés", resume De Giusti. La expansión del Internet de las Cosas (IoT) y el crecimiento de la capacidad de procesamiento aceleraron esa evolución. Gracias a esos avances, hoy los gemelos digitales pueden monitorear el estado de un sistema prácticamente en tiempo real, detectar anomalías y proyectar escenarios antes de que ocurra un problema.
De las fábricas a las ciudades
La industria fue uno de los primeros sectores en aprovechar esta tecnología. Actualmente, una planta de producción puede incorporar miles de sensores capaces de registrar información de manera continua sobre el funcionamiento de cada equipo. Ese flujo permanente de datos permite anticipar desperfectos, realizar mantenimiento preventivo, mejorar la calidad de los productos y optimizar procesos sin necesidad de esperar a que aparezcan fallas.
La industria fue uno de los primeros sectores en aprovechar la irrupción de la inteligencia artificial
En planificación urbana, por ejemplo, los gemelos digitales permiten integrar datos sobre tránsito, infraestructura, consumo energético o movilidad para simular distintos escenarios antes de ejecutar una obra o modificar la circulación.
Las aplicaciones también alcanzan al ambiente. Un modelo digital de un río alimentado con información permanente sobre el nivel y la circulación del agua puede utilizarse para prever inundaciones, emitir alertas tempranas y mejorar la planificación frente a eventos climáticos extremos.
En materia de planificación urbana los gemelos digitales permiten integrar datos sobre tránsito, infraestructura, consumo energético o movilidad
La educación médica constituye otro campo de desarrollo. Allí los llamados "pacientes digitales" permiten que estudiantes y profesionales entrenen procedimientos clínicos, enfrenten distintos escenarios y reciban devoluciones sobre las decisiones tomadas antes de intervenir con personas reales.
Cuando entra en juego la inteligencia artificial
La incorporación de inteligencia artificial marcó otro punto de inflexión en el desarrollo de los gemelos digitales. Mientras las primeras versiones se limitaban a describir el estado de un sistema, los modelos actuales pueden analizar enormes volúmenes de información, detectar patrones difíciles de advertir para las personas y anticipar posibles comportamientos futuros.
De la mano de la inteligencia artificial, los gemelos digitales actuales pueden analizar enormes volúmenes de información, detectar patrones difíciles de advertir para las personas y anticipar posibles comportamientos futuros
El cambio también modificó la pregunta que estos sistemas buscan responder. Ya no se trata solamente de conocer cómo funciona un proceso, sino de estimar qué podría ocurrir y cuáles serían las mejores decisiones antes de que ese escenario se concrete. De Giusti plantea un ejemplo cotidiano: un gemelo digital del tránsito urbano conectado con sensores distribuidos en toda una ciudad podría modificar automáticamente la duración de los semáforos según el flujo de vehículos registrado en cada momento, con el objetivo de mejorar la circulación y reducir congestiones. Esa capacidad predictiva explica por qué los gemelos digitales comienzan a ser considerados una de las tecnologías con mayor potencial para los próximos años. Sin embargo, cuanto más se alejan de las máquinas y más se acercan a las personas, mayores son también los interrogantes que despiertan.
Cuando el modelo deja de copiar máquinas y empieza a representar personas
El debate cambia de escala cuando los gemelos digitales dejan de modelar objetos físicos y comienzan a representar personas o comunidades. En ese escenario aparece el concepto de "gemelo digital social", una herramienta que busca construir modelos capaces de interpretar comportamientos colectivos, proyectar necesidades futuras y orientar decisiones a partir del análisis de grandes volúmenes de datos.
Desde la informática, De Giusti considera que esa evolución amplía notablemente las posibilidades de aplicación, aunque también incrementa la complejidad técnica: cuanto mayor es la cantidad de variables involucradas, más difícil resulta garantizar la calidad de la información con la que trabaja el sistema y evitar errores que puedan condicionar sus resultados. El especialista advierte que los datos sociales presentan dificultades particulares. A diferencia de variables objetivas —como determinados indicadores biométricos o médicos, que además plantean desafíos en materia de privacidad—, muchos de los datos utilizados para describir una realidad social pueden contener imprecisiones o reflejar desigualdades preexistentes.
"La calidad de los datos es muy difícil de asegurar. El sesgo puede estar dado en el algoritmo mismo y sus objetivos. Imaginemos cualquier inclusión o exclusión para la toma de decisiones: edad, color de piel, enfermedades previas, genealogía o lugar de residencia. Está claro que aun con datos 'perfectos' podemos tener sesgo en el resultado, según se programe el algoritmo inteligente", sostiene el experto. Para el investigador, cuando un sistema automatizado participa en decisiones con impacto social, su funcionamiento debería poder reconstruirse paso a paso. Esa trazabilidad permitiría comprender por qué una inteligencia artificial llegó a determinada conclusión y evitar que decisiones sensibles queden libradas a procesos imposibles de explicar.
Como ejemplo De Giusti menciona el caso de un banco que utiliza inteligencia artificial para aprobar o rechazar préstamos. En esas situaciones, señala, el sistema debería ser capaz de mostrar qué información analizó, cómo la ponderó y por qué arribó a un determinado resultado. El mismo criterio, agrega, debería aplicarse en ámbitos todavía más delicados, como un diagnóstico médico o la asignación de subsidios para tratamientos de salud.
¿Quién usa los datos y para qué?
Para el abogado Javier Surasky, el problema deja de ser exclusivamente tecnológico cuando el objeto del modelo ya no es una máquina sino una persona. El especialista aclara que un gemelo digital no crea un "avatar" idéntico de un individuo, sino una representación estadística construida a partir de la información disponible. "Se lo clona estadísticamente capturando sus datos y con ellos se construye un modelo digital que se usa para simular situaciones", explica. Esa diferencia no elimina los desafíos jurídicos. Por el contrario, obliga a preguntarse qué datos alimentan esos modelos, quién los administra, con qué finalidad fueron recopilados y cuáles son los mecanismos de control existentes para evitar abusos.
El letrado advierte que un sistema aplicado a escala social podría combinar información sobre ingresos, educación, empleo, salud, composición familiar, lugar de residencia o acceso a programas estatales. El riesgo aparece cuando esos datos comienzan a utilizarse para clasificar personas o anticipar comportamientos que luego condicionen decisiones públicas.
Uno de los antecedentes que menciona ocurrió en la ciudad neerlandesa de Róterdam. Entre 2017 y 2021 se implementó un sistema algorítmico destinado a detectar posibles fraudes en los programas de asistencia social. Aunque no fue presentado oficialmente como un gemelo digital, el mecanismo construía perfiles de riesgo a partir de datos personales y orientaba intervenciones estatales. Investigaciones posteriores revelaron que el algoritmo consideraba variables como ser mujer, madre, joven, tener dificultades para conseguir empleo o no dominar el idioma neerlandés como indicadores asociados a un mayor riesgo de fraude.
Otro caso citado por el especialista ocurrió en Portland, en el estado de Oregón, donde el gobierno regional contrató a la empresa Replica para modelar patrones de movilidad urbana mediante datos de localización. El proyecto fue interrumpido en 2021 debido a desacuerdos relacionados con la transparencia, la privacidad y el control sobre la información utilizada para construir el modelo.
Para Surasky, ese tipo de experiencias demuestra la necesidad de establecer controles antes de implementar tecnologías de estas características.
La "caja negra" de la inteligencia artificial
Surasky también pone el foco sobre un fenómeno cada vez más frecuente en los sistemas de inteligencia artificial: la llamada "caja negra" algorítmica. Se trata de modelos capaces de procesar enormes cantidades de información y producir resultados sin que las personas afectadas puedan comprender cómo se desarrolló el proceso interno que condujo a esa decisión. En ámbitos sensibles, como la asignación de políticas sociales, el acceso a un beneficio estatal o una evaluación crediticia, esa falta de transparencia puede convertirse en un problema de derechos. Por ello, el especialista sostiene que cualquier implementación de inteligencia artificial en la gestión pública debería incorporar mecanismos de auditoría independiente, supervisión humana y procedimientos que permitan revisar las decisiones automatizadas.
Surasky sostiene que cualquier implementación de inteligencia artificial en la gestión pública debería incorporar mecanismos de auditoría independiente, supervisión humana y procedimientos que permitan revisar las decisiones automatizadas
Desde su perspectiva, el avance tecnológico no puede desplazar las garantías propias de un Estado democrático cuando están en juego derechos fundamentales como la igualdad, la privacidad o el acceso a políticas públicas.
Además, advierte que el debate sobre los gemelos digitales sociales no debería limitarse a una cuestión de eficiencia. Si bien estas herramientas pueden contribuir a anticipar necesidades y mejorar la planificación, también obligan a discutir qué información se recopila, quién decide cómo utilizarla y cuáles son los límites para evitar que esos modelos terminen etiquetando personas o restringiendo oportunidades.
