La presidenta del bloque de Fuerza Patria (FP), Josefina Bolis, presentó en el Concejo Deliberante un proyecto de ordenanza para regular el uso de inteligencia artificial (IA) en la Municipalidad de La Plata. La iniciativa propone crear un registro público de las herramientas utilizadas por el Estado local, capacitar a los trabajadores municipales y prohibir determinadas aplicaciones que puedan afectar los derechos de los vecinos.
El expediente ingresó al deliberativo el viernes y establece una serie de condiciones para el desarrollo, la contratación y la utilización de estas tecnologías dentro de la administración municipal. También contempla auditorías para controlar su funcionamiento, medidas de protección de datos personales y formación para los empleados de la Comuna.
La propuesta, denominada "Parámetros de Uso Ético y Responsable de Inteligencia Artificial en la Administración Pública Municipal", busca establecer controles sobre las decisiones automatizadas y garantizar que las herramientas tecnológicas no reemplacen la intervención humana en cuestiones que puedan afectar derechos fundamentales.
La presidenta del bloque de concejales de Fuerza Patria, Josefina Bolis.
En los fundamentos, Bolis plantea que la iniciativa apunta a construir "un modelo de gobernanza tecnológica anclado en la soberanía digital, el bienestar comunitario y el respeto absoluto por la dignidad humana". En ese sentido, advierte sobre los riesgos de incorporar herramientas de inteligencia artificial sin una regulación que permita controlar sus resultados y prevenir posibles discriminaciones.
Un registro para controlar qué inteligencia artificial usa la Municipalidad
Uno de los ejes centrales del proyecto es la creación del Programa Municipal de Inteligencia Artificial (MIA), que funcionará bajo la órbita de la Secretaría de Modernización. Aquí deberán identificarse las herramientas utilizadas por las distintas dependencias, sus proveedores, las funciones que cumplen, los datos que procesan y los riesgos que podrían generar, pero además la Municipalidad deberá evaluar los sistemas antes de autorizar su utilización. El proyecto contempla cuatro categorías de riesgo: inaceptable, elevado, limitado y mínimo, de acuerdo con su potencial impacto sobre los derechos de las personas, la seguridad y los servicios públicos.
El proyecto de ordenanza de Josefina Bolis propone regular el uso de la IA en la Municipalidad.
Las herramientas consideradas de riesgo inaceptable quedarían prohibidas, mientras que las de riesgo elevado solo podrían utilizarse bajo determinadas condiciones, con evaluaciones de impacto, controles periódicos y supervisión humana. Los sistemas de riesgo limitado o mínimo estarían sujetos a mecanismos de autorización e inscripción.
¿Qué usos de inteligencia artificial quedarían prohibidos?
La iniciativa establece restricciones sobre determinadas aplicaciones de IA, especialmente aquellas vinculadas con la vigilancia de personas, el procesamiento de datos personales y la toma de decisiones automatizadas.
Entre las prácticas prohibidas aparecen los sistemas que evalúen la conducta de los ciudadanos para restringir el acceso a derechos o servicios municipales, el perfilado predictivo de datos personales con fines publicitarios y la utilización de algoritmos de identificación biométrica destinados a anticipar presuntas conductas delictivas. La propuesta también impide utilizar inteligencia artificial para crear perfiles digitales que simulen identidades de funcionarios municipales o difundir contenidos sintéticos destinados deliberadamente a confundir a las personas.
Otro de los puntos alcanza al control de las infracciones: el proyecto prohíbe "la imputación de faltas o infracciones mediante sistemas de IA sin la constatación y la firma, manual o digital, del funcionario competente en el acta correspondiente".
Límites para los chatbots y capacitación para los trabajadores
La ordenanza también busca establecer reglas para los asistentes virtuales utilizados en la atención ciudadana. En ese sentido, dispone que los chatbots municipales deberán informar desde el primer contacto que se trata de sistemas de inteligencia artificial.
Además, la Municipalidad deberá garantizar la posibilidad de comunicarse con un operador humano cuando el vecino lo solicite, cuando la consulta exceda las funciones informativas del sistema o cuando se detecten situaciones de vulnerabilidad social.
El proyecto crea un registro en el que todas las áreas del Municipio deberán informar si usan IA y para qué.
En materia de privacidad, la iniciativa busca impedir que las empresas proveedoras utilicen las bases de datos municipales para entrenar sus propios modelos o compartan información personal con terceros para fines ajenos a los contratos celebrados con la Comuna.
Por último, el proyecto también contempla la formación obligatoria de los trabajadores municipales en el uso responsable de inteligencia artificial, con especial atención a la protección de los derechos humanos, la detección de sesgos discriminatorios y la supervisión de decisiones automatizadas. La capacitación deberá implementarse de manera progresiva y completarse en un plazo de 24 meses desde la promulgación de la ordenanza. Los primeros en recibirla serían los agentes que operen o supervisen sistemas de inteligencia artificial y quienes desempeñen funciones de dirección.
