La Procuración General de la Suprema Corte de Justicia de la provincia de Buenos Aires dio un paso decisivo hacia la modernización de la Justicia penal. Mediante la Resolución PG N.º 1475/2025, el organismo aprobó el marco normativo y estratégico que regirá la incorporación de la Inteligencia Artificial Generativa (IAGen) en el Ministerio Público bonaerense. La medida oficializó la implementación de ChatIA, un sistema propio desarrollado por la Secretaría de Innovación y Experiencia Digital, que será la única plataforma autorizada para interactuar con modelos de lenguaje. Un cambio histórico en la Justicia penal bonaerense
El desembarco de la inteligencia artificial en el fuero Penal llega con un fuerte esquema de control: administración centralizada de usuarios, monitoreo permanente, auditoría de interacciones y encriptación de las comunicaciones. Según el documento oficial, el objetivo es “optimizar recursos y reducir tiempos de trabajo”, pero sin resignar garantías procesales ni la necesaria supervisión humana.
La resolución no es una mera declaración de intenciones: cada agente judicial deberá firmar previamente una declaración jurada de conocimiento y cumplimiento de las nuevas pautas. Quien no lo haga o incumpla con lo establecido podrá ser sancionado con faltas disciplinarias, de acuerdo al Procedimiento de Responsabilidad Administrativa Funcional.
expedientes.JPG
Uno de los objetivos de la IA en la justicia Penal es optimizar el tiempo en relación a tareas repetitivas.
AGLP
Los riesgos de la IA en la Justicia penal
El marco normativo reconoce el potencial de la Inteligencia Artificial Generativa, pero también advierte sobre sus riesgos. Entre los principales peligros identificados figuran la difusión de desinformación, la exposición indebida de datos sensibles, la vulneración de derechos de autor y la reproducción de sesgos presentes en los datos de entrenamiento de los modelos.
En un fuero tan delicado como el Penal, donde se investigan homicidios, abusos sexuales, narcotráfico y delitos complejos, esos riesgos adquieren una dimensión crítica. El documento aprobado subraya que la IA no puede ser utilizada para tomar decisiones sustantivas: siempre deberá existir un control humano activo y permanente.
Además, el texto dispone que está prohibido ingresar a la plataforma información de causas en trámite, datos sensibles que permitan reidentificación de personas, imágenes personales, credenciales privadas o material protegido por derechos de propiedad intelectual sin autorización. Solo se permite el uso de datos ficticios o anonimizados para tareas de entrenamiento o prueba.
La validación de resultados es otro de los pilares: ninguna salida de ChatIA podrá ser usada directamente en un expediente sin antes ser revisada, contrastada con fuentes confiables y evaluada por el agente judicial. Se busca así evitar las llamadas “alucinaciones” de los modelos de lenguaje, respuestas que parecen verosímiles pero en realidad son incorrectas o engañosas.
ChatIA: una herramienta con control centralizado
El sistema ChatIA es la gran apuesta tecnológica del Ministerio Público bonaerense. Concebido como interfaz web institucional, concentra en un único entorno seguro las interacciones de fiscales, defensores y asesores con distintos modelos de inteligencia artificial.
Entre sus funciones se destacan:
- Gestión centralizada de múltiples modelos de IAGen.
- Control de acceso por roles y autenticación obligatoria.
- Monitoreo y auditoría de todas las interacciones.
- Encriptación de las comunicaciones.
- Administración presupuestaria de los tokens utilizados para consultas externas.
- Integración local con modelos como Ollama, que permite mayor autonomía operativa.
La herramienta fue pensada para tareas de redacción, edición y resumen de documentos judiciales, además de búsquedas de jurisprudencia y precedentes. La idea es que los agentes puedan liberar horas de trabajo repetitivo para concentrarse en funciones de mayor valor agregado, como la estrategia procesal o la preparación de audiencias.
El plan de implementación prevé tres etapas: primero una prueba piloto con la Comisión de Inteligencia Artificial del MPBA; luego una expansión progresiva al resto de los agentes judiciales con instancias de capacitación; y finalmente una evaluación continua, con indicadores de eficiencia, calidad y seguridad.
Julio Conte Grand.jpg
La resolución lleva la firma del Procurador General de la provincia de Buenos Aires, Julio Marcelo Conte-Grand
AGLP
Principios éticos y declaración jurada obligatoria
El documento aprobado por la Procuración General establece los principios rectores que guiarán el uso de la inteligencia artificial en el ámbito penal. Entre ellos, el respeto a la dignidad humana, la responsabilidad individual de los agentes, la confidencialidad de la información, la prohibición de contenidos discriminatorios y la obligación de garantizar la ciberseguridad.
Se resalta también el uso exclusivo de ChatIA: queda terminantemente prohibido el empleo de herramientas externas como ChatGPT, Gemini o LLaMA en la labor institucional. La intención es evitar filtraciones de información sensible y garantizar la trazabilidad de cada interacción.
Como requisito indispensable, todo agente judicial que desee utilizar la plataforma deberá firmar una declaración jurada de conocimiento y aceptación del marco normativo. Sin ese requisito, el acceso estará vedado. El incumplimiento será considerado falta disciplinaria y podrá derivar en sanciones administrativas.
En paralelo, se prevé la realización de auditorías internas a pedido de las máximas autoridades de gestión de la Procuración General. Cada interacción con ChatIA podrá ser revisada para asegurar que se cumplan las pautas éticas, legales y de seguridad.
justicia tribunales expedientes -1.JPG
El impacto esperado en el fuero Penal
La implementación de ChatIA en el fuero Penal bonaerense puede significar un cambio profundo en la dinámica de trabajo. Los fiscales y defensores enfrentan una sobrecarga estructural de causas que muchas veces retrasa el avance de los procesos. En ese contexto, una herramienta capaz de redactar borradores, sistematizar pruebas o resumir expedientes tiene el potencial de agilizar tiempos y mejorar la calidad del servicio de justicia.
Sin embargo, el marco normativo insiste en que la IA es un auxilio técnico y no un sustituto de la tarea humana. Cada funcionario deberá ejercer un control crítico sobre lo producido por la plataforma, evitando delegar decisiones de fondo.
El sistema también busca mejorar la transparencia institucional: las auditorías y el control centralizado permitirán detectar rápidamente usos indebidos o intentos de incorporar información prohibida. Además, la capacitación obligatoria en buenas prácticas de prompting y validación de resultados apunta a reducir el margen de error en un terreno sensible como el penal.
En definitiva, el desembarco de la Inteligencia Artificial Generativa en la Justicia bonaerense se da bajo un modelo de prudencia y control estricto. La apuesta es clara: aprovechar la eficiencia de la tecnología, pero con un marco que priorice los derechos fundamentales, la seguridad de la información y la supervisión humana.
inteligencia artificial.jpg
Una apuesta a la modernización con cautela
La Resolución PG N.º 1475/2025 marca un antes y un después en la administración de justicia en la provincia de Buenos Aires. Es la primera vez que se regula de manera integral el uso de la inteligencia artificial en el Ministerio Público, con un marco normativo exhaustivo y un plan de implementación en etapas.
El impacto real de ChatIA se medirá en los próximos meses, cuando la herramienta salga del piloto y se extienda al conjunto de los agentes judiciales. Allí se pondrá a prueba si la inteligencia artificial puede convertirse en un aliado confiable para agilizar expedientes, reducir demoras y optimizar recursos en un fuero históricamente sobrecargado.
La experiencia bonaerense también puede sentar un precedente nacional: lo que hoy se aplica en el Ministerio Público provincial podría ser replicado en otros poderes judiciales del país.
La clave, como remarcan las autoridades, será mantener siempre en el centro a la persona y al derecho. La tecnología debe ser un instrumento al servicio de la Justicia, no un sustituto de la deliberación humana.
