Guía práctica: cómo evaluar un agente de IA antes de usarlo con casos reales
Nadie corrige su propia prueba: por qué la verificación de una herramienta de IA exige mirada externa, políticas de datos y una regla clara sobre qué puede tocar.

Una herramienta de inteligencia artificial que funciona a simple vista no es necesariamente confiable para trabajar con casos reales. Esa advertencia, formulada en la conversación que Diario Constitucional publicó el 11 de noviembre con Ghislaine Abarca (ECIJA Chile) y Eduardo Ramírez (Trifolia), resume el punto de partida de esta guía: seis controles para evaluar un agente de IA antes de conectarlo a expedientes, documentos confidenciales o clientes.
Control 1: preguntar de qué piezas está hecho
Casi cualquier programa real se arma con dependencias, piezas de código hechas por terceros, y uno de los ataques más frecuentes del último año consiste en contaminarlas. Ramírez citó el caso de LiteLLM, una librería muy usada para conectar programas con modelos de IA, comprometida dos veces este año. Si la herramienta instala piezas externas o se conecta a internet, hay que asumir que la información confidencial del equipo puede quedar expuesta.
La pregunta al proveedor es directa: qué componentes usa, cómo los audita y cuánto tarda en reaccionar ante una vulnerabilidad. Un proveedor serio también sufre incidentes; lo que lo distingue es que puede reaccionar en horas.
Antes de los controles: decidir si hace falta
No toda tarea justifica un agente. La conversación distingue cuándo tiene sentido desarrollar o adoptar una solución propia: cuando el programa es pequeño, quien lo usa entiende qué hace y el costo de que falle es bajo, como ordenar carpetas o armar una tabla de plazos que después se revisa a mano. Cuando la herramienta tocará información de clientes o decisiones con efectos reales, la vara sube y con ella la exigencia de los controles que siguen.
Control 2: revisar la política de retención de datos
Leer también puede ser una forma de compartir. Si el servicio no garantiza que no conserva lo que procesa, entregarle un expediente equivale a entregarle los datos a un tercero. Las políticas de no retención importan tanto como los permisos, y deben quedar por escrito en el contrato, no en una promesa comercial.
Abarca recordó además que, con el nuevo régimen de la Ley 21.719, que entra en vigencia el 1 de diciembre de 2026, una vulneración de seguridad podrá gatillar la obligación de reportar a la Agencia de Protección de Datos Personales y, en ciertos casos, a los propios afectados, con exposición a multas relevantes. Es un deber de preparación para el régimen futuro, no una obligación ya exigible a la fecha de esta edición.
Control 3: separar lectura de escritura
La distinción práctica propuesta en la conversación: leer un expediente, buscar jurisprudencia o preparar un borrador son operaciones de solo lectura, corregibles con revisión. Enviar un correo, presentar un escrito, modificar un documento, borrar un archivo o hacer un pago son escrituras que salen al mundo y muchas no se deshacen.
La configuración segura es la que permite al agente mirar todo lo que el profesional autorice, y no tocar nada que el profesional no haya visto antes de que salga. Toda escritura requiere autorización expresa, más expresa cuanto más irreversible sea.
Control 4: exigir el rastro, no solo el resultado
El error más peligroso es el intermedio e invisible: una búsqueda que se salta un fallo clave produce un informe coherente y convincente, pero incompleto. Por eso la evaluación debe incluir si la herramienta deja registro de su ejecución: qué buscó, qué fuentes consideró, qué descartó y por qué. Diseñar los encargos pidiendo la lista de fuentes, y no solo la conclusión, convierte la supervisión en algo verificable.
Control 4 y medio: probar con un caso ficticio
Antes del primer expediente real, conviene un ensayo con un caso ficticio. Un caso concluido no es una alternativa libre de resguardos: un expediente cerrado sigue conteniendo datos personales y materia confidencial, de modo que usarlo exige anonimización efectiva y la base o autorización aplicables. El objetivo del ensayo no es ver si la herramienta funciona, que casi siempre funciona, sino observar cómo falla: si inventa referencias, si omite fuentes, si respeta los límites de permisos configurados. El resultado define qué usos se autorizan y cuáles quedan fuera.
Control 5: mirada externa y certificación
"Nadie corrige su propia prueba", sintetizó Ramírez. Para uso personal de bajo riesgo basta tratar la herramienta como un borrador, útil pero nunca la última palabra. Si se va a ofrecer a otros o tocará información confidencial, lo prudente es asociarse con un ingeniero de software y, cuando el servicio crece, someterse a una certificación como ISO 27001, que acredita procesos para detectar y responder a fallas de seguridad.
Control 6: definir quién responde antes de que falle
La responsabilidad se distribuye en capas: el profesional responde ante su cliente por el resultado, la firma responde si implementó la herramienta sin evaluar riesgos, capacitar o establecer controles, y el proveedor responde según lo pactado y, en materia de datos, como encargado que incumplió sus instrucciones. La guía del Colegio de Abogados, publicada en julio de 2026, lo resume en dos deberes comprobables: responsabilidad personal e indelegable por el resultado y verificación de lo que se cita y se firma.
Preguntas frecuentes
¿Qué hacer si el agente usa información confidencial?
Asegurarse primero de que el servicio garantiza por contrato que no conserva lo que procesa. Si no lo garantiza, leer un expediente ya equivale a compartirlo con un tercero; la no retención es una salvaguarda, no una condición suficiente de licitud. Y cuando la Ley 21.719 entre en vigencia el 1 de diciembre de 2026, una vulneración podrá obligar a reportar a la Agencia de Protección de Datos Personales y a los afectados.
¿Basta con revisar el resultado final de un agente?
Solo si el agente se limitó a leer y redactar. Si ejecutó acciones con efecto fuera del computador, la supervisión debe ocurrir antes, porque después ya no hay nada que revisar.
¿Qué es una dependencia y por qué importa?
Una pieza de código hecha por terceros que el programa incorpora. Su contaminación es uno de los ataques más frecuentes: quien instala la versión comprometida puede entregar sus claves y el acceso a su equipo.
¿Qué certificación ayuda a evaluar un proveedor?
La ISO 27001, que acredita que la organización tiene procesos para detectar y responder a fallas de seguridad, aunque no garantiza código libre de errores.
¿Qué dicen las reglas vigentes en Chile sobre responsabilidad?
Las normas de responsabilidad civil, deberes profesionales, secreto profesional, protección de datos y ciberseguridad ya son aplicables al uso de IA; quien elige la herramienta responde ante el cliente. Además, el nuevo régimen de la Ley 21.719 entra en vigencia el 1 de diciembre de 2026 y añade deberes, como el reporte de brechas a la Agencia de Protección de Datos Personales y a los afectados.
En resumen: seis controles, un ensayo previo y una regla de oro: la herramienta se adopta para servir al criterio profesional, no para reemplazarlo.
Fuentes y límites
Diario Constitucional, 11 de noviembre de 2026, consultada el 17 de noviembre de 2026. Guía práctica elaborada a partir de esa conversación; no es asesoría legal ni de ciberseguridad. Las decisiones de adopción deben evaluarse caso a caso con asesoría especializada.


