Guía Secunora

Inteligencia artificial y decisiones automatizadas: riesgos de privacidad

La IA amplifica decisiones y también errores. Un modelo entrenado con datos incompletos puede clasificar, excluir o priorizar injustamente.

Por qué merece atención

Conviene distinguir herramientas de apoyo de decisiones con consecuencias relevantes y documentar fuentes, lógica, supervisión y capacidad de impugnación.

Riesgos frecuentes

  • Datos reutilizados sin base
  • Sesgos en entrenamiento
  • Resultados asumidos como ciertos
  • Información confidencial en servicios públicos
  • Imposibilidad de explicar una decisión

Medidas recomendadas

  1. Inventariar sistemas de IA
  2. Evaluar impacto y necesidad
  3. Aplicar revisión humana real
  4. Controlar datos de entrada
  5. Informar de perfiles y consecuencias

Caso de uso

Aplicación práctica

Un sistema de selección debe permitir que una persona revise descartes y corrija variables que funcionan como indicadores discriminatorios.

Qué revisar en detalle sobre la inteligencia artificial y las decisiones automatizadas

Un modelo puede generar inferencias personales aunque no muestre el nombre. Identifica datos de entrada, finalidad, conservación, entrenamiento adicional y acceso por terceros. Las respuestas de una IA pueden ser falsas, por lo que no deben incorporarse como hechos sin verificación. Eliminar nombres no basta si el contexto identifica a la persona. Revisa especialmente perfiles, datos sensibles y decisiones con efectos jurídicos o impacto significativo.

Ejemplo práctico: del problema a la mejora

Situación inicial

Un equipo de recursos humanos utiliza una herramienta de IA para ordenar candidaturas y descarta automáticamente las peor puntuadas. El proveedor no explica bien las variables ni qué ocurre con los documentos enviados. Una revisión superficial de la lista no permite detectar errores de contexto o información desactualizada.

Decisiones y medidas

La empresa delimita el uso, analiza los datos transmitidos y revisa garantías del proveedor. Las decisiones que puedan afectar significativamente a las personas requieren estudiar las reglas aplicables y diseñar una intervención humana con capacidad de modificar el resultado. Se registran discrepancias y se comprueba que el canal de revisión funcione.

Cómo llevar esta guía a la práctica en tu organización

Delimita el proceso y asigna responsabilidades

Empieza por un recorrido concreto: datos de entrenamiento, instrucciones, perfiles y revisión de resultados. Identifica quién inicia la operación, qué sistemas utiliza y qué personas reciben información. No te limites al procedimiento formal: revisa una muestra real y pregunta por exportaciones, adjuntos, cuentas secundarias y servicios contratados directamente por los equipos. Estos recorridos ayudan a detectar diferencias entre lo descrito y lo que ocurre cada día.

Asigna un propietario del proceso con capacidad para coordinar cambios. Tecnología puede configurar herramientas y asesoría puede revisar criterios, pero alguien debe reunir resultados, resolver dependencias y comprobar el cierre. Define también una persona suplente. Una medida no estará implantada porque aparezca en una presentación: debe tener una acción, un responsable, una fecha y una prueba que permita verificarla.

Justifica los datos y la finalidad antes de ampliar el uso

Escribe qué resultado necesitas obtener y relaciona cada categoría de información con ese propósito. Revisa si la operación puede funcionar con menos campos, menor detalle o datos agregados. La minimización de datos reduce exposición y facilita conservación, atención de derechos y seguridad. Que una herramienta permita capturar un dato no significa que exista una razón válida para hacerlo.

Documenta el fundamento que corresponde a cada tratamiento y comprueba la información entregada a las personas. No uses consentimiento como respuesta automática para todas las operaciones ni lo confundas con aceptar condiciones comerciales. Si aparece una finalidad nueva, evalúa su compatibilidad y legitimación antes de reutilizar información. La revisión debe considerar también destinatarios, proveedores y reglas sectoriales que puedan cambiar las condiciones del uso.

Convierte el control recomendado en una prueba

En este ámbito, una prioridad es evitar datos innecesarios y establecer revisión humana efectiva. Define un supuesto normal y otro que ponga a prueba el límite: una persona sin permisos, una solicitud de corrección, un servicio externo no disponible o un cambio de configuración. Comprueba el resultado desde el perfil que realmente realiza la operación; una cuenta administradora puede ocultar problemas de permisos o mostrar posibilidades que el resto del equipo no tiene.

Utiliza datos sintéticos cuando sea posible y evita crear una nueva copia de información personal para demostrar una medida. Si la comprobación exige una muestra real, limita el acceso y conserva solo la evidencia necesaria. Anota versión, fecha y alcance de la prueba. Una captura aislada puede ser útil, pero no sustituye explicar qué se comprobó, cuál era el resultado esperado y qué limitaciones quedaron pendientes.

Documentación, seguimiento y revisión de cambios

Para esta guía, conserva especialmente inventario de usos de IA y evaluaciones de impacto sobre personas. Vincula cada evidencia con el proceso y la decisión que respalda. Una carpeta llena de documentos sin propietarios ni fechas dificulta demostrar lo realizado. Mantén una versión vigente y un historial de cambios; cuando se cierre una acción, indica qué prueba permitió comprobarlo y quién revisó el resultado.

El seguimiento puede apoyarse en un indicador específico: decisiones relevantes con explicación y canal real de revisión. Define qué elementos entran en el cálculo y qué significa estar al día. No sustituyas ese indicador por el número de documentos redactados. Cuando detectes un fallo, registra su causa y corrige el proceso que lo genera, no solo el caso individual que lo hizo visible.

Repite la revisión cuando cambien proveedores, finalidades, categorías de datos, permisos o funciones. La periodicidad debe guardar relación con el riesgo y el ritmo de cambios. Una entidad con pocos movimientos puede organizar revisiones más sencillas; un servicio que publica novedades cada semana necesita integrar controles en el propio ciclo de trabajo. El objetivo es que las decisiones sigan describiendo la operación vigente.

Lista de comprobación para cerrar la revisión

  • Alcance definido: los sistemas, personas, copias y proveedores de este proceso están identificados.
  • Necesidad comprobada: cada dato tiene una función concreta y se han valorado alternativas menos intrusivas.
  • Información coherente: avisos y explicaciones coinciden con el recorrido real de los datos.
  • Controles verificados: los permisos y medidas funcionan en pruebas con los perfiles adecuados.
  • Conservación y derechos: existe un circuito para localizar información, corregirla y aplicar las reglas de eliminación.
  • Seguimiento asignado: las acciones pendientes tienen responsable, fecha y criterio de cierre.

Preguntas frecuentes

¿Una persona que pulsa aprobar elimina el riesgo?

La revisión debe ser significativa: disponer de información, tiempo, formación y autoridad para cambiar la decisión. Si el operador solo confirma lo que recomienda la herramienta, el control puede ser aparente. Mide las correcciones y prueba supuestos difíciles, incluyendo datos incompletos y resultados que la persona afectada cuestione.

¿Qué debe quedar decidido al terminar esta revisión?

Deben quedar claros el uso permitido, las personas que pueden acceder, las medidas que se han probado y los aspectos que requieren trabajo adicional. Si falta información de un proveedor o una decisión de dirección, registra esa dependencia y evita darla por resuelta. Una revisión útil distingue evidencias comprobadas, supuestos y tareas pendientes, y permite que otra persona continúe el trabajo sin reconstruir todo el contexto.

Marco normativo y siguientes pasos

Estas recomendaciones operativas deben adaptarse a la actividad y al régimen aplicable. Para comprobar las obligaciones, consulta el texto de la Ley 19.628 con las modificaciones de la Ley 21.719 y distingue esa versión, prevista para el 1 de diciembre de 2026, de la normativa vigente antes de esa fecha. Revisa además reglas sectoriales y desarrollos aplicables cuando tomes una decisión concreta.

Aplica esta guía a tu organización

¿Necesitas revisar la inteligencia artificial y las decisiones automatizadas? Cuéntanos tu actividad, sistemas y principales dudas. Secunora puede ayudarte a convertir el diagnóstico en una hoja de ruta con prioridades, responsables y evidencias verificables.

Solicitar información y presupuesto

Contenido divulgativo basado en la Ley 21.719 y fuentes oficiales. No sustituye asesoría jurídica individualizada.