Inteligencia artificial y decisiones automatizadas: riesgos de privacidad
La IA amplifica decisiones y también errores. Un modelo entrenado con datos incompletos puede clasificar, excluir o priorizar injustamente.
Por qué merece atención
Conviene distinguir herramientas de apoyo de decisiones con consecuencias relevantes y documentar fuentes, lógica, supervisión y capacidad de impugnación.
Riesgos frecuentes
- Datos reutilizados sin base
- Sesgos en entrenamiento
- Resultados asumidos como ciertos
- Información confidencial en servicios públicos
- Imposibilidad de explicar una decisión
Medidas recomendadas
- Inventariar sistemas de IA
- Evaluar impacto y necesidad
- Aplicar revisión humana real
- Controlar datos de entrada
- Informar de perfiles y consecuencias
Caso de uso
Un sistema de selección debe permitir que una persona revise descartes y corrija variables que funcionan como indicadores discriminatorios.
Preguntas para revisar internamente
- ¿Está documentada la finalidad y la base que permite el tratamiento?
- ¿Se recogen únicamente los datos necesarios?
- ¿Los accesos y proveedores están identificados?
- ¿Existe un plazo de conservación aplicable?
- ¿Puede la organización demostrar las decisiones adoptadas?
La respuesta no será idéntica para todas las organizaciones. El volumen, sensibilidad, tecnología, sector y efectos sobre las personas determinan la profundidad de las medidas.
Convierte esta obligación en un plan
Solicita información personalizada para aplicar la Ley 21.719 en tu organización.
Contenido divulgativo basado en la Ley 21.719 y fuentes oficiales. No sustituye asesoría jurídica individualizada.