La AEPD examina la calidad y minimización de datos en IA
La Agencia Española de Protección de Datos (AEPD) ha presentado una nota técnica que se adentra en la proyección de los principios de exactitud y minimización del Reglamento General de Protección de Datos (RGPD) en el contexto de tratamientos de datos personales que utilizan sistemas de inteligencia artificial. Este documento se erige como uno de los primeros esfuerzos a nivel mundial para abordar esta problemática, con el propósito de ofrecer directrices a responsables del tratamiento, encargados y delegados de protección de datos.
El análisis parte del entendimiento de que los requisitos relacionados con la calidad de los datos y el principio de exactitud no deben ser considerados en términos absolutos, sino en función del objetivo específico del tratamiento. En este sentido, la AEPD aclara que el principio de exactitud no implica que los datos deban ser siempre completamente veraces o actualizados, sino que deben ser adecuados para cumplir con el propósito para el cual son utilizados, garantizando su relevancia para las personas afectadas.
Evolución en la interpretación del principio de exactitud
Esta interpretación representa un avance respecto a enfoques más restrictivos, que vinculaban la exactitud únicamente a la veracidad absoluta de los datos. La AEPD advierte que exigir un estándar demasiado alto podría entrar en conflicto con el principio de minimización o generar cargas desproporcionadas, especialmente en el desarrollo y uso de sistemas basados en inteligencia artificial.
El documento enfatiza que la calidad debe evaluarse no solo a nivel individual por cada dato, sino también en relación al conjunto total utilizado para desarrollar sistemas de IA. Esto es particularmente relevante en modelos de aprendizaje automático, donde factores como representatividad, ausencia de sesgos y relevancia pueden influir significativamente en los resultados, incluso más allá de la exactitud individual.
Requisitos sobre resultados generados por IA
Además, se subraya que el requisito de calidad no se limita a los datos iniciales; debe extenderse a todo el proceso, incluyendo resultados generados por sistemas inteligentes como inferencias o decisiones. Estos resultados no deberían dar lugar a representaciones incorrectas o desproporcionadas sobre las personas afectadas. Por lo tanto, es crucial evaluar la idoneidad del tratamiento considerando su diseño y las salvaguardias implementadas.
La AEPD señala que el nivel exigido puede variar según el tipo y efectos del tratamiento sobre las personas. En tratamientos agregados o estadísticos, pueden aceptarse mayores niveles de abstracción o transformación, mientras que cuando los resultados impactan directamente a individuos específicos, se debe aplicar un estándar más riguroso acorde a su finalidad.
Técnicas compatibles con el RGPD
La nota también aborda técnicas comunes utilizadas en el desarrollo de IA, tales como la generación de datos sintéticos, anonimización y corrección de sesgos. La AEPD aclara que estas prácticas pueden alinearse con el principio de exactitud del RGPD siempre que estén justificadas por la finalidad del tratamiento y no causen efectos adversos sobre las personas.
Otro aspecto importante es la diferenciación entre los requisitos durante el desarrollo y aquellos aplicables durante su uso posterior. La AEPD resalta que ambas etapas deben evaluarse por separado debido a que los resultados pueden tener repercusiones sobre individuos concretos, exigiendo así mayores garantías.
Necesidad organizativa y cumplimiento normativo
Bajo un enfoque organizativo, la AEPD enfatiza la importancia de delinear requisitos objetivos basados en la finalidad del tratamiento, evitando tanto exigencias insuficientes como excesivas. Se destaca asimismo la necesidad implementar una gobernanza adecuada sobre los datos, documentando estos requisitos e instaurando métricas para un seguimiento continuo durante todo el ciclo vital del tratamiento.
Finalmente, se recuerda que los criterios sobre calidad no solo aplican a datos personales; también los datos no personales pueden ser cruciales para determinar la idoneidad del tratamiento. Además, cumplir con el RGPD implica diseñar procesos que gestionen adecuadamente las limitaciones inherentes a los sistemas inteligentes mediante medidas y salvaguardias apropiadas.
Preguntas sobre la noticia
¿Qué principios del RGPD se analizan en la nota técnica de la AEPD?
La nota técnica analiza cómo se proyectan los principios de exactitud y minimización del RGPD en tratamientos de datos personales que incorporan sistemas de inteligencia artificial.
¿Qué se entiende por el principio de exactitud según la AEPD?
El principio de exactitud no exige que los datos sean siempre plenamente veraces o estén completamente actualizados, sino que sean adecuados para cumplir el objetivo del tratamiento y ello se garantice cuando resulte relevante para las personas afectadas.
¿Cómo afecta la calidad de los datos al desarrollo de sistemas de IA?
La calidad de los datos debe analizarse respecto al conjunto de datos utilizado para el desarrollo de sistemas de IA, donde la representatividad y la ausencia de sesgos pueden ser determinantes para el resultado.
¿Qué aspectos deben considerarse en la evaluación del tratamiento de datos con IA?
Se debe evaluar no solo los datos de entrada, sino también los resultados generados por sistemas de IA, asegurando que no generen representaciones incorrectas o desproporcionadas sobre las personas afectadas.
¿Qué técnicas son compatibles con el principio de exactitud según la AEPD?
Técnicas como la generación de datos sintéticos, la anonimización o la corrección de sesgos pueden ser compatibles con el principio de exactitud del RGPD, siempre que estén justificadas en relación con la finalidad del tratamiento.
¿Cómo debe definirse la calidad de los datos desde una perspectiva organizativa?
Los requisitos de calidad deben definirse objetivamente y basarse en la finalidad del tratamiento, evitando exigencias insuficientes o excesivas. Es importante implementar gobernanza del dato y documentar estos requisitos.
¿Se aplican los requisitos de calidad únicamente a los datos personales?
No, los requisitos también se aplican a los datos no personales utilizados en un tratamiento, ya que pueden ser determinantes para su idoneidad.
Si (
No(
