Qué ha cambiado

La autoridad neerlandesa de protección de datos impuso a Uber una multa de 824,99 millones de euros. Según el regulador, entre 2018 y 2022 los sistemas de la plataforma suspendieron cuentas de conductores, a veces de forma permanente, sin información adecuada y sin que una persona comprobara posibles errores.

La decisión se refiere al tratamiento automatizado: un sistema analiza datos y decide sin una participación humana significativa. Uber rechaza tanto las conclusiones como la cuantía, afirma que las prácticas examinadas son antiguas y sostiene que sus procesos actuales incluyen revisión humana y posibilidad de reclamación; la empresa ha anunciado un recurso.

La conclusión no es que toda automatización sea indebida. Es que la velocidad de una máquina también multiplica el efecto de datos deficientes, reglas incompletas o señales interpretadas sin contexto cuando el resultado puede interrumpir los ingresos de una persona.

Por qué importa

Para un conductor de plataforma, perder el acceso a la cuenta puede significar perder de inmediato su herramienta de trabajo. En otros sectores, decisiones parecidas pueden detener un pago, denegar crédito, excluir a una persona de un proceso de selección o impedir el acceso a un servicio esencial.

En Europa, la norma invocada en el caso protege a las personas frente a decisiones totalmente automáticas con efectos jurídicos o de importancia similar, salvo circunstancias específicas. En Brasil, la autoridad de protección de datos destaca que la LGPD reconoce el derecho a solicitar revisión y explicaciones sobre los criterios y procedimientos; en la práctica, la revisión humana solo sirve cuando quien revisa comprende el caso, ve la información relevante y tiene autoridad real para cambiar el resultado.

Pensemos en un sistema antifraude que bloquea una cuenta después de detectar un cambio inusual de ubicación. Sin contexto puede confundir un viaje legítimo con un riesgo; sin explicación ni vía de reclamación, la persona no puede corregir el dato o demostrar qué ocurrió. La eficiencia operativa se convierte entonces en un coste humano y reputacional.

Los datos fiables preceden a la automatización

Todo sistema de decisión depende de lo que recibe: valoraciones, historial, ubicación, documentos y señales de riesgo. El saneamiento de datos consiste en encontrar duplicados, registros obsoletos, campos incoherentes y contexto ausente antes de que esos datos alimenten reglas o modelos. No es solo ordenar una base; reduce la posibilidad de que un error operativo cause un perjuicio real.

También es necesario conocer el origen de cada dato y registrar cómo contribuyó a la decisión. Ese rastro permite investigar falsos positivos — casos legítimos marcados por error —, comparar resultados entre grupos y explicar el resultado en un lenguaje que una persona pueda entender.

Cuanto mayor sea la consecuencia, mayor debe ser el nivel de calidad. Un sistema que ordena contenidos puede admitir correcciones sencillas; otro que altera ingresos, crédito, salud o acceso a derechos necesita pruebas, seguimiento, documentación y vías rápidas de reversión.

Qué pueden aprender las empresas

La gobernanza no debe aparecer solo después de terminar la automatización. Una Célula de Tecnología puede reunir a producto, datos, operaciones, seguridad, legal y atención al cliente para decidir qué puede automatizarse, qué exige confirmación humana y cómo se informará a las personas afectadas.

El objetivo no es frenar toda innovación, sino decidir dónde la velocidad es segura. Cuando una organización combina datos saneados, límites claros y revisión humana auténtica, la automatización obtiene algo que un modelo no aporta por sí solo: legitimidad para actuar en situaciones que afectan a las personas.

• Mapear las decisiones automáticas y clasificar el impacto de cada una.
• Validar la calidad, el origen y el contexto de los datos antes de automatizar.
• Explicar los factores relevantes y ofrecer una reclamación accesible.
• Dar a los revisores humanos información, tiempo y autoridad para corregir resultados.
• Supervisar errores, reversiones y efectos desiguales con el paso del tiempo.