En el marco del VII Congreso Nacional de Consumo, el Colegio de la Abogacía de Madrid (ICAM) trabaja en una iniciativa legislativa para impulsar la creación de un Registro Estatal de Algoritmos con impacto en las relaciones de consumo. El objetivo es garantizar que los sistemas automatizados que influyen en precios, decisiones comerciales y condiciones contractuales estén sometidos a obligaciones de transparencia, control y responsabilidad.
“Las decisiones que afectan a la ciudadanía ya no siempre las toman las personas, sino sistemas algorítmicos con consecuencias reales en el ámbito del consumo”, señala el decano del ICAM, Eugenio Ribón. “Por ello, desde el ICAM, en cooperación con la Asociación Española de Derechos del Consumo, estamos trabajando en una propuesta de iniciativa legislativa para reforzar la transparencia y la responsabilidad, así como la supervisión de estos sistemas”, añade.
La propuesta, aún en fase de redacción, parte de una preocupación creciente por el uso opaco de algoritmos en sectores como la distribución, el entretenimiento, los seguros, el crédito o el comercio electrónico. Sistemas automatizados deciden hoy qué precio se le ofrece a cada usuario, qué anuncio ve, qué condiciones se le aplican o si accede o no a determinados servicios, sin que el consumidor pueda conocer los criterios empleados ni los datos utilizados.
Entre los riesgos identificados figuran la discriminación algorítmica por perfil socioeconómico o zona geográfica, la manipulación de precios en tiempo real en función del comportamiento del usuario, el uso de datos sensibles para limitar el acceso a servicios, o la imposibilidad de detectar si una decisión perjudicial ha sido tomada por una máquina sin supervisión humana.
Casos documentados en Europa y EEUU muestran cómo este tipo de sistemas pueden reproducir sesgos estructurales o inducir a decisiones contrarias al interés del consumidor.
Frente a ello, el Registro permitiría identificar, documentar y auditar de forma independiente los algoritmos que operan en mercados de bienes y servicios de consumo. Las empresas estarían obligadas a inscribir aquellos sistemas que puedan afectar significativamente a los derechos del consumidor, aportando información básica sobre su finalidad, los datos que emplean y los criterios generales de decisión.
La propuesta incluye también medidas para impedir prácticas abusivas, como el uso de variables sensibles (estado de salud, etnia, vulnerabilidad económica) para ajustar precios al alza o restringir prestaciones, o la alteración de ofertas durante el proceso de compra. Además, se contempla la posibilidad de realizar auditorías independientes periódicas por parte de universidades, asociaciones de consumidores o entidades técnicas especializadas.
“No es una propuesta cerrada. Queremos que las ideas y debates del Congreso de Consumo sean las que contribuyan a enriquecerla”, resalta Ribón. La intención del ICAM es que el texto definitivo recoja las aportaciones de los expertos reunidos durante estas jornadas y sea remitido próximamente a los grupos parlamentarios y al Ministerio de Consumo para su tramitación como proposición no de ley.
El marco jurídico actual, aunque ha avanzado en la regulación de la inteligencia artificial en determinados sectores, no cubre aún de forma específica las aplicaciones algorítmicas de uso común en consumo. El Reglamento europeo de IA, por ejemplo, se centra en los sistemas de alto riesgo, dejando fuera muchos algoritmos comerciales que inciden directamente en los derechos del consumidor. De ahí la necesidad de anticiparse desde la legislación nacional, reforzando las garantías antes de que las brechas de protección se agraven.
La iniciativa se enmarca en un contexto de transformación acelerada del mercado digital, donde cada vez más decisiones se toman sin intervención humana ni posibilidad de recurso efectivo. Según el Colegio, esta evolución tecnológica no puede producirse a costa de principios constitucionales como la igualdad, la información veraz y la protección de la parte débil en la contratación.