Amazon se enfrenta a un mayor escrutinio de la UE por sus algoritmos de recomendación y transparencia publicitaria
El desarrollo destaca áreas donde las autoridades de la UE están intensificando su escrutinio del gigante del comercio electrónico, y el bloque pide más información sobre los sistemas de recomendación de Amazon, las disposiciones de transparencia publicitaria y las medidas de evaluación de riesgos.
Una RFI anterior de la Comisión a Amazon en noviembre pasado se centró en evaluaciones y mitigaciones de riesgos en torno a la propagación de productos ilegales; y en la protección de los derechos fundamentales, incluso en relación con sus sistemas de recomendación.
La Ley de Servicios Digitales (DSA) de la UE impone requisitos para que las plataformas y servicios cumplan con una variedad de estándares de gobernanza, incluso en áreas como la moderación de contenido. En el caso de los mercados en línea, la ley también les exige que implementen medidas que les permitan tomar medidas para abordar los riesgos que rodean la venta de productos ilegales. Mientras que los mercados más grandes como Amazon tienen una capa adicional de transparencia algorítmica y obligaciones de rendición de cuentas bajo el régimen, y aquí es donde se centran las solicitudes de información de la Comisión.
Las normas adicionales se aplican a Amazon desde finales de agosto del año pasado, tras su designación por parte de la UE como plataforma en línea de muy gran tamaño (VLOP) en abril de 2023. Corresponde a la Comisión hacer cumplir estas obligaciones adicionales a los VLOP.
Si bien queda por ver si la última RFI de la Comisión para Amazon conducirá a una investigación formal sobre su cumplimiento de la DSA, sigue habiendo mucho en juego para el gigante del comercio electrónico. Cualquier infracción confirmada puede resultar muy costosa, ya que las sanciones por violar la legislación paneuropea pueden alcanzar hasta el 6% de la facturación anual mundial. (Nota: la empresa ingresos anuales completos para 2023 era de 574.800 millones de dólares, lo que significa (al menos sobre el papel) que su riesgo regulatorio asciende a miles de millones de dos dígitos).
Detallando su acción en un presione soltarLa Comisión dijo que envió a Amazon un RFI relacionado con los pasos que tomó para cumplir con las reglas de la DSA relacionadas con la transparencia de los sistemas de recomendación y sus parámetros. También dijo que está pidiendo más información sobre las disposiciones de Amazon para mantener un repositorio de anuncios, otro paso de transparencia legalmente obligatorio para plataformas más grandes.
La Comisión también dijo que quiere más detalles sobre el informe de evaluación de riesgos de Amazon. La DSA exige que los VLOP evalúen de forma proactiva los riesgos sistémicos que puedan surgir en sus plataformas y tomen medidas para mitigar los problemas. Las plataformas también necesitan documentar su proceso de cumplimiento.
“En particular, se solicita a Amazon que proporcione información detallada sobre su cumplimiento de las disposiciones relativas a la transparencia de los sistemas de recomendación, los factores de entrada, características, señales, información y metadatos aplicados a dichos sistemas, y las opciones ofrecidas a los usuarios para optar por participar. no ser perfilado para los sistemas de recomendación”, escribió la UE. «La empresa también necesita proporcionar más información sobre el diseño, desarrollo, implementación, prueba y mantenimiento de la interfaz en línea de la biblioteca de anuncios de Amazon Store y documentos de respaldo sobre su informe de evaluación de riesgos».
La UE dio a Amazon hasta el 26 de julio para proporcionar la información solicitada. Después de eso, los siguientes pasos dependerán de evaluar su respuesta. Pero la falta de respuesta satisfactoria a una solicitud de información puede desencadenar en sí misma una sanción.
El año pasado, la UE nombró a los mercados en línea como uno de los pocos temas prioritarios para su aplicación de las reglas DSA a los VLOP. Y ella parecía atenta a la zona.
A fines del mes pasado, envió RFI por separado a los VLOP del mercado rival Shein y Temu, poco después de designar al dúo. Aunque en su caso, las RFI de la Comisión también plantearon preocupaciones sobre los riesgos de los productos ilegales y el diseño manipulativo (incluso como un riesgo potencial para la seguridad infantil), además de pedirles más información sobre el funcionamiento de sus propios sistemas de recomendación.
¿Por qué tanto interés aquí? La clasificación algorítmica tiene el poder de influir en toda la experiencia de los usuarios de la plataforma al determinar el contenido y/o los productos que ven.
En pocas palabras, la UE quiere que la DSA desmantele estos sistemas de inteligencia artificial de caja negra para garantizar que las agendas comerciales de las plataformas (llamar la atención de los usuarios y/o generar más ventas) no sean lo único que programe estas decisiones automatizadas. Por lo tanto, quiere que la DSA actúe como un escudo contra los riesgos de daño social impulsado por la IA, como plataformas que promocionan contenido perjudicial para la salud mental de las personas o recomiendan que los compradores compren productos peligrosos. Pero lograr este objetivo requerirá supervisión.
Mientras tanto, Amazon está descontenta con el régimen de la UE. El año pasado, cuestionó su designación DSA como VLOP. Y el otoño pasado, obtuvo una suspensión provisional de un elemento del cumplimiento de DSA de los VLOP: a saber, el requisito de publicar una biblioteca de anuncios. Sin embargo, en marzo, el Tribunal General de la UE revocó la decisión anterior, anulando la suspensión parcial.
“Tras su nombramiento como VPlataforma en línea muy grande y la decisión del Tribunal de rechazar la solicitud de Amazon de suspender la obligación de realizar Irepositorio de anuncios ts disponible públicamenteAmazon debe cumplir con el conjunto completo de obligaciones DSA”, escribió hoy la Comisión. «Esto incluye identificar y evaluar diligentemente todos los riesgos sistémicos relevantes para su servicio, brindar una opción en sus sistemas de recomendación que no se base en perfiles de usuario y tener un repositorio de anuncios disponible públicamente».
Teniendo en cuenta que Amazon gastó dinero en abogados para tratar de argumentar por qué no debería tener que cumplir con el elemento de biblioteca de anuncios de la DSA (y la posterior revocación de la suspensión), no sorprende demasiado que esta sea una de las áreas en las que la Comisión está buscando más información ahora.
Se contactó a la UE con preguntas. También nos comunicamos con Amazon para obtener una respuesta al RFI de la Comisión.
Un portavoz de la empresa envió esta declaración por correo electrónico a TechCrunch: “Estamos revisando esta solicitud y trabajando en estrecha colaboración con la Comisión Europea. Amazon comparte el objetivo de la Comisión Europea de crear un entorno de compras seguro, predecible y fiable. Creemos que esto es importante para todos los participantes de la industria minorista y hemos invertido significativamente en proteger nuestra tienda de malos actores, contenido ilegal y en crear una experiencia de compra confiable. Nos basamos en esta sólida base para el cumplimiento de la DSA”.
