Un nuevo debate sobre políticas podría estar surgiendo en torno a los sistemas de recomendación de contenido de las Big Tech en la Unión Europea, donde la Comisión está enfrentando un llamado de un grupo de parlamentarios para controlar los feeds de contenido basados en perfiles, también conocidos como motores de «personalización» que procesan los datos de los usuarios para determinar qué contenido mostrarles.
El seguimiento y perfilado de los usuarios en las plataformas para impulsar feeds de contenido «personalizados» ha generado preocupaciones durante mucho tiempo sobre posibles daños para los individuos y las sociedades democráticas. Críticos sugieren que la tecnología impulsa la adicción a las redes sociales y representa riesgos para la salud mental de las personas vulnerables. También hay preocupaciones de que la tecnología socave la cohesión social al amplificar contenido divisivo y polarizante que puede llevar a las personas hacia extremos políticos canalizando su indignación y enojo.
La carta, firmada por 17 eurodiputados de grupos políticos como S&D, la izquierda, los verdes, el PPE y Renew Europe, aboga por que los sistemas de recomendación de las plataformas tecnológicas se desactiven de forma predeterminada, una idea que se planteó durante las negociaciones sobre el Digital Services Act (DSA) de la UE, pero que finalmente no se incluyó en la regulación final.
El llamado sigue la publicación de una propuesta de orientación sobre seguridad en línea para plataformas de intercambio de videos, publicada a principios de este mes por la comisión de medios de Irlanda (Coimisiún na Meán), que será responsable de la supervisión de la DSA a nivel local una vez que la regulación entre en vigor en los servicios correspondientes el próximo febrero. Coimisiún na Meán consulta actualmente una propuesta que sugiere que las plataformas de intercambio de videos deben tomar «medidas para garantizar que los algoritmos de recomendación basados en perfiles se desactiven de forma predeterminada».
La carta también hace referencia a un informe recientemente aprobado por el Parlamento Europeo sobre el diseño adictivo de los servicios en línea y la protección del consumidor, que destaca el impacto perjudicial de los sistemas de recomendación en los servicios en línea que se dedican a perfilar a las personas, especialmente a menores, con la intención de mantener a los usuarios en la plataforma el mayor tiempo posible, manipulándolos a través de la amplificación artificial del odio, el suicidio, el autolesionismo y la desinformación.
Mientras tanto, la Comisión Europea está examinando los sistemas de recomendación en su capacidad de hacer cumplir el DSA en las VLOPs, incluyendo a través del procedimiento formal que se abrió esta semana. Los sistemas de recomendación también han sido un foco de algunas de las solicitudes formales de información que la Comisión ha enviado a las VLOPs. El enfoque de la Comisión es realizar evaluaciones caso por caso de las preocupaciones, defendiendo intervenciones en las VLOPs basadas en datos, en lugar de medidas generales.
La DSA acordó medidas de transparencia para los sistemas de recomendación, junto con el requisito de que las plataformas más grandes deben proporcionar al menos un feed de contenido que no se base en el perfilado. Sin embargo, la Comisión opina que se necesita recopilar más datos para comprender los aspectos básicos relevantes en torno al debate sobre los sistemas de recomendación, como el efecto de desactivar la personalización de forma predeterminada y los aspectos conductuales relacionados.
La Comisión se opone a la dilución de su energía en marcos legales competidores, señalando que es más conveniente trabajar dentro del marco del DSA para abordar los problemas que plantean los sistemas de recomendación. El mensaje de la fuente de la UE es que la regulación, y la Comisión, necesitan tiempo para trabajar. Se espera que el 2024 sea un año significativo para la respuesta de la UE a las Big Tech y para evaluar si el cumplimiento de la UE produce los resultados que los defensores de los derechos digitales desean.
