La Comisión Europea incluyó a ChatGPT, Reddit y Roblox bajo las normativas más estrictas de la Ley de Servicios Digitales (DSA) al categorizadas como VLOP o VLOSE (Very Large Online Platform y Very Large Online Search Engine, respectivamente), lo que las obliga a implementar medidas rigurosas contra el contenido ilegal y a proteger el bienestar mental de los menores.
Esa designación aplica a plataformas con más de 45 millones usuarios únicos mensuales y las sitúa bajo el nivel de regulación y escrutinio más estricto del territorio europeo. Específicamente, implica la imposición de exigentes obligaciones y mecanismos de control adicionales:
- Evaluación y mitigación de riesgos sistémicos: Las compañías están obligadas a evaluar minuciosamente y mitigar activamente los riesgos relacionados con el funcionamiento de sus servicios y algoritmos. Esto implica diseñar medidas específicas contra la propagación de contenido ilegal, evitar daños a menores, proteger el bienestar físico y mental de los usuarios, salvaguardar los derechos fundamentales, controlar riesgos vinculados a procesos electorales y velar por la seguridad pública.
- Supervisión directa e investigación de la Comisión Europea: Las autoridades de la Unión Europea adquieren nuevos poderes de investigación para auditar la funcionalidad de estas plataformas y de los sistemas conectados a ellas. Esta supervisión se coordinará de la mano de reguladores nacionales específicos dependiendo de dónde se encuentre establecida legalmente cada empresa en la UE:
- La Coimisiún na Meán de Irlanda supervisará directamente a ChatGPT y Reddit.
- La Autoridad de Consumidores y Mercados (ACM) de los Países Bajos se encargará de supervisar a Roblox.
En caso de que se demuestre un incumplimiento de estas obligaciones de la DSA, las plataformas se exponen a multas masivas que pueden llegar hasta el 6% de sus ingresos anuales a nivel mundial.
¿Por qué clasificaron a ChatGPT como buscador?
La Comisión Europea clasificó a ChatGPT como un motor de búsqueda debido a su naturaleza funcional y a la forma en que interactúa con la información en la web, aunque llegar a esta decisión implicó cierto debate interno.
Inicialmente, los reguladores de la Unión Europea debatieron si clasificar al chatbot de inteligencia artificial como una plataforma en línea o como un motor de búsqueda. Esta dificultad técnica se debió a que la DSA, aprobada en 2022, se redactó antes de que la inteligencia artificial generativa se popularizara de forma masiva, por lo que no especificaba claramente cómo categorizar este tipo de servicios.
Finalmente, la Comisión resolvió clasificarlo bajo la categoría de buscador por los siguientes factores clave:
- Es un "servicio híbrido": ChatGPT es un sistema de inteligencia artificial capaz de responder a instrucciones de los usuarios y, en las configuraciones que lo permiten, realizar búsquedas activas en la web. Los reguladores determinaron que esta combinación de capacidades hace que cumpla con la definición legal de un motor de búsqueda bajo la DSA.
- Diferencia en el manejo de contenido: A diferencia de Reddit o Roblox, que fueron clasificadas como plataformas en línea (VLOP) porque su función principal es permitir la difusión pública de contenidos creados por terceros, la función esencial de ChatGPT se centra en procesar consultas de los usuarios y buscar información para generar respuestas personalizadas.
Con esta designación, ChatGPT se une a un selecto grupo en el que, antes de su llegada, únicamente Google Search y Bing de Microsoft figuraban como los motores de búsqueda catalogados como "muy grandes" por la Unión Europea.
De cara al usuario
Para el usuario cotidiano de ChatGPT, Reddit y Roblox en la Unión Europea, esta decisión debería traducirse en una experiencia digital más segura, transparente y protegida. Las implicaciones directas para las personas incluyen:
- Mayor protección para la salud mental y los menores: Las plataformas están obligadas por ley a evaluar y mitigar los impactos negativos que sus sistemas y algoritmos de recomendación puedan causar en el bienestar físico y mental de los usuarios, prestando especial atención a evitar cualquier daño a los menores de edad. Esto significa que deberán revisar prácticas de diseño potencialmente nocivas o adictivas (como ha ocurrido en otras investigaciones de la UE sobre sistemas de recomendación altamente personalizados o notificaciones persistentes).
- Combate riguroso al contenido ilegal: Las empresas deberán aplicar medidas estrictas para prevenir y frenar rápidamente la propagación de contenido ilegal, el acoso y las amenazas a la seguridad pública dentro de sus entornos.
- Mayor transparencia en el servicio: Bajo la DSA, se imponen reglas severas para que los usuarios comprendan mejor cómo funcionan los algoritmos que deciden qué contenidos se les muestran (sistemas de recomendación), el acceso a investigadores y la transparencia en la publicidad. De hecho, Reddit ha manifestado de manera oficial su compromiso de proporcionar una mayor transparencia para sus usuarios bajo este nuevo marco.
- Defensa de los derechos fundamentales y procesos democráticos: La regulación exige que el funcionamiento de estas plataformas no vulnere los derechos fundamentales de los ciudadanos ni interfiera de manera sesgada en la opinión pública o en los procesos electorales mediante algoritmos de desinformación.
- Protección contra el "diseño engañoso": Al estar bajo el máximo nivel de escrutinio de la Comisión Europea, se reduce el riesgo de que estas plataformas utilicen interfaces confusas o engañosas para manipular el comportamiento o las decisiones de los usuarios, una infracción que ya ha derivado en sanciones millonarias previas en el ecosistema digital europeo.
Ahora las empresas disponen de un periodo de cuatro meses para adaptar sus algoritmos y sistemas de moderación a estas exigencias de transparencia y seguridad. Con estas adiciones, ya son 28 los servicios de gran escala que operan bajo la vigilancia reforzada de la Unión Europea para garantizar un entorno digital más confiable.
