La Comisión Europea investiga a Grok, la herramienta de inteligencia artificial de la red social propiedad de Elon Musk, por permitir la creación de contenido ilegal y abuso infantil digital, en una escalada regulatoria que podría culminar en multas récord.
Bruselas intensifica su pulso con las grandes tecnológicas al lanzar una investigación formal contra Grok, el sistema de inteligencia artificial integrado en la plataforma X. El Ejecutivo comunitario acusa a la herramienta de facilitar la creación de imágenes sexualizadas de menores y otro material ilegal, en una clara vulneración de la normativa digital europea. Este procedimiento se suma al expediente ya abierto contra la empresa matriz en diciembre de 2023, centrado en su sistema de recomendaciones y la gestión de riesgos relacionados con desinformación y discursos de odio.
La investigación, anunciada este lunes, responde a la alarma generada tras conocerse que, en solo once días entre finales de diciembre y comienzos de enero, usuarios de Grok generaron más de once millones de imágenes manipuladas de carácter sexual, entre las cuales se identificaron al menos veintitrés mil que representaban a menores. La presidenta de la Comisión Europea, Ursula von der Leyen, reaccionó con contundencia: “No externalizaremos la protección infantil en Silicon Valley. Si ellos no actúan, lo haremos nosotros”. Von der Leyen subrayó el “daño muy real” causado por una tecnología que permite “desnudar digitalmente a mujeres y niños en Internet”.
El departamento dirigido por la vicepresidenta Henna Virkkunen, responsable de tecnología y seguridad, manifestó su preocupación ante la materialización de riesgos graves para los ciudadanos europeos. La investigación determinará si X incumple el Reglamento de Servicios Digitales (DSA) o si, por el contrario, mitiga adecuadamente los peligros vinculados a “la violencia de género y las graves consecuencias para el bienestar físico y mental” derivadas de la implementación de Grok.
Este caso marca un giro en el enfoque regulatorio, al dirigir la responsabilidad hacia la compañía que provee la herramienta y no solo hacia los usuarios. Varios países ya han tomado medidas similares: Indonesia y Malasia prohibieron Grok, mientras que Italia bloqueó la aplicación Clothoff. En España, el Gobierno acaba de presentar un anteproyecto que reforma el derecho al honor y a la propia imagen, mencionando explícitamente las “ultrasuplantaciones realizadas con inteligencia artificial”.
Paralelamente, Bruselas profundiza en el expediente anterior contra X, que en diciembre pasado culminó en una multa de 120 millones de euros por falta de transparencia publicitaria, diseño engañoso de la verificación de perfiles y restricciones al acceso de datos para investigadores. Aquella sanción, cercana al 5,4% de la facturación anual de la empresa, inauguró el régimen sancionador del DSA. En el nuevo procedimiento, la multa podría alcanzar el 6% de los ingresos globales de X, además de posibles medidas provisionales para mitigar riesgos.
La ofensiva regulatoria europea ha desatado críticas desde Washington, donde el presidente Donald Trump calificó la sanción anterior de “asquerosa”. Altos cargos comerciales estadounidenses han vinculado la negociación de disputas arancelarias con la exigencia de flexibilizar las normas digitales europeas. Según Washington, el DSA coarta la libertad de expresión y perjudica especialmente a empresas tecnológicas norteamericanas.
Bruselas rechaza estas acusaciones, argumentando que la libertad de expresión no puede anteponerse a la protección de derechos fundamentales ni de colectivos vulnerables como la infancia. Asimismo, recuerda que las obligaciones reforzadas del DSA se aplican con criterios objetivos a las “grandes plataformas en línea”, aquellas con más de 45 millones de usuarios en la UE. De las diecisiete compañías actualmente designadas bajo esa etiqueta, solo dos son europeas.
La investigación sobre Grok representa así un nuevo capítulo en la batalla por la soberanía digital europea, donde la protección de los menores se erige como línea roja frente a los excesos de la inteligencia artificial comercial.
