Responsabilidad penal por algoritmos manipulados o por contenido sexualizado de IA: los detalles de la regularización de las redes sociales del Gobierno

Luchar contra el "salvaje oeste digital". Es el objetivo que se ha marcado el Gobierno y para el cuál, el presidente Sánchez ha anunciado cinco medidas clave. Se pone el foco en las plataformas y en la responsabilidad penal de sus CEO, con la tipificación de nuevos delitos por manipular los algoritmos y amplificar conscientemente contenidos ilegales. También se perseguirá la creación y difusión de contenidos sexualizados con IA en menores.

Detallamos las medidas legales y administrativas que el Gobierno prevé aprobar la próxima semana para tener entornos digitales más seguros y cómo se van a llevar a cabo.

Responsabilidad penal de los directivos de las plataformas

El Gobierno propondrá una reforma del Código Penal para que los directivos de las plataformas digitales puedan ser considerados penalmente responsables de las infracciones cometidas en sus servicios, en particular cuando incumplan una orden de retirada de contenidos ilícitos. Esto implica que altos ejecutivos de empresas tecnológicas podrán responder penalmente por la inacción deliberada ante este tipo de contenidos.

Esta medida se incluirá en un Proyecto de Ley Orgánica que será remitido al Parlamento. La reforma introducirá un régimen de responsabilidad penal específico para los responsables últimos de las plataformas, poniendo fin a la impunidad derivada de la falta de control efectivo sobre los contenidos que se difunden bajo su supervisión.

Penalización de la manipulación algorítmica y la amplificación de contenidos ilegales

Se tipificarán como nuevos delitos la manipulación de algoritmos que facilite la amplificación deliberada de contenidos ilegales, y la alteración del funcionamiento de sistemas automatizados de procesamiento de datos. Se reconoce que estos contenidos no surgen de forma espontánea, sino que son creados, impulsados y amplificados por actores concretos y por algoritmos diseñados para maximizar beneficios. Francia ya ha avanzado en su legislación sobre procesamiento reconociendo el impacto de la manipulación en algoritmos e introdujo en su Código Penal delitos similares en 2023.

Al igual que la primera medida, esta se vehiculará a través de un Proyecto de Ley Orgánica que será tramitado en el Parlamento. La norma incorporará la responsabilidad penal de las plataformas cuyos algoritmos amplifiquen contenidos ilegales, superando la idea de que la tecnología es neutral.

Creación de la 'Huella de Odio y Polarización'

El Gobierno desarrollará un sistema denominado 'Huella de Odio y Polarización', destinado a rastrear, medir y hacer visible cómo las plataformas digitales fomentan la polarización social y amplifican el odio. El objetivo es transformar un fenómeno hasta ahora opaco en un elemento cuantificable y evaluable, generando un ranking de peores a mejores plataformas en relación con la presencia de odio y polarización en las mismas.

Esta medida se materializará mediante el desarrollo de una herramienta específica, que permitirá un análisis más riguroso del comportamiento de las plataformas y de sus algoritmos en relación con la polarización y la promoción del odio. La información generada permitiría abrir debates sobre el control de las plataformas y los mecanismos para favorecer entornos digitales más seguros.

Prohibición del acceso a redes sociales para menores de 16 años

España prohibirá el acceso a redes sociales a los menores de 16 años, siguiendo los pasos de otros países como Francia y Australia. Además, las plataformas estarán obligadas a implantar sistemas efectivos de verificación de edad, que vayan más allá de simples declaraciones formales, garantizando barreras reales y eficaces.

Esta medida se desarrollará a través de prohibición expresa de acceso a menores en un nuevo artículo del Proyecto de Ley de Protección de Personas Menores de Edad en entornos digitales. Esa prohibición, y en virtud del artículo 28 del Reglamento de Servicios Digitales (DSA) de la UE y de las directrices publicadas por la Comisión, promoverá que las plataformas y redes sociales a implantar sistemas de verificación seguros para garantizar el cumplimiento de esa ley nacional.

Tolerancia cero frente a infracciones vinculadas a contenido sexualizado de menores

El Ejecutivo actuará con tolerancia cero frente a las posibles infracciones cometidas por plataformas como Grok o TikTok relativas a la generación con IA de contenido sexualizado vinculado a menores o a la difusión de los mismos.

El Gobierno trabajará conjuntamente con todos los poderes e instituciones, especialmente el Ministerio Fiscal, para prevenir, detectar, investigar y, en su caso, promover la acción de la justicia frente a las infracciones detectadas.

*Sigue a laSexta en Google. Toda la actualidad y el mejor contenido aquí.