seguridad democrática y nacional
Macron pide vetar los usos de la IA que amenacen a los menores: "Si ciertos usos representan un riesgo para los niños, hay que prohibirlos"
¿Por qué es importante? El presidente francés anuncia que OpenAI y Anthropic someterán sus modelos a evaluaciones independientes y auditorías antes de ofrecerlos a menores, mientras impulsa un acuerdo internacional para reforzar la supervisión y la seguridad de estas tecnologías.
Resumen IA supervisado
El presidente francés, Emmanuel Macron, abogó por prohibir el uso de la inteligencia artificial que pueda poner en riesgo a los menores, especialmente en cuanto a su salud mental y desarrollo cerebral. En una entrevista con *Les Echos*, Macron destacó la necesidad de garantizar la seguridad democrática y nacional. Anunció que empresas como OpenAI y Anthropic se someterán a evaluaciones independientes antes de ofrecer sus modelos a menores. Paralelamente, cerca de 50 líderes políticos, empresas y organismos firmaron el 'Llamamiento de París por la seguridad de la IA', que busca una respuesta internacional coordinada ante los riesgos de la IA avanzada. Este texto establece prioridades como fortalecer evaluaciones independientes, mejorar el intercambio de alertas sobre incidentes y definir responsabilidades. Francia buscará impulsar una regulación europea y extender estos compromisos a otros países.
* Resumen supervisado por periodistas.
El presidente francés, Emmanuel Macron, defendió la prohibición de aquellos usos de la inteligencia artificial (IA) que puedan poner en peligro a los menores, especialmente en lo relativo a su salud mental y al desarrollo cerebral. Asimismo, reclamó mayores garantías para preservar la seguridad democrática y nacional. "Si ciertos usos de la IA representan un riesgo para los niños, hay que prohibirlos", afirmó Macron en una entrevista con el diario económico 'Les Echos', publicada antes de la adopción de una carta de compromisos sobre la seguridad de la IA en el Foro de París por la Paz, que comienza este martes. El mandatario francés anunció que compañías como OpenAI y Anthropic se comprometerán a someter sus modelos a evaluaciones independientes y auditorías previas antes de ponerlos a disposición de los menores.
En paralelo, cerca de medio centenar de dirigentes políticos, representantes de organismos internacionales, empresas tecnológicas e investigadores firmaron este lunes el 'Llamamiento de París por la seguridad de la inteligencia artificial', una declaración que pretende promover una respuesta internacional coordinada frente a los riesgos de los modelos más avanzados de IA. Entre los firmantes se encuentran representantes de seis países (Baréin, Canadá, Finlandia, Francia, Noruega y Países Bajos), además de diez empresas, entre ellas OpenAI, Anthropic, Microsoft y Mistral AI. También respaldaron el documento distintas organizaciones de la sociedad civil, como LawZero, SaferAI, AI Safety Connect e Ifri.
El texto fija tres prioridades: fortalecer las evaluaciones independientes y públicas de los modelos, mejorar el intercambio de alertas sobre incidentes graves y establecer con mayor claridad las responsabilidades de quienes desarrollan estas tecnologías. Los firmantes también se comprometieron a promover mecanismos comunes para evaluar los riesgos, facilitar la supervisión independiente de los sistemas y mejorar la comunicación de incidentes, incluidos aquellos relacionados con la ciberseguridad y posibles pérdidas de control. Francia impulsará una regulación europea y tratará de ampliar estos compromisos a Estados Unidos, Canadá y otros países, señaló Macron en la entrevista. "El objetivo no es rechazar estas innovaciones, sino crear un marco que tenga en cuenta sus peligros", sostuvo.