Peligros de la IA
Uno de los 'padres' de la IA advierte que "podría matar a todos los seres humanos en la próxima década"
Los detalles Hubinger considera que el riesgo de los modelos actuales es bajo, señalando que lo preocupante es "la superinteligencia que surge del automejoramiento recursivo", ya que está ocurriendo "más rápido de lo pensábamos".
Resumen IA supervisado
Evan Hubinger, investigador de Anthropic, ha advertido sobre el potencial peligro de la Inteligencia Artificial (IA), afirmando que podría representar una amenaza para la humanidad en la próxima década. Aunque considera que los modelos actuales tienen un riesgo bajo, le preocupa la superinteligencia que surge del automejoramiento recursivo. La dimisión de Jacob Coxon, también de Anthropic, resalta la irresponsabilidad en el desarrollo de la IA por parte de empresas como Anthropic y OpenAI. A pesar de que Anthropic parece más consciente de los riesgos que OpenAI, ambas están inmersas en una carrera por alcanzar la superinteligencia, dejando de lado otras consideraciones importantes.
* Resumen supervisado por periodistas.
Evan Hubinger, investigador de Anthropic, ha realizado una clara advertencia sobre la Inteligencia Artificial (IA). "Creemos con sinceridad que podría matar a todos los humanos. Personalmente, pienso que es más del 10% dentro de la próxima década", ha publicado en sus redes sociales.
"Creo que Anthropic lo está haciendo lo mejor que puede, pero aun no tenemos un plan para resolver el problema de la superinteligencia y no estamos en camino de lograrlo", ha reconocido el director de Ciencia de Alineación de Anthropic.
Pese a ello, Hubinger ha indicado que considera que el riesgo de los modelos actuales es bajo, aunque lo preocupante es "la superinteligencia que surge del automejoramiento recursivo (…) que está ocurriendo más rápido de lo pensábamos"
Una publicación que ha realizado tras conocerse que el investigador de la 'startup' de IA Anthropic Jacob Coxon ha presentado su dimisión al considerar que tanto esta firma como OpenAI, donde también trabajó, actúan con irresponsabilidad en el desarrollo de la IA, que define como una tecnología que no debe ser subestimada y que podría suponer un amenaza para la humanidad.
"Hoy renuncié a Anthropic. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Están avanzando a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas", ha expresado Coxon en un mensaje en redes sociales.
El empleado de Anthropic ha sostenido que dentro del sector de la IA, multitud de personas ya están siendo conscientes del elevado avance de la IA y sus peligros súbitos para el conjunto de la sociedad humana. Pese a ello, Coxon ha advertido de que muchos ejecutivos minimizarán estos riesgos para evitar el caos.
La carrera en el sector por convertirse en la firma más puntera en inteligencia artificial ha provocado que las empresas dejen atrás otras consideraciones respecto al avance de la IA. Coxon especifica que, aunque en Anthropic tienen más en cuenta estas cuestiones que en OpenAI, ambas "están inmersas en una carrera por llegar primero".
Coxon no ha sido el único investigador que se ha retirado del desarrollo de los modelos de IA en los últimos años tras advertir de los peligros de este desarrollo tecnológico.