IA, ¿beneficiosa o dañina?
De resolver uno de los enigmas matemáticos del milenio a matarnos a todos en 2030: las dos vertientes de la IA
¿Por qué es importante? Este 9 de septiembre será recordado como el día que la inteligencia artificial resolvió uno de los problemas matemáticos considerados imposibles de calcular, pero también por la advertencia de un investigador de Anthropic. Cree que la IA puede acabar con la humanidad en una década.
Resumen IA supervisado
Este miércoles, la inteligencia artificial mostró sus dos caras: una positiva y otra alarmante. Mientras la IA resolvió un 'enigma matemático del milenio', lo que podría beneficiar áreas como la sanidad y la agricultura, Jacob Coxon de Anthropic advirtió sobre su potencial destructivo. Coxon, de 27 años, renunció a su trabajo, criticando a empresas como Anthropic y OpenAI por no actuar responsablemente. Señaló que la IA podría automejorarse y amenazar a la humanidad en una década. A pesar de los temores, Coxon defendió su trabajo, admitiendo que aún no hay un plan claro para controlar la superinteligencia.
* Resumen supervisado por periodistas.
Este miércoles, hemos vuelto a ver las dos caras que tiene la inteligencia artificial y sus aplicaciones. Una tremendamente positiva y otra que, como poco, da mucho miedo. Porque el mismo día que la IA ha conseguido resolver uno de los llamados 'enigmas matemáticos del milenio', uno de sus desarrolladores ha advertido que, en solo una década, de seguir con esta evolución, la IA podría llegar a matar a humanos.
Un hito en la historia y una advertencia que chocan frontalmente, pues la resolución de este problema matemático podría ser muy beneficiosa para la humanidad y su futuro. Y es que, por primera vez en la historia, la inteligencia artificial ha conseguido dar respuesta a uno de los 'enigmas matemáticos del milenio'. Se llaman así porque, a principios de siglo, se consideró que eran operaciones que nadie podía hacer y que para una máquina eran prácticamente imposibles de resolver. Hasta ahora.
Hito en OpenAI y advertencia desde Anthropic
Empecemos por lo bueno, porque gracias al trabajo de 10.000 trabajadores de OpenAI, de la creadora de ChatGPT, han invertido más de 80 horas para resolverlo. Si lo ha hecho bien, el resultado obtenido podría traer beneficios para áreas tan importantes para la humanidad como lo son la sanidad, la agricultura o la meteorología.
Ahora bien, este hito se ha alcanzado al mismo tiempo que hemos conocido una nueva visión apocalíptica de la IA. Porque Jacob Coxon, investigador e ingeniero de Anthropic, ha advertido que, de seguir este ritmo de evolución tan descontrolada, la IA podría acabar con la humanidad en una década.
O en sus propias palabras: "Creemos con sinceridad que la IA podría matar a todos los seres humanos. Personalmente, creo que puede ser dentro de la próxima década".
Así se ha expresado Jacob Coxon, que con solo 27 años, ha renunciado a su trabajo en Anthropic. Considera que ni esta firma ni OpenAI están actuando "de manera responsable" a la hora de hacer crecer y evolucionar sus tecnologías de inteligencia artificial. "He pasado los últimos tres años investigando sobre preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas está actuando de manera responsable. Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse, poniendo en juego nuestras vidas", ha explicado.
Porque este ingeniero quiere que dejemos de "subestimar el poder de esta tecnología". "Pronto veremos sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales".
Es más, insiste en que "quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década". No se trata de una maniobra publicitaria. Es más, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero yo he escuchado a esas mismas personas expresar temor".
Tras mandar este mensaje nada esperanzador para el futuro, este trabajador ha querido defender su trabajo, asegurando que lo hacen lo mejor que saben sin estar del todo preparados. "Creo que Anthropic lo está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el problema de la superinteligencia y no estamos en camino de lograrlo".