¿Qué es el proyecto Q* de OpenAI y por qué podría suponer "un riesgo para la humanidad"?

El sorprendente y fulminante despido Sam Altman, consejero delegado de OpenAI, que duró apenas cuatro días, supuso una gran crisis entre los empleados de la empresa y levantó muchas sorpresas sobre qué hay detrás del culebrón de la empresa creadora del famoso ChatGPT.

Lo que se sabe hasta ahora es que la filosofía agresiva de Altman de sacar productos al mercado cuánto antes supuso tensiones en la directiva pero algunos medios como Reuters hacen referencia a una carta en la algunos investigadores alertaban un nuevo proyecto que "podría amenazar la humanidad": Proyecto Q*. Según las fuentes, podría haber sido uno de los factores que provocó la destitución de Altman, pero, ¿qué es esta Inteligencia Artificial y cuál es su amenaza?

El proyecto Q* (pronunciado Q-Star) es un plan de la empresa que trata de crear lo que se conoce como inteligencia general artificial (IGA), según ha declarado uno de los empleados a Reuters. Según OpenAI, "la AGI son sistemas autónomos que superan a los humanos en la mayoría de las trabajos que cuentan con un gran valor económico".

El nuevo modelo, dotado de grandes recursos informáticos, fue capaz de resolver ciertos problemas matemáticos, según declaró la persona al ya citado medio. En relación con las capacidades de la nueva IA en cuestión, hasta ahora sólo realiza operaciones matemáticas al nivel de los alumnos de primaria, pero según el empleado el hecho de superar estas pruebas hace que los investigadores sean muy optimistas sobre el futuro éxito de Q*.

¿Por qué supone una amenaza a la humanidad Proyecto Q*?

Cabe resaltar que los investigadores consideran que las matemáticas son la frontera del desarrollo de la IA generativa. Actualmente, la IA generativa tiene la capacidad de escribir y traducir idiomas mediante la predicción estadística de la siguiente palabra, y por ello, las respuestas a una misma pregunta pueden variar mucho.

Sin embargo, que la IGA sea capaz de resolver problemas matemáticos y devolver una sola respuesta, implica que la IA tendría una mayor capacidad de razonamiento similar a la inteligencia humana. Por ello, esta máquina, a diferencia de una calculadora que puede resolver un número limitado de operaciones, podría llegar a generalizar, aprender y comprender, al igual que los humanos.

Este tipo de razonamiento lo podría emplear incluso para llevar a cabo investigaciones científicas novedosas, creen los investigadores de IA. Por tanto, el proyecto podría suponer una serie de avances, pero muchos investigadores también se plantean que podría amenazar nuestra existencia.

Aunque los investigadores no llegaron a detallar a los medios de comunicación exactamente cuales son los potenciales peligros de esta IA que detallaron en la carta, a lo largo de los últimos años informáticos han debatido sobre el peligro que suponen las máquinas altamente inteligentes, e incluso han explorado que estas inteligencias lleguen, a base del razonamiento, lleguen a plantearse si la destrucción de la humanidad les interesa.