Los peligros de la superinteligencia
"Un equipo de superalineación": así quiere OpenAI evitar la extinción humana por parte de la inteligencia artificial
Los responsables de ChatGPT crearán un nuevo equipo dedicado al desarrollo de tecnologías para controlar la inteligencia artificial. "El vasto poder de la superinteligencia podría llevar a la pérdida de poder de la humanidad o incluso a la extinción", advierten.
Los responsables de ChatGPT, OpenAI, están creando un nuevo equipo de investigadores dedicado a desarrollar tecnologías que ayuden a controlar los sistemas de inteligencia artificial (IA) que superan las capacidades humanas.
No es nueva esta preocupación por la inteligencia artificial, ya que hace semanas varios expertos alertaban deun "riesgo de extinción" comparable al de las pandemias o la guerra nuclear. Así lo trasladaron en una carta abierta un grupo de más de 300 expertos e investigadores de la industria, entre los que se encontraban el director ejecutivo de Google DeepMind, Demis Hassabis; Dario Amodei, director ejecutivo de Anthropic, y el director ejecutivo de OpenAI, Sam Altman, entre otros.
Por eso, la compañía responsable del modelo de lenguaje GPT y el 'chatbot' ChatGPT espera atajar el problema del control de la IA en los próximos cuatro años, para lo que está preparando un equipo dedicado a ello.
En concreto, y como ha informado en su blog oficial, este nuevo equipo estará liderado por el cofundador de OpenAI y responsable científico, Ilya Sutskever, y el responsable de Alineamiento, Jan Leike, y utilizará el 20 por ciento de la computación obtenida.
"La superinteligencia será la tecnología más impactante que la humanidad haya inventado y podría ayudarnos a resolver muchos de los problemas más importantes del mundo. Pero el vasto poder de la superinteligencia también podría ser muy peligroso y podría llevar a la pérdida de poder de la humanidad o incluso a la extinción humana", han advertido en el blog.
Ante esta situación, OpenAI ha explicado que su objetivo más difícil es "alinear un sistema mucho más capaz" para evitar estos riesgos, que creen que podrían llegar "en esta década". "La gestión de estos riesgos requerirá, entre otras cosas, nuevas instituciones para la gobernanza y la solución del problema de la alineación de la superinteligencia", han señalado.
Al ser un problema que se plantea por primera vez, su objetivo es "construir un investigador de alineación automatizado de nivel aproximadamente humano". "Nuestra principal apuesta de investigación básica es nuestro nuevo equipo de superalineación, pero hacerlo bien es fundamental para lograr nuestra misión y esperamos que muchos equipos contribuyan, desde el desarrollo de nuevos métodos hasta su ampliación para la implementación", han detallado.
Desde la compañía entienden que se necesitan "científicos e innovaciones técnicas para dirigir y controlar sistemas de inteligencia artificial mucho más inteligentes que nosotros". El propio director ejecutivo, Sam Altman, ha advertido de los riesgos que plantea una IA para el individuo y la sociedad y ha abogado por una regulación de los grandes modelos de lenguaje.
Más Noticias
¿Cuándo es la luna llena de septiembre de 2024 y por qué se llama Luna de la Cosecha? Polaris Dawn despega con éxito y se separa del cohete Falcon 9 a tiempo Apple presenta su iPhone 16 con una inteligencia artificial que ayudará con problemas de salud Digi sufre una caída que impide realizar llamadas a sus clientes en toda España Qué se sabe de la presentación del iPhone 16: horario y novedades de Apple
No obstante, los alegatos de Altman han quedado empañados por las informaciones obtenidas por Time sobre sus supuestas presiones para conseguir que la regulación de la IA que prepara la Unión Europea sea menos estricta de lo que se estaba planteando.
No es aplicable a todos por igual
¿En qué dos momentos notamos más el envejecimiento?
Según un estudio científico, a los 40 y los 60 son los momentos en los que nuestras moléculas y microorganismos aumentan o disminuyen más rápidamente, dando lugar a la aparición de enfermedades o síntomas de envejecimiento.