Astronomía, divulgación, descubrimientos, ecología, innovación...
¿ES REAL?
Existe la posibilidad de que llegue un momento en el que no la podamos controlar, y sus objetivos podrían no seguir el mismo camino que nuestros valores y propósitos.
La inteligencia artificial (IA) ha llegado para hacernos la vida más fácil. De hecho, tiene muchos y grandes beneficios para el ser humano. Sin embargo, ha llegado para quedarse, lo que significa que, a pesar de sus ventajas, esta tecnología se puede volver en contra creando un poder destructivo. Te contamos los detalles.
Desde que estalló el boom por la IA, expertos en este terreno han advertido sobre los potenciales riesgos existenciales que una IA avanzada podría representar para la humanidad. Y es que, según ellos, una tecnología así podría actuar de maneras que resulten catastróficas para la especie humana, ya que no la podríamos controlar y sus objetivos podrían no seguir el mismo camino que nuestros valores y propósitos.
Recientemente, Roman Yampolskiy, un experto en seguridad de IA, afirmó en una entrevista en el podcast de Lex Fridman que cree que es prácticamente inevitable que la IA cause la extinción de la humanidad, estimando esta probabilidad en un 99,999999%.
Tal y como recoge LondonReal, Yampolskiy es un renombrado experto en seguridad de IA, Profesor Titular de Ciencias de la Computación en la Universidad de Louisville y Director Fundador del Laboratorio de Seguridad Cibernética. Es decir, uno de los mayores sabios.
Roman explica que una vez que la IA sea capaz de mejorar, se volverá rápidamente mucho más inteligente que nosotros en casi todos los aspectos de la inteligencia, luego mil veces más inteligente, luego un millón, luego mil millones.
El experto ha asegurado que las posibilidades de que la IA acabe con el ser humano dependen de si las personas pueden desarrollar un software de alta complejidad sin fallos en los próximos 100 años. Algo que es realmente imposible, según el investigador, debido a que ya han cometido errores.
Si bien la IA sin duda tiene potencial para hacer el bien, también plantea peligros importantes si se utiliza de forma incorrecta. Estos podrían ir desde falsificaciones profundas hasta armas autónomas. En definitiva, las aplicaciones de la IA pueden tener efectos de largo alcance y potencialmente destructivos si no se controlan con cuidado.
Hace unas semanas, un grupo de empleados actuales y anteriores de empresas de inteligencia artificial expresaron su preocupación por los riesgos que plantea esta tecnología.
Tras ello, el cofundador y exjefe científico de OpenAI, Ilya Sutskever, anunció a través de X el lanzamiento de una nueva empresa de inteligencia artificial centrada en la seguridad y que no tenía ninguna intención a corto plazo de vender productos o servicios.
La empresa emergente se llama Safe Superintelligence Inc, tiene oficinas en Palo Alto (California) y Tel Aviv, en Israel, y su objetivo y producto es crear un sistema de inteligencia artificial seguro y potente.