Astronomía, divulgación, descubrimientos, ecología, innovación...
PELIGROSIDAD A NIVEL MUNDIAL
Un estudio de la Universidad de Oxford concluye que una Inteligencia Artificial muy desarrollada, podría llegar a enfrentarse a los humanos si perciben que éstos se interponen en su camino e intenta frenarla.
El desarrollo de la Inteligencia Artificial (IA) es cada vez más potente y, aunque tenga numerosas ventajas, un descontrol sin límites en su crecimiento y expansión podría llegar a causar el apocalipsis humano.
Esta es la conclusión a la que han llegado científicos de la Universidad de Oxford tras realizar un estudio llamado 'Agentes artificiales avanzados intervienen en la provisión de recompensa'. El estudio fue publicado hace unas semanas en AI Magaziney está liderado por los científicos Marcus Hutter, sénior de DeepMind, Michael Cohen y Michael Osborne, de dicha universidad.
El estudio que demuestra cómo la IA podría acabar con la humanidad
Para comprender la idea concluyente, primero hay que conocer los modelos de IA que más éxito tienen hoy en día. Son los llamados GANs o Redes Generativas Adversariales. Su estructura se conforma de dos partes. Por un lado, aquella en la que una parte de su programación intenta generar una imagen o frase a partir de unos datos y después, la otra parte califica su rendimiento.
Así, el estudio resume la posibilidad que pueden llegar a tener las máquinas desarrolladas con IA para aprender a hacer trampas, buscar atajos y así obtener recompensas con las que puedan tener acceso a los recursos del planeta a partir de formas que los humanos no tienen previstas.
La IA del futuro sería capaz de adoptar numerosas formas y diferentes diseños, por lo que el estudio imagina escenarios con fines ilustrativos en los que un programa avanzado podría intervenir para obtener esa recompensa sin alcanzar su objetivo.
Esto quiere decir que una IA demasiado inteligente, podría enfrentarse a los humanos si percibe que se están interponiendo en su camino intentando frenar su crecimiento. La razón de que esto pudiera suceder se debe a la posibilidad de poder replicar las capacidades cognitivas de los humanos a través de máquinas entrenadas por algoritmos.
Una guerra entre la IA y la humanidad
Por ello, una de las hipótesis planteadas por los científicos de este estudio, es que en un futuro el desarrollo de la IA en las tecnologías, terminará provocando una guerra entre las máquinas altamente desarrolladas y la humanidad.
Éstos mismos aseguran que: "Bajo las condiciones que hemos identificado, nuestra conclusión es mucho más sólida que la de cualquier publicación anterior: una catástrofe existencial no solo es posible, sino probable".
Por su parte, el científico Michael Cohen, explica que "en un mundo con recursos finitos, existe una competencia inevitable por estos recursos. Perder este juego sería fatal".
La recomendación que lanzan tras haber elaborado este estudio, es que a pesar de que la IA esté en crecimiento constante, se avance lentamente en esta materia para que pueda ser segura y tenerla bajo control.
SEGURO QUE TE INTERESA:
¿Puede la inteligencia artificial detectar la demencia y el alzhéimer?