La inteligencia artificial sigue preocupando: el CEO de Anthropic advierte de que se puede "perder el control"

Puede que a Donald Trump no le preocupe "en absoluto" el poder de la inteligencia artificial, pero lo cierto es que el miedo se ha implantado en las útimas semanas dentro de las principales empresas del sector. Parece que la IA corre más que nosotros y las principales empresas que se dedicana su desarrollo lo saben.

Este sábado, el consejero delegado de Anthropic, Dario Amodei, ha abogado por "bajar el ritmo" de desarrollo de la inteligencia artificial y ha advertido de que se corre el riesgo de "perder el control" de esta tecnología y provocar "ataques informáticos", "bioterrorismo" o "graves problemas económicos graves".

"Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos", ha afirmado Amodei en un texto publicado este sábado en su blog.

El CEO de la empresa responsable de Claude cita en concreto dos motivos para su petición. El primero es la "automejora recursiva" de la IA, es decir, su capacidad para desarrollarse a sí misma que ha propiciado "avances drásticos" durante el verano, y que si no se controla "podría superar nuestra capacidad de comprender y controlar estos sistemas".

"Prioridad a la cautela"

El segundo es el denominado "incidente de Hugging Face de OpenAI", en el que un grupo de IA realizaron ataques informáticos en equipo sin que hubiera una petición inicial al respecto "sacrificándose por el bien del grupo" y que "podría haber causado un daño catastrófico", según Amodei. Además, alerta de que han ocurrido incidentes similares en otras empresas, incluida Anthropic.

"Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio", ha espetado Amodei, que en varias ocasiones ha sido acusado de alarmismo por sus anteriores advertencias. Amodei plantea medidas tales como una "evaluación incorporada" por parte de actores independientes, "coordinación democrática" con las instituciones públicas y "coordinación global" que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial.

Pero él no ha sido el primero en avisar y, parece, pese al poco miedo del presidente estadounidense, que no será el último en lanzar una advertencia. Ya este viernes, OpenAI también anunciaba que su plan es empezar a bajar el ritmo.

"Esta es posiblemente la tecnología más peligrosa que la humanidad haya creado jamás", señalaba el ingeniero tecnológico Jacob Coxon. Palabras que coinciden con lo relatado por Anthropic, que asegura haber desarticulado posibles complots que usaban su inteligencia artificial para investigar armas biológicas.

*Sigue a laSexta en Google. Toda la actualidad y el mejor contenido aquí.