David Rowan: "Ni la gente que gestiona las empresas de IA sabe lo que sucede dentro de la 'caja negra'"

David Rowan, experto en IA y fundador y CEO de la revista 'Wired', ha abierto, junto a Chema Alonso (CDO de Telefónica) la primera charla de la segunda edición de METAFUTURO, con una conversación centrada en la inteligencia artificial y sus pros y sus contras.

El británico se mostró cauto con el desarrollo de la inteligencia artificial y avisa que afectará a todas las áreas: "La IA va a afectar a la economía, la política, la sociedad... Es la primera tecnología que decide cómo debería implementarse, es autónoma. Y tiene sus propias ideas", ha dicho. "Aquí el reto que veo es que nos estamos metiendo a toda velocidad en esto sin tener una conversación formada, una ética y estrategia de qué queremos al respecto de esto", ha advertido el expertoo.

Rowan ha señalado que el avance de esta tecnología está sobrepasando a todo, incluidas las propias empresas que desarrollan las IA: "Ni la gente que gestiona las empresas de IA sabe lo que sucede dentro de la 'caja negra'", ha asegurado. "ChatGPT, por ejemplo, trata de predecir lo que va a suceder y lo hace de una manera muy rápida, pero son predicciones, no la verdad. Google está preparando una para el año que viene que promete ser 20 veces más potente. Va todo tan rápido que ahora hay hasta apps de doblaje", ha asegurado Rowan, quien se ha preguntado "quién piensa sobre los límites y los controles a esta tecnología".

Y este avance tecnológico ya está afectado hasta resultados electorales y gobiernos en todo el mundo: "El partido progresista en Eslovaquia supuestamente iba a comprar votos y esto sucedió antes de las elecciones, pero las grabaciones que se escucharon fueron sintéticas, esa conversación no se produjo en la vida real y eso afectó a las elecciones. También pasó en Sudán pidiendo a los ciudadanos emprender acciones contra el estado. La IA es un riesgo real y no me quiero imaginar en elecciones como en Estados Unidos. Se puede hacer una propaganda falsa. Es aterrador si uno cree en la verdad y en la democracia".

"En Ucrania ya se estaban utilizando drones con escáner visual que decidían cuando accionar armas. Estas empresas de IA toman decisiones antes de que podamos entender su verdadero funcionamiento. En algún momento se van a tomar decisiones que no irán a favor del ser humano", advirtió el experto británico.

Rowan fue más allá y aseguró que la IA está afectando hasta al propio ser humano: "¿En qué consiste ser el ser humano si hemos subcontratado tantas cosas a la IA? Mi memoria ya no funciona como antes porque sé que puedo tener una respuesta en un clic. Los algoritmos entienden nuestros sesgos mejor que nosotros mismos. ¿Cómo garantizamos que el control no está en un par de empresas que tienen más influencia que una nación? Tenemos que estar más enfadados y comprometidos para que nuestras opiniones se escuchen".

Ante esta preocupación, David Rowan señala como necesario un nuevo panorama legal: "Necesitamos un consenso y estructura legal ahora. Hay que crear una serie de acuerdos a nivel internacional de lo que se le puede permitir a la IA o no. China, los activistas rusos, la mafia... ellos no van a parar. Tenemos que encontrar formas de encontrar responsabilidad porque es una tecnología peligrosa".

Eso sí, el fundador de la revista 'Wired' también señaló algunos aspectos positivos que traerán las inteligencias artificiales: "Uno de los motivos para tener esperanza en la IA es que vamos a poder coger ingentes cantidades de datos, por ejemplo, en la medicina. Vamos a detectar las cosas mucho antes y de forma personalizada. También ocurrirá en la agricultura. Habrán cultivos mucho mejor y adaptados al cambio climático. Incluso en la educación, abordando debilidades de una persona sin que suponga un problema para la profesora".

¿Qué es METAFUTURO?

METAFUTURO se presenta como un proyecto único sobre el futuro de la sociedad, en un escenario de debate y reflexión acerca de los desafíos y retos a los que nos enfrentamos. Se trata de un evento organizado en diferentes jornadas, que acoge como ponentes a referentes nacionales e internacionales tanto del sector privado como de las instituciones públicas, con el fin de estudiar, analizar y abordar el futuro próximo de la sociedad, siempre desde un punto de vista optimista.

Este evento, que trata de arrojar luz sobre la oscuridad de la desinformación, busca ver cuáles son los siguientes pasos a dar hacia una sociedad más sostenible, fomentando el espíritu crítico así como la diversidad y el pluralismo. La segunda edición de METAFUTURO está organizada en cuatro jornadas, cada una de ellas dividida en diferentes bloques temáticos, sobre los que hablarán expertos en la materia.