El lado menos seguro de ChatGPT, la IA de moda

La inteligencia artificial está de actualidad, la aparición de chatbots capaces de crear textos que podrían pasar por escritos por cualquier humano. Esto ha hecho que los defensores de la ciberseguridad se cuestionen cómo pueden servir de ayuda a los delincuentes.

Cómo ayuda la inteligencia arterial a los ciberdelincuentea

Los estudios sobre el aprendizaje automático comenzaron hace más de cincuenta años, pero no ha sido hasta ahora cuando realmente se ha extendido su uso. La implementación de estos algoritmos en herramientas como ChatGPt a través de las cuales podemos obtener cualquier respuesta, incluso podemos pedirle que nos ayude a escribir código. Hay quien usa estas como entretenimiento, algo anecdótico para hacer preguntar cualquier cosa y obtener una respuesta convincente, pero sin bases científicas. En este caso el bot es mayoritariamente conversacional, entrenado a partir de bloques de texto gigantes, que recuerda palabras, frases y párrafos los cuales se usan con más frecuencia. A lo que se les une funciones técnicas y el entrenamiento con humanos.

Pero esta tecnología también es usada para agilizar procesos prácticos y procedimientos de algunas industrias. Por lo que estos también son aplicables en el campo de la ciberseguridad como te vamos a contar a continuación. Lo peligroso no es la inteligencia artificial en sí, es la realidad el uso que hagamos de esta. La app es capaz de escribir código a partir de la descripción de lo que queremos. Por lo que los ciberdelincuentes pueden crear programaciones con las que intentar robar nuestros datos y enviarlos a cualquier parte sin tener prácticamente conocimientos de programación.

Del mismo modo las soluciones de seguridad están del mismo modo adiestradas para reconocer el código escrito por estos bots. De modo que pueden detectar y neutralizar el código escrito por la inteligencia artificial de forma rápida y eficiente. Algo que también sucede con el malware programado por humanos. Esto se debe a que este malware contiene errores y fallos lógicos con lo que se produce una pérdida de eficiencia. Cuando aparece una herramienta de este tipo, los expertos en seguridad realizan un análisis de estas tratando de descubrir cómo funcionan y de este modo predecir los resultados. Algo conocido como ingeniería a la inversa con lo que al descubrir su funcionamiento son capaces de saber cómo piensa y de este modo detectar rápidamente sus creaciones.

Otro uso que puede darse a esta tecnología es la búsqueda de vulnerabilidades. El bot lee el pseudocódigo y es capaz de localizar errores y vulnerabilidades por lo que su uso favorece tanto al delincuentes como a los analistas de seguridad. Aunque el código proporcionado por el algoritmo puede contener errores, ya sea en la escritura de código como en la búsqueda, pera facilita el trabajo y ahorra tiempo a los programadores. No debemos perder de vista cuál es el origen de los datos suministrados por los chatbots, ya que no sabemos exactamente cuál es el origen de los datos aportados por lo que debemos ser cuidadosos con la aplicación de los mismos.