El desarrollo de la inteligencia artificial ha avanzado a un ritmo sin precedentes en los últimos meses. Mientras los gobiernos, la industria, la sociedad civil y los organismos multilaterales deliberan sobre la mejor manera de regularla, actores no estatales nefastos ya están aprovechándola para aumentar sus actividades maliciosas.
El desarrollo de la inteligencia artificial ha avanzado a un ritmo sin precedentes en los últimos meses. Mientras los gobiernos, la industria, la sociedad civil y los organismos multilaterales deliberan sobre la mejor manera de regularla, actores no estatales nefastos ya están aprovechándola para aumentar sus actividades maliciosas.Desde el lanzamiento de ChatGPT de OpenAI en noviembre del año pasado, los foros de la red oscura han sido un hervidero de ideas sobre cómo aprovechar la tecnología. Al igual que personas de todo el mundo han compartido consejos sobre el uso de ChatGPT y otras herramientas de IA para mejorar la eficiencia o externalizar tareas, los usuarios de la dark web han estado compartiendo consejos sobre cómo hacer jailbreak a la tecnología para eludir las barreras de seguridad y éticas o usarla para actividades maliciosas más sofisticadas. Ahora, al igual que los usuarios legítimos han pasado de explorar ChatGPT a construir herramientas similares, lo mismo ha ocurrido en el oscuro mundo de la ciberdelincuencia.
En las últimas semanas, la web oscura se ha convertido en un caldo de cultivo para una nueva generación de herramientas y aplicaciones autónomas basadas en IA y diseñadas para satisfacer todas las necesidades ilícitas de los ciberdelincuentes.
La primera de estas herramientas, WormGPT, apareció en la dark web el 13 de julio. Comercializada como una alternativa «blackhat» a ChatGPT sin límites éticos, WormGPT se basa en el modelo de código abierto GPT-J desarrollado en 2021. Disponible en suscripciones mensuales (100 euros) o anuales (550 euros), WormGPT, según su vendedor anónimo, tiene una serie de características tales como entradas ilimitadas de caracteres, retención de memoria y capacidades de codificación. Supuestamente entrenado con datos de malware, sus usos principales son la generación de sofisticados ataques de phishing y de correo electrónico comercial y la escritura de código malicioso. La herramienta se actualiza constantemente con nuevas funciones, que se anuncian en un canal específico de Telegram.
Pisándole los talones a WormGPT, FraudGPT apareció a la venta en la dark web el 22 de julio. Esta herramienta, basada en la tecnología GPT-3, se comercializa como un bot avanzado con fines ofensivos. Sus usos incluyen la escritura de código malicioso, la creación de malware indetectable y herramientas de hacking, la redacción de páginas de phishing y contenido fraudulento, y la búsqueda de vulnerabilidades de seguridad. Las suscripciones cuestan desde 200 dólares al mes hasta 1.700 dólares por una licencia anual. Según la empresa de seguridad que lo descubrió, es probable que FraudGPT se centre en generar ataques de phishing rápidos y de gran volumen, mientras que WormGPT está más centrado en generar malware sofisticado y capacidades de ransomware.
Aún es pronto para saber hasta qué punto son eficaces WormGPT y FraudGPT. Se desconocen los conjuntos de datos y algoritmos específicos con los que se han entrenado. Los modelos GPT-J y GPT-3 en los que se basan se lanzaron en 2021, una tecnología relativamente antigua comparada con modelos más avanzados como el GPT-4 de OpenAI. Y al igual que en el mundo legal, estas herramientas de IA podrían estar sobrevaloradas. Como sabe cualquiera que haya jugado con ChatGPT, Bard de Google o alguna de las otras herramientas de IA del mercado, la IA puede prometer el mundo, pero sigue estando limitada en lo que realmente puede hacer. También es muy posible que los bots de IA maliciosos a la venta sean estafas en sí mismas, diseñadas para defraudar a otros ciberdelincuentes. Al fin y al cabo, los ciberdelincuentes son delincuentes.
Sin embargo, es seguro decir que estas herramientas son sólo el comienzo de una nueva ola de ciberdelincuencia impulsada por la IA.
A pesar de sus limitaciones, la IA ofrece enormes oportunidades a los delincuentes para mejorar su actividad maliciosa y ampliar sus operaciones. Por ejemplo, la IA puede crear correos electrónicos de phishing convincentes imitando el lenguaje y los patrones de comunicación auténticos, engañando incluso a usuarios expertos y haciendo que más personas hagan clic sin darse cuenta en enlaces maliciosos. La IA puede rastrear rápidamente Internet en busca de datos personales de un objetivo para desarrollar una estafa a medida o llevar a cabo un robo de identidad. La IA también puede ayudar a desarrollar y desplegar rápidamente programas maliciosos, incluida la detección de vulnerabilidades en el software antes de que puedan parchearse. Puede utilizarse para generar o perfeccionar código malicioso, reduciendo las barreras técnicas para los ciberdelincuentes.
La tecnología de IA también se está volviendo cada vez más inteligente.
Ya hay dos nuevas herramientas maliciosas de IA en fase de desarrollo que suponen un salto de gigante con respecto a las capacidades de WormGPT y FraudGPT. Al parecer, el creador de FraudGPT está desarrollando DarkBART, una versión para la red oscura de Bard AI de Google, y DarkBERT, un bot entrenado con datos de la red oscura. Ambas herramientas tendrán acceso a Internet y estarán integradas con Google Lens. Curiosamente, DarkBERT fue desarrollado originalmente por investigadores para ayudar a combatir la ciberdelincuencia.
La adopción generalizada de la inteligencia artificial por parte de los delincuentes y el rápido avance de la tecnología no harán sino aumentar la escala y la sofisticación de las ciberamenazas maliciosas. La ciberdelincuencia impulsada por la IA exigirá un enfoque aún más proactivo de la ciberseguridad para contrarrestar las tácticas dinámicas y cambiantes empleadas por los actores maliciosos. Afortunadamente, la IA también ofrece oportunidades para mejorar la ciberseguridad, y los principios de una buena formación en ciberhigiene y concienciación siguen siendo pertinentes como primera línea de defensa contra los ciberdelincuentes. Pero los individuos, las organizaciones y el gobierno todavía tendrán que prepararse para una explosión de la ciberdelincuencia impulsada por la IA.
Fte. The Strategist (Mercedes Page)
Mercedes Page es investigadora principal de ASPI. Anteriormente trabajó para el Ministerio de Asuntos Exteriores y Comercio de Australia.
