Con la reciente noticia por parte del FBI sobre la aplicación de la Inteligencia Artificial para crear DeepFakes de temática sexual con fines extorsivos, se hace cada vez más latente el creciente uso de esta tecnología para el desarrollo de actividades maliciosas. Sin embargo, como toda herramienta, también puede aprovecharse para actividades que beneficien a sus usuarios, entre ellas las asociadas a la detección y automatización de respuestas frente al ciberdelito.
En diciembre de 2022 Check Point Research comenzó a investigar acerca de las implicaciones de ChatGPT en la ciberseguridad, y encontró un aumento en el comercio de cuentas ChatGPT Premium robadas, que permiten a los ciberdelincuentes eludir las restricciones de geoperimetraje de OpenAI para asegurar el acceso ilimitado a su popular servicio.
Además, el fabricante de ciberseguridad notó recientemente un aumento en los ataques cibernéticos que aprovechan los sitios web asociados con la marca ChatGPT. Estos ataques implican la distribución de malware e intentos de phishing a través de sitios web que parecen estar relacionados con la plataforma de IA.
La IA permite automatizar la ciberseguridad
De acuerdo con Manuel Rodríguez, especialista de Check Point Software, incorporar Inteligencia Artificial no es un tema nuevo en el sector y lleva varios años sumándose a las capacidades de prevención de las organizaciones. “IA se usa para prevenir amenazas, incluso si son nuevas, porque toma datos de todo el mundo que le permiten detectar y automatizar tareas de respuesta”. Dijo. El experto explicó que cuando ocurre un ataque hay que actuar y lo que hace la Inteligencia Artificial es ofrecer datos relevantes a los analistas de seguridad para que se enfoquen en algo en particular y no en todos los eventos. Si se tiene un millón de eventos, con IA los analistas se pueden enfocar en tres o cuatro.
En Colombia, distintas organizaciones han adoptado estas tecnologías para prevenir ciberataques. Por ejemplo, el gobierno a través del Centro de Comando Cibernético de la Policía Nacional centraliza las amenazas con ayuda de IA para que mejorar las estrategias de prevención.
Un aspecto positivo es que cada vez existen más datos que permiten la colaboración entre distintas soluciones de ciberseguridad. En palabras de Rodríguez “si yo protejo la red, los computadores o los celulares, todos esos elementos generan información importante que se usa para actuar proactivamente en el sistema, eso se hace a través de nubes, de inteligencia y motores que se accionan de forma automática para prevenir los ataques con mejores herramientas, para que cada vez haya menos intervención humana en la gestión de seguridad”.
Por su parte, la compañía rusa Kaspersky analizó los conocimientos de ciberseguridad adquiridos por ChatGPT y su potencial de convertirse en un aliado en la lucha contra el cibercrimen. Los expertos de esta compañía analizaron la capacidad de ChatGPT para detectar enlaces de correos engañosos, conocidos como phishing. Aunque ChatGPT sabe mucho sobre phishing, mostró una tasa de falsos positivos del 64 por ciento, arrojando explicaciones y pruebas falsas para justificar las decisiones.
Otra cuestión que se plantearon los expertos de Kaspersky es si ChatGPT podría clasificar e investigar los ciberataques. Los atacantes mencionan generalmente marcas populares en sus enlaces para engañar a la víctima, haciéndola así creer que la URL es legítima y pertenece a una empresa de confianza. ChatGPT mostró unos resultados sorprendentes en la identificación de posibles objetivos de phishing: resolvió con éxito un objetivo de suplantación de identidad en más de la mitad de las URL, entre los que se encontraron portales y apps tan populares como Facebook, TikTok, Google, Amazon y numerosos bancos de todo el mundo, y lo hizo sin ninguna información adicional ni aprendizaje previo.
“Hoy, la detección de ataques de phishing con ChatGPT tiene limitaciones. Puede estar al nivel de un analista a la hora de razonar sobre de los ataques de phishing y revelar objetivos potenciales, pero en ocasiones tiende a inventarse las respuestas y muestra resultados erróneos. Se puede decir que es una herramienta útil, pero de momento no va a revolucionar el panorama de la ciberseguridad”, explicó Vladislav Tushkanov, principal científico de datos de Kaspersky.
La IA permite vender ciberataques
En la otra cara de la moneda están los atacantes. En palabras de Rodríguez, los cibercriminales ahora ya no necesitan tener tanta destreza para desarrollar código, pues la IA les facilita la tarea. Cada vez más más personas se ven involucradas y pueden aumentar la escala y la dificultad de los ataques. Además, prolifera el negocio de ataques como servicio, en el que organizaciones de ciberdelincuencia comercializan sus paquetes de amenazas en la dark web.
