Organismos de inteligencia ven riesgos en las IA generativas
Los expertos tecnológicos que asiste a la Conferencia de Seguridad RSA, pueden afirmar que hay una gran discusión en torno al impacto de la Inteligencia Artificial generativa en la seguridad digital y el hacking malicioso. La explosión de chatbots impulsados por grandes modelos de lenguaje, ha hecho que la tecnología de Machine Learning sea más accesible para múltiples usuarios de todo el mundo.
Sin embargo, hay preocupaciones legítimas sobre cómo los actores maliciosos podrían manipular y abusar de estas nuevas herramientas para difundir malware, crear desinformación y contenido no auténtico, además de expandir sus habilidades para automatizar hacks. Al mismo tiempo, la comunidad de la ciberseguridad está interesada en utilizar la IA generativa para proteger sistemas y obtener ciertas ventajas protectoras.
Diversos expertos en seguridad informática han destacado la importancia de la inteligencia artificial generativa en la lucha contra los ataques de phishing. La generación de contenido convincente es crucial para engañar a las víctimas y hacer que colaboren con los atacantes, por lo que esta potente tecnología puede utilizarse para crear comunicaciones y materiales personalizados de forma rápida.
Además, los hackers maliciosos pueden utilizar la IA generativa para crear correos electrónicos en inglés nativo y evitar ser detectados por los filtros de correo no deseado, lo que representa un riesgo para la seguridad digital. Ya el inglés de los correos electrónicos es nativo y no se podrá autentificar la identidad del atacante si usa una herramienta basada en inteligencia artificial.
TIC Defense trabaja en el desarrollo de nuevas tecnologías para contrarrestar ciberataques complejos y sofisticados. Nuestro equipo de seguridad se enfoca en prevenir las amenazas mediante políticas y programas acordes con las necesidades de tu empresa. Disponemos de servicios y productos que ayudan a evitar que los trabajadores de tu organización sean víctimas de malware.
Se confirmar que los chatbots de IA no son capaces de crear malware desde cero, pero los atacantes pueden aprovechar su capacidad de codificación para realizar pequeñas modificaciones a malware existente y crear una nueva versión que no sea detectada por el software antivirus. Esto representa un desafío para los defensores de seguridad a corto plazo, ya que los cambios generados por la inteligencia artificial pueden cambiar la firma y los atributos del malware, lo que dificulta su detección.
La IA generativa puede usarse para defenderse de los atacantes
En cuanto a la defensa, la IA generativa tiene mucho potencial para ayudar en el análisis de grandes cantidades de datos y en la automatización. Hay tres áreas donde se está demostrando su potencial: el escaneo de registros digitales, la detección de patrones en la explotación de vulnerabilidades y la ayuda a las organizaciones a priorizar los problemas de seguridad. Sin embargo, es importante estudiar cómo estos sistemas pueden ser manipulados y explotados antes de depender completamente de ellos.
Es fundamental destacar que la seguridad en el campo de la IA es impredecible y hay mucho por descubrir. No se espera que genere habilidades técnicas mágicas para explotar todas las cosas, pero es probable que veas ejemplos de su uso y éxito en el futuro cercano. La comunidad de ciberseguridad debe estar preparada para lo que pueda venir y estar alerta ante los nuevos riesgos y desafíos que pueda presentar.
