ChatGPT está siendo explotado por chinos e iraníes para realizar ciberataquesOct 14, 2024 | |
OpenAI confirmó que ChatGPT se utilizó para realizar más de 20 ciberataques que involucraron a grupos chinos e iraníes. | |
OpenAI confirmó que ChatGPT se utilizó para realizar más de 20 ciberataques. El informe revela que se ha empleado IA generativa para llevar a cabo ataques de phishing dirigidos, desarrollar malware y llevar a cabo otras actividades maliciosas. | |
El uso de ChatGPT con fines maliciosos genera serias preocupaciones sobre la seguridad de la IA generativa. Si bien no se han creado nuevos tipos de malware, el informe demuestra cómo es relativamente fácil para los ciberdelincuentes explotar estos sistemas para desarrollar herramientas de ataque. | |
Entre los ataques confirmados, uno involucró a un grupo de ciberdelincuentes chinos que atacaron a gobiernos asiáticos utilizando un método de phishing llamado "SweetSpecter". | |
Otro grupo iraní, "CyberAv3ngers", aprovechó ChatGPT para robar contraseñas de ordenadores Mac. Un tercer ataque, también de origen iraní, dio lugar al desarrollo de un malware para Android capaz de robar datos sensibles de dispositivos infectados. | |
OpenAI dijo que continuará mejorando sus sistemas de seguridad para evitar tales abusos, trabajando con equipos internos y externos. La empresa también compartirá sus hallazgos con la comunidad de investigación para contrarrestar estas amenazas. | |
Este escenario resalta la necesidad de implementar mayores limitaciones y controles en los sistemas de IA generativa. Las empresas del sector necesitarán fortalecer las medidas preventivas, en lugar de centrarse únicamente en resolver los problemas una vez que surjan. | |
Los expertos subrayan que es crucial que todos los actores importantes en el campo de la IA adopten protecciones sólidas contra posibles abusos de sus plataformas. | |
Sin embargo, dada la complejidad del desafío, será necesario un enfoque proactivo y colaborativo entre empresas, investigadores y autoridades para garantizar el uso seguro y ético de la inteligencia artificial. | |
El incidente plantea preguntas más amplias sobre el futuro de la IA y cómo equilibrar su potencial innovador con los riesgos de seguridad. Será crucial encontrar el equilibrio adecuado entre apertura y control en el desarrollo de estas tecnologías cada vez más poderosas y omnipresentes. |