Microsoft Copilot: La Nueva Amenaza de Phishing Automatizado que Pone en Peligro Tu Seguridad
Microsoft ha integrado la inteligencia artificial (IA) generativa en sus sistemas, con Copilot al frente, facilitando tareas como la búsqueda de información en correos y chats.
Sin embargo, investigadores de seguridad, como Michael Bargury, han demostrado cómo esta misma tecnología puede ser manipulada para realizar ataques cibernéticos sofisticados, incluyendo la creación de correos de phishing personalizados.
En la conferencia Black Hat de Las Vegas, Bargury reveló que Copilot puede ser convertido en una máquina de spear-phishing automatizada, capaz de generar y enviar cientos de correos maliciosos imitando el estilo de escritura de una víctima. Una vez que un hacker obtiene acceso a una cuenta de correo corporativa, puede usar Copilot para analizar patrones de comunicación y enviar mensajes personalizados que pueden incluir enlaces o archivos maliciosos.
Este tipo de ataque es particularmente alarmante porque aprovecha la capacidad de Copilot de acceder a datos corporativos y la utiliza para realizar operaciones no autorizadas. Bargury demostró cómo, mediante comandos específicos, Copilot puede ser manipulado para extraer datos sensibles, como salarios, sin activar las protecciones de seguridad de Microsoft. Además, también se mostró cómo un hacker externo podría alterar las respuestas de Copilot para desviar fondos a cuentas bancarias maliciosas.
El investigador señaló que aunque Microsoft ha implementado medidas de seguridad para prevenir ataques de inyección de comandos, estos pueden ser burlados con la formulación adecuada. A medida que los sistemas de IA como Copilot se integran más en nuestras vidas, las vulnerabilidades asociadas con el acceso a datos externos se convierten en un riesgo cada vez mayor.
Expertos en seguridad como Johann Rehberger advierten que el problema no solo reside en la IA, sino también en cómo las empresas gestionan el acceso a los datos. Con Copilot en juego, la exposición a riesgos se amplifica, subrayando la necesidad de monitorear de cerca las interacciones de la IA con los datos corporativos.
Microsoft ha reconocido las vulnerabilidades identificadas por Bargury y ha estado trabajando para mitigarlas, pero la investigación destaca la importancia de mantenerse alerta frente a los nuevos desafíos de seguridad que plantea la integración de la IA en entornos corporativos.
Fuente: Wired
