El auge de los deepfakes: Los riesgos y la protección
En la actualidad, en la era digital, la tecnología avanza rápidamente y uno de los fenómenos es el surgimiento de los deepfakes. Es una forma de manipulación de medios sintéticos que utiliza el aprendizaje profundo para reemplazar la imagen, el audio o el video de una persona existente con la apariencia de otra. Aunque los deepfakes tienen aplicaciones beneficiosas en industrias como el entretenimiento, los videojuegos, la publicidad y la educación, su creciente mal uso con fines fraudulentos plantea un problema significativo.
La Accesibilidad de la Tecnología Deepfake
A pesar de lo que muchas personas creen, la creación de deepfakes no requiere de una experiencia técnica especializada. En el pasado, generar deepfakes era una tarea laboriosa que exigía recursos computacionales significativos. No obstante, avances recientes han reducido considerablemente el tiempo necesario para crear deepfakes creíbles. Ahora, con tan solo una computadora y conexión a internet, cualquiera puede crear un deepfake, aunque la calidad puede variar según las herramientas utilizadas. La accesibilidad de la tecnología de deepfake plantea preocupaciones sobre su posible uso indebido.
La Ampliación del Alcance de los Deepfakes
A medida que la tecnología detrás de los deepfakes continúa progresando, se espera un aumento en la calidad y cantidad de intentos fraudulentos utilizando deepfakes.
Algunos estafadores emplean tácticas como el spoofing de identificación de llamadas, haciendo que parezca que estás recibiendo una llamada de alguien que conoces, ya sea un cliente, jefe, familiar o amigo. Además, con la ayuda de deepfakes de audio, se replican de manera convincente las voces y los modales de estas personas. Esta manipulación tiene como objetivo engañar a las víctimas para que tomen acciones que resultan en pérdidas financieras.
Los deepfakes no se limitan a la manipulación de audio y video; también pueden extenderse a otras plataformas y medios. Por ejemplo, ha habido casos de escritura a mano generada por deepfakes utilizada para falsificar firmas y crear documentos falsos. En un ámbito diferente, la utilización de deepfakes en perfiles de redes sociales que se hacen pasar por ejecutivos a menudo implica falsas afirmaciones de oportunidades de inversión que prometen ganancias pero que nunca se materializan.
El impacto potencial de los deepfakes en las herramientas de autenticación biométrica, como el reconocimiento facial, también genera preocupación. Esta tecnología se ha vuelto cada vez más sofisticada, permitiendo a los atacantes crear imágenes o videos faciales realistas que pueden engañar a los sistemas de reconocimiento facial utilizados para la autenticación. Esto destaca la importancia de la constante mejora de los métodos de verificación biométrica y la implementación de capas adicionales de seguridad para mitigar los riesgos asociados con los ataques de deepfake.
Los fraudes con deepfakes representan una amenaza significativa para las organizaciones, especialmente para sus departamentos de cuentas por pagar, IT, tesorería y recursos humanos.
Las tomas de cuentas representan un riesgo para cualquier empresa que mantenga bases de datos de clientes que requieran inicio de sesión. Individuos no autorizados podrían obtener acceso a estas cuentas y, utilizando la tecnología deepfake, ponerse en contacto con la empresa para iniciar transferencias de fondos desde las cuentas de los clientes, incluyendo las gestionadas por instituciones financieras.
¿Cómo pueden los creadores de deepfakes acceder a la voz de alguien?
Las personas de alto perfil, incluyendo a las personas políticamente expuestas, figuras públicas como presentadores de televisión y deportistas, a menudo tienen sus videos y grabaciones de audio disponibles en línea. Sin embargo, esto no se limita solo a figuras públicas. Los creadores de deepfakes pueden obtener la voz de cualquier persona a través de conversaciones telefónicas, utilizar grabaciones de correo de voz, mensajes de audio compartidos en platafomas digitales, de donde pueden grabar, analizar y finalmente tratar o lograr replicar su voz. Por lo tanto, necesita ser cauteloso incluso si cree que su voz no está fácilmente disponible en línea, ya que hay muchas otras formas en que los creadores de deepfakes pueden acceder ella.
La evolución en la tecnología de replicación de prácticamente cualquier persona no solo pone en peligro las llamadas de voz, sino que también se extiende a las videollamadas. Esto permite la creación de contenido ficticio que parece estar ocurriendo en tiempo real con una persona.
Detección de Deepfakes: Desafíos y Herramientas
La detección de deepfakes se está volviendo cada vez más desafiante para el ojo o el oído humano. El rápido avance de la tecnología de deepfake significa que es casi imposible para los humanos distinguir entre contenido real y falso. Como resultado, se están creando varias herramientas, tanto propietarias como de código abierto, como el DeepFake-o-meter desarrollado por UB Media Forensics Lab, para detectar deepfakes en formatos de audio y video. Sin embargo, estas herramientas no son infalibles y aún pueden ser propensas a errores. Plataformas como Meta (anteriormente Facebook) y Microsoft están implementando activamente herramientas para detectar y eliminar deepfakes de sus plataformas, contribuyendo a la lucha contra el contenido manipulado.
Combatiendo el fraude de deepfakes: verificación, concienciación y legislación
Ante el fraude de deepfakes, la verificación y la concienciación son cruciales. Cuando se reciben solicitudes que implican una acción inmediata o transacciones financieras, tanto las personas como las organizaciones deben ejercer vigilancia y escepticismo. Detenerse a considerar el impacto potencial de la solicitud y encontrar formas alternativas de verificar su autenticidad puede ayudar a prevenir caer víctima de estafas de deepfakes. Si la solicitud es fraudulenta, las consecuencias pueden ser graves.
El enfoque de Enterprise Risk Management (ERM) puede ser una herramienta efectiva para que las empresas aborden el desafío de los deepfakes. Al incorporar los riesgos de deepfakes en sus estrategias de gestión de riesgos, las empresas pueden desarrollar controles efectivos, planes de respuesta y sistemas de monitoreo. Cuando se consideran los controles, tales como los controles preventivos, los controles detectivos y los controles correctivos, es aconsejable priorizar la asignación de tiempo a aquellos que previenen posibles incidentes.
La actualización regular de los protocolos de seguridad y mantenerse al tanto de los últimos desarrollos en tecnología de deepfakes, junto con el uso de herramientas de detección avanzadas, son acciones clave para gestionar algunos de los riesgos asociados con esta tecnología en la organización.
Es importante fomentar la conciencia a través del aprendizaje continuo. La capacitación en conciencia de seguridad debe ser un proceso regular, no una mera formalidad anual de cumplimiento. Esta formación es beneficiosa porque no solo protege a la organización, sino también a los propios empleados, ya que los estafadores están utilizando cada vez más estas herramientas para atacar a individuos. @mundiario