Un DeepFake es un video, una imagen o un audio generado que imita la apariencia y el sonido de una persona. También llamados ?medios sintéticos?, son tan convincentes a la hora de imitar lo real que pueden engañar tanto a las personas como a los algoritmos. A menudo utilizados para engañar y realizar ataques de ingeniería social, los DeepFakes erosionan la confianza en la tecnología digital y suponen una amenaza cada vez mayor para las empresas.
En los últimos años, hemos tenido considerable incremento en esta modalidad. Sólo entre el 2019 y 2020, el número de contenidos en línea DeepFake, aumentó en un 900%. Esta preocupante tendencia está prevista que continue creciendo en los próximos años pues algunos investigadores predicen que: ?hasta el 90% del contenido en línea puede ser generado sintéticamente para el 2026.?
En 2022, el 66% de expertos en ciberseguridad experimentaron ataques DeepFake dentro de sus respectivas organizaciones. Un ejemplo de este delito es la creación de mensajes de audio falsos de los CEO u otros altos ejecutivos de empresas, utilizando software de alteración de voz para hacerse pasar por ellos. Estos audios manipulados suelen contener peticiones urgentes para que el destinatario transfiera dinero o revele información sensible.
En la investigación se mostró que el sector bancario está particularmente preocupado por estos ataques ya que, el 92% de ciber-profesionales aseguran su uso fraudulento en los servicios como la banca personal, pagos, etc.
El elevado coste de los DeepFakes también se deja sentir en otros sectores. En el 2022, el 26% de las pequeñas y el 38% de las grandes empresas sufrieron fraudes de DeepFake que les ocasionaron pérdidas de hasta 480,000 dólares.
Por otro lado, también pueden influir en resultados electorales, la estabilidad social e incluso la seguridad nacional, sobre todo, en el contexto de las campañas de desinformación
El impacto de la IA en el riesgo de DeepFakes
El continuo desarrollo de la inteligencia artificial ha aumentado significativamente el riesgo de DeepFakes.
Los algoritmos de IA, incluidos los modelos generativos, pueden crear medios difíciles de distinguir como imágenes, vídeos o grabaciones de audio reales. Asimismo; estos algoritmos, pueden adquirirse a bajo coste y entrenarse en conjuntos de datos de fácil acceso que facilitan ataques de phishing y contenidos de estafa.
Los riesgos agravados de los DeepFakes
Aunque las estafas DeepFake plantean riesgos importantes, también pueden agravar los riesgos de otras actividades ciber delictivas, como el robo de identidad; además, pueden utilizarse para crear documentos de identidad falsos, facilitando a los ciberdelincuentes la suplantación de personas o el acceso a sistemas seguros.
Para disminuir estos riesgos agravados, debemos adoptar un enfoque múltiple. Esto incluye invertir en tecnologías más sofisticadas de detección, así como mejorar los sistemas de verificación de identidad, incluido el uso de la verificación biométrica y de datos vitales, para evitar el uso indebido de los DeepFakes en la usurpación de identidad.
¿Cuáles serías las posibles soluciones?
Para hacer frente a estas amenazas, debemos seguir desarrollando y mejorando las tecnologías de detección como el uso de algoritmos más sofisticados, así como el desarrollo de nuevos métodos que puedan identificar DeepFakes basándose en su contexto, metadatos u otros factores.
Otra posible solución es promover la alfabetización mediática y el pensamiento crítico educando al público sobre los peligros de las DeepFakes y sobre cómo detectarlas con el objetivo de reducir el impacto de estas campañas maliciosas.
Por último, debemos considerar las implicaciones éticas de la IA y la tecnología DeepFake. Los gobiernos y los organismos reguladores pueden desempeñar un papel importante en la elaboración de políticas que regulen esta tecnología y promuevan su desarrollo y uso de manera transparente y responsable.
*Fuente: Gestión