Los consumidores sobrevaloran su capacidad para detectar deepfakes

Publicado el 07 Jun 2023

20230608p1

Los resultados del estudio de identidad en línea Jumio 2023, realizada por Censuswide, ponen en relieve la comprensión de los consumidores sobre cómo la IA generativa y las tecnologías deepfake podrían acelerar el fraude de identidad, y la consiguiente necesidad de contar con identidades digitales para la verificación y autenticación en línea.

El estudio examinó a 8.055 consumidores adultos de Reino Unido, México, Singapur y Estados Unidos, de los cuales más de dos tercios (67%) afirman conocer las herramientas de IA generativa, como ChatGPT, DALL-E y Lensa AI, que pueden producir contenidos inventados, incluidos vídeos, imágenes y audio. Los consumidores de Singapur son los que más las conocen (87%) y los del Reino Unido los que menos (56%).

El 52% de los encuestados cree que podría detectar un vídeo deepfake. Este sentimiento refleja un exceso de confianza por parte de los consumidores, dada la realidad de que los deepfakes han alcanzado un nivel de sofisticación que impide su detección a simple vista.

Los datos de Jumio también muestran un aumento constante en el uso de deepfakes cada vez más sofisticados en todo el mundo y en todos los sectores, con una mayor presencia en los sectores de pagos y criptomonedas.

“Mucha gente parece creer que puede detectar un deepfake. Aunque ciertamente hay pistas muy obvias, los deepfakes están mejorando exponencialmente todo el tiempo y son cada vez más difíciles de detectar sin la ayuda de la IA”, dijo Stuart Wells, CTO de Jumio. “Si bien las empresas necesitarán cada vez más tecnología basada en IA para detectar y proteger sus redes y a sus clientes de las falsificaciones, los consumidores también pueden hacerlo, cuestionando las imágenes, vídeos y audios provocativos. Una investigación rápida normalmente revelará si se trata de una falsificación o no.”

A medida que los consumidores van conociendo mejor estas tecnologías, también van comprendiendo cómo podrían utilizarse para alimentar la usurpación de identidad. Más de la mitad (57%) cree que el robo de identidad en línea será más fácil como consecuencia de ello, y los consumidores de Singapur mostraron el mayor nivel de comprensión de su potencial uso perjudicial (73%). Estos niveles disminuyen entre los consumidores de México (62%), EE.UU. (49%) y Reino Unido (43%).

“Las organizaciones tienen el deber de educar a sus clientes sobre los matices de las tecnologías de IA generativa para ayudarles a desarrollar expectativas más realistas sobre su capacidad para detectar deepfakes”, dijo Philipp Pointner, director de identidad digital de Jumio. “Al mismo tiempo, incluso la mejor educación nunca podrá detener por completo el uso de tecnologías emergentes por parte de un estafador. Las organizaciones en línea deben tratar de implantar sistemas de verificación biométrica multimodal que puedan detectar los deepfakes y prevenir el uso de información personal robada. Resulta alentador que nuestra investigación indique un fuerte interés de los consumidores por esta forma de verificación de la identidad, que las empresas deben aprovechar rápidamente.”

La encuesta reveló que más de dos tercios (68%) de los consumidores están dispuestos a utilizar una identidad digital para verificarse en línea. Los principales sectores en los que preferirían una identidad digital a un documento de identidad físico (como la licencia de conducir o el pasaporte) son los servicios financieros (43%), la administración pública (38%) y los servicios de salud (35%).

¿Qué te ha parecido este artículo?

¡Síguenos en nuestras redes sociales!

Redacción

Artículos relacionados

Artículo 1 de 4