Pasaporte falso generado por ChatGPT-4o Omicrono
El peligro de ChatGPT: consiguen replicar un pasaporte falso que desafía a los sistemas de verificación digital
La identificación online se ha complicado con la mejora de calidad alcanzada por los modelos generadores de imágenes.
Más información: Así es MiDNI, la app oficial que va a sustituir a tu DNI y que exigirá este paso previo para poder usarla en tu móvil
Seguramente haya mandado su documento de identidad alguna vez por correo electrónico. Una fotografía del carné para registrarlo en el banco, compañías de seguros y otros servicios digitales, aunque los expertos recomiendan tener mucha precaución con estos procesos. La inteligencia artificial podría ser el final de este sistema de verificación de identidad online. Más ahora que el nuevo generador de imágenes con GPT-4o ahora está disponible para todos los usuarios.
"Me llevó 5 minutos crear una réplica de mi propio pasaporte" ha escrito Borys Musielak en su perfil de LinkedIn. Este ingeniero y emprendedor, como figura en su perfil, diseñó con ChatGPT-4o un documento de identidad falso para demostrar la facilidad con la que es posible engañar a algunos sistemas de verificación actuales.
En su publicación no indica si ha puesto a prueba algún servicio o plataforma con este documento falso. Sin embargo, afirma que la mayoría de sistemas KYC automatizados "probablemente aceptarían sin dudarlo".
Los sistemas KYC o Know Your Customer (conoce a tu cliente, en español) se utilizan para verificar los datos e identidad de clientes. Se utilizan en numerosas plataformas digitales, pues son la manera de evitar que el cliente tenga que asistir en persona a una oficina o tienda.
Musielak asegura que "cualquier proceso de verificación basado en imágenes como "prueba" ha quedado oficialmente obsoleto". Las herramientas generadoras basadas en inteligencia artificial han mejorado la calidad de las imágenes y la consistencia de estas hasta hacer casi imposible la diferenciación entre algunas fotografías reales y las generadas.
Vídeos e imágenes han dejado de ser una prueba contundente de veracidad en los últimos años, aunque a la IA aún le queda mucho margen de mejora. Es posible que los principales desarrolladores de inteligencia artificial tomen medidas con respecto a este uso de sus herramientas. Cuando se ha detectado en anteriores ocasiones un uso indebido o peligroso de ChatGPT, por ejemplo, la empresa responsable, OpenAI, ha aplicado una serie de bloqueos para que ningún otro usuario se viera tentado a hacer lo mismo.
Aun así, en numerosas ocasiones se ha demostrado que no es difícil engañar a la IA para que se salte esas restricciones. Además, hay que tener en cuenta que no todas las herramientas generadoras aplican esta clase de censura, como Grok de X, impulsada por Elon Musk, conocida por no tener límite para crear cualquier imagen.
La solución para Musielak es el uso de identidades digitales, como las billeteras de identificación electrónicas que ha implantado la Unión Europea. Además de los certificados digitales y DNI electrónicos que ya se usan en España, la UE quiere organizar una especie de "monedero digital" que recabe toda la información personal de los residentes.
