‘Deepfakes’: la inteligencia artificial que desafía la verdad en la Justicia

Título: ‘Deepfakes’: la inteligencia artificial que desafía la verdad en la Justicia

• Fecha: 16/05/2024
• Tipo: Inteligencia Artificial / Pruebas forenses / Deepfakes
• Fuente: redseguridad.com
• Resumen: 
• Contexto:
• 1. La era digital ha traído consigo un cambio radical en la forma de presentar y valorar las pruebas en los procesos judiciales.
• 2. Ya no se trata solo de documentos, testigos o peritos, sino también de correos electrónicos, publicaciones en redes sociales, grabaciones, imágenes, vídeos, etc. 
• 3. Todos ellos forman parte de la vida diaria y pueden ser decisivos para el desenlace de un caso en sede judicial.
• 4. La seguridad jurídica se ha visto amenazada por la potente irrupción de la Gen-AI (inteligencia artificial generativa).
• Deepfakes:
• 1. Materiales generados artificialmente.
• 2. Pueden construir situaciones que nunca sucedieron con elevados grados de verosimilitud. 
• 3. Realismo de los contenidos.
• 4. Facilidad y generalización del acceso a las herramientas.
• 5. Rápida evolución.
• Delitos: 
• 1. Delitos de falsedad documental.
• 2. Delito contra la Administración de Justicia.
• Medidas de detección de ‘deepfakes’:
• 1. Tarea compleja y larga.
• 2. Procedimientos manuales.
• 3. Sistemas de detección automatizados.
• 4. Marcas de agua.
• Procedimientos manuales:
• 1. Laboriosos.
• 2. Falibles.
• Sistemas de detección automatizados:
• 1. Permanentemente actualizados.
• 2. Proporcionan un alto grado de certeza sobre la autenticidad del material probatorio.
• 3. Los mejores detectores.
• Marcas de agua:
• 1. Empresas de desarrollo IA.
• 2. Imperceptibles al ojo humano en las imágenes generadas artificialmente.
• 3. Identificables por herramientas digitales creadas al efecto.
• 4. Modelos de análisis en tiempo real.
• 5. Identificar anomalías en rasgos faciales.
• 6. Umbrales de parpadeo o el ritmo cardiaco.