Un juez frena el uso de la IA para 'mejorar' pruebas forenses en juicios: ni sus creadores creen que sirva para eso

Título: Un juez frena el uso de la IA para 'mejorar' pruebas forenses en juicios: ni sus creadores creen que sirva para eso

• Fecha: 05/04/2024
• Tipo: Inteligencia Artificial / Pruebas forenses
• Fuente: genbeta.com
• Resumen: 
• 1. Un juez del estado de Washington (EEUU) ha dictaminado en contra de admitir como evidencia en un juicio unos vídeos "mejorados" mediante IA. 
• 2. Naturaleza novedosa de la tecnología empleada.
• 3. Su uso podría llevar a una confusión de los hechos y un entorpecimiento del testimonio de testigos oculares.
• 4. La defensa buscaba introducir en el caso como prueba un vídeo grabado con un teléfono móvil y posteriormente "mejorado" mediante software de IA, con el argumento de que proporcionaría una visión más clara de los eventos.
• 5. Tanto la fiscalía como expertos independientes criticaron la fiabilidad de dichas mejoras.
• 6. La IA no funciona recuperando mágicamente información no capturada en su momento, sino que se limita a especular qué información podría situar en los "huecos" y mejorar la resolución de la imagen con un mero cálculo probabilístico.
• 7. Eso no sólo puede crear información que nunca estuvo allí, sino también alterar datos vitales presentes en los vídeos, lo que llevaría a interpretaciones erróneas o engañosas de los hechos.
• 8. Las imágenes mejoradas son "inexactas, engañosas y poco fiables".
• 9. Es todo estadística, igual que cuando ChatGPT "calcula" qué respondernos. En este caso, el resultado del video en cuestión es más "agradable a la vista", pero no real.
• 10. La fiscalía alega que esta tecnología inventa, no reconstruye.
• 11. Ni siquiera los creadores de la tecnología apoyaban ese tipo de uso.
• 12. Este fallo sienta un precedente en este debate sobre la fiabilidad forense de la inteligencia artificial.