Adobe AI puede detectar fotos manipuladas

La tecnología puede hacer del mundo un lugar mejor y lo hace, pero algunas de las herramientas que utilizamos para lograr cambios positivos también pueden volverse en nuestra contra para promover falsedades. Adobe espera ayudar a frenar la difusión de noticias falsas con herramientas para detectar imágenes manipuladas. La compañía trabajó con científicos de UC Berkeley para desarrollar una red neuronal que pueda detectar fotos falsas y trabajar hacia atrás para restaurar su apariencia original.

Adobe ya tiene algunas funciones en Photoshop para evitar que las personas las utilicen de forma sospechosa. Por ejemplo, las herramientas de reconocimiento de imágenes bloquean la manipulación de billetes de banco. Estos archivos ni siquiera se abrirán. Naturalmente, no puede evitar que las personas abran archivos que incluyan rostros, pero la nueva herramienta de prueba de concepto de Adobe y UC Berkeley podría indicarle si esos rostros han sido alterados.

La herramienta detecta el uso de la herramienta Licuar con reconocimiento facial de Adobe, que facilita la realización de ajustes sutiles en la cara de una persona en una imagen. La detección se basa en una red neuronal convolucional que ha sido entrenada con ejemplos de disparos a la cabeza editados con Photoshop, así como las mismas fotos antes de la alteración.



Antes de probar la precisión de la red neuronal, Adobe quería saber qué tan buenos (o terribles) eran los humanos para detectar fotos manipuladas. Mostró los disparos a la cabeza alterados e inalterados a algunos voluntarios humanos, pidiéndoles que identificaran qué foto era falsa. Desafortunadamente para la humanidad, solo pudieron elegir la foto falsa el 53 por ciento de las veces, y eso es con ambas imágenes frente a ellos. La IA entrenada en fotos manipuladas pudo detectar la falsificación con un 99 por ciento de precisión.

La herramienta de detección resalta áreas de la imagen que parecen estar modificadas y puede ir un paso más allá. Dado que la capacitación se basa en una herramienta establecida de Adobe, la IA puede revertir las ediciones para producir una muy buena aproximación a la foto original.

Este es un primer paso impresionante para combatir la información errónea en Internet, pero existen innumerables formas de crear fotos falsas. Esta herramienta no podrá detectar nada más que el filtro de licuado facial de Photoshop. Se necesitará mucho más trabajo para crear una IA que pueda dar cuenta de todas o incluso de la mayoría de las técnicas de manipulación de imágenes. Sin embargo, esa es probablemente una buena vía de investigación, ya que los humanos son tan malos para detectar falsificaciones.

Copyright © Todos Los Derechos Reservados | 2007es.com