Se trata del producto de un equipo de la Universidad de Chicago, que ha ideado una táctica sutil que lucha eficazmente contra este tipo de algoritmos de espionaje.
Reconocimiento facial
El programa, llamado Fawkes, en homenaje a la máscara de Guy Fawkes, comenzó a desarrollarse a fines del año pasado como una forma de frustrar a compañías como Clearview AI, que recopilan bases de datos de rostros en publicaciones públicas.
Clearview.ai puede reconocer la apariencia de una persona determinada al conectar una imagen de una cara (es decir, de un perfil de Facebook) a otra imagen de una cara (es decir, de una foto de pasaporte) y encontrar similitudes entre las dos fotos. Según el equipo de Chicago, esto no solo significa encontrar geometría facial coincidente o color de cabello coincidente o lunares coincidentes, sino que también significa detectar relaciones invisibles entre los píxeles que forman una imagen generada por computadora de esa cara.
Lo que hace el programa es intercambiar o distorsionar algunos de estos píxeles, la cara aún podría ser reconocible por personas, pero no por ordenadores, ya que engañan a los algoritmos de reconocimiento facial populares.
Los científicos llaman a este proceso "encubrimiento" y está destinado a corromper el recurso que los sistemas de reconocimiento facial necesitan para funcionar: bases de datos de caras eliminadas de las redes sociales. La firma de reconocimiento facial Clearview AI, por ejemplo, afirma haber recogido unos tres mil millones de imágenes de rostros de sitios como Facebook, YouTube y Venmo, que utiliza para identificar a extraños.
Pero si las fotos que comparte en línea se han publicado a través de Fawkes, dicen los investigadores, entonces la cara que han archivado los algoritmos, no la reconocerán como suya.
Cómo engañar a la inteligencia artificial
La aplicación denominada Fawkes toma las fotografías originales y les realiza pequeños cambios a nivel de píxeles, que resultan imperceptibles para el ojo humano, en un proceso llamado “encubrimiento”.
Las imágenes “ocultas” pueden ser usadas como se hace con cualquier otra fotografía, compartiéndolas en las redes sociales, enviándolas a amigos, imprimiéndolas o mostrándolas en dispositivos digitales.
La diferencia es que si alguien intenta usarlas para construir un sistema de reconocimiento facial, las imágenes “ocultas” mostrarán una versión altamente distorsionada de la original.
El efecto de la capa no es detectable por humanos o máquinas, asegura el Laboratorio SAND de la Universidad de Chicago.
El programa Fawkes está disponible gratuitamente para descargar en su sitio web, de forma que si tenemos una imagen que deseamos proteger de fisgones, podemos usarlo para mezclar esos píxeles invisibles en aproximadamente 40 segundos por fotografía. La foto resultante puede subirse en la plataforma de redes sociales que elijamos, con la garantía de que no se cruzará con ninguna otra publicada por nosotros.
Te puede interesar
