Uma camisa de estampa chamativa foi criada para fazer com que sistemas de inteligência artificial tenham dificuldade em reconhecer quem a veste. A peça integra o projeto Digital Camouflage, do designer alemão Simon Weckert, que investiga maneiras de interferir na leitura feita por tecnologias de visão computacional.
A peça lembra uma estampa havaiana
Reprodução
À primeira vista, o modelo lembra uma camisa havaiana de cores fortes e desenhos sobrepostos. O padrão, porém, foi pensado para produzir um efeito específico diante de determinados sistemas automatizados. A ideia é alterar os elementos visuais que o algoritmo utiliza para identificar uma figura humana.
Para chegar ao resultado, o designer recorreu a uma técnica conhecida como ataque adversarial. Nesse tipo de abordagem, uma imagem é modificada de maneira praticamente imperceptível para as pessoas, mas suficiente para provocar outra interpretação por parte de um sistema computacional.
A IA não conseguem identificar a pessoa quando ela veste
Reprodução
Em uma das demonstrações do projeto, uma câmera equipada com sistema de código aberto utilizado para detecção de objetos, identifica pessoas que aparecem no enquadramento. Quando alguém veste a peça, no entanto, o programa pode deixar de classificá-la como humana.
O efeito não significa que o usuário fique invisível para câmeras. A resposta depende do sistema empregado, das condições da imagem e do algoritmo responsável pela análise. Uma tecnologia diferente pode interpretar a mesma estampa de outra maneira.
O trabalho também chama atenção para uma questão que acompanha a expansão de ferramentas capazes de analisar imagens automaticamente: até que ponto padrões desenvolvidos para o olhar humano podem interferir na interpretação feita por máquinas.
Camuflagem digital
Designer cria camisa que câmeras de IA não conseguem identificar
Reprodução/ Instagram
O projeto faz parte de uma investigação mais ampla sobre a relação entre pessoas e sistemas de reconhecimento visual. Em vez de esconder fisicamente o indivíduo, a proposta explora uma falha na maneira como determinados algoritmos interpretam formas, cores e padrões.
A camisa, portanto, não funciona como uma proteção universal contra vigilância. Seu efeito está ligado às características específicas dos modelos de inteligência artificial utilizados na detecção.
Designer cria camisa que faz câmeras de IA não identificarem quem a veste
