Uma camisa criada pelo designer alemão Simon Weckert pode fazer com que determinados sistemas de inteligência artificial deixem de identificar uma pessoa em imagens. A peça usa uma estampa planejada para interferir na interpretação de cores, formas e padrões feita por algoritmos de visão computacional.
A criação faz parte do projeto Digital Camouflage, dedicado a investigar vulnerabilidades em tecnologias automatizadas de reconhecimento visual. A estampa tem cores fortes e desenhos sobrepostos, em uma composição que lembra uma camisa havaiana. Esses elementos são organizados para dificultar a identificação da silhueta e de características associadas a uma pessoa.
Como funciona
A técnica usada é conhecida como ataque adversarial. Ela modifica imagens ou padrões para induzir modelos de inteligência artificial a uma interpretação equivocada, mesmo quando a alteração parece pouco relevante para o olhar humano.
Em uma demonstração, uma câmera com um sistema de código aberto identifica normalmente as pessoas no enquadramento. Quando alguém entra em cena usando a camisa, o programa pode deixar de classificar essa pessoa como humana.
A roupa não impede a filmagem nem torna o usuário invisível. A câmera continua registrando a imagem; a possível falha ocorre na análise automatizada feita depois pelo software.
Resultado varia conforme o sistema
O efeito depende do algoritmo empregado, da qualidade da imagem, do ângulo da câmera, da iluminação e do modelo de detecção. Por isso, a mesma estampa pode ser interpretada normalmente por outra plataforma, que ainda reconhece a pessoa.
O projeto Digital Camouflage integra uma investigação mais ampla de Weckert sobre a relação entre indivíduos e tecnologias de análise automatizada. A experiência mostra que modelos de visão computacional podem interpretar determinados padrões de modo diferente dos seres humanos e ser induzidos ao erro por combinações específicas de formas e cores.
A camisa funciona como uma demonstração das limitações dos sistemas atuais de reconhecimento visual baseados em inteligência artificial, e não como um método universal para escapar da vigilância.
