Tel Aviv
CNN
—
O homem ruivo vestindo o que parece ser o último suéter de Natal sobe para a câmera. Um quadrante amarelo o envolve. O software de reconhecimento facial identifica imediatamente o homem como… uma girafa?
Este caso de identidade equivocada não é acidental – é literalmente intencional. A camisola faz parte da coleção de estreia Manifesto da startup italiana Capaz. Além de tops, inclui moletons, calças, camisetas e vestidos. Cada um exibe um padrão, conhecido como “patch adversário”, projetado por algoritmos de inteligência artificial para confundir o software de reconhecimento facial: ou as câmeras não conseguem identificar o usuário ou eles pensam que são uma girafa, uma zebra, um cachorro ou um dos outros animais embutidos no padrão.
“Quando estou na frente de uma câmera, não tenho escolha entre fornecer meus dados ou não”, diz a cofundadora e CEO, Rachele Didero. “Então estamos criando peças de vestuário que podem te dar a possibilidade de fazer essa escolha. Não estamos tentando ser subversivos.”
Didero, 29, que está cursando doutorado em “Aprendizado Têxtil e de Máquina para Privacidade” no Politécnico de Milão – com passagem pelo Media Lab do MIT – diz que a ideia de Cap_able surgiu quando ela estava em um intercâmbio de mestrado no Fashion Institute of Tecnologia em Nova York. Enquanto estava lá, ela leu sobre como os inquilinos no Brooklyn tinham lutou de volta contra os planos do proprietário de instalar um sistema de entrada de reconhecimento facial em seu prédio.
“Esta foi a primeira vez que ouvi falar de reconhecimento facial”, diz ela. “Um dos meus amigos era engenheiro de ciência da computação, então juntos dissemos: ‘Isso é um problema e talvez possamos mesclar design de moda e ciência da computação para criar algo que você possa usar todos os dias para proteger seus dados.’”
Ter a ideia foi a parte fácil. Para transformá-lo em realidade, eles primeiro tiveram que encontrar – e depois projetar – os “algoritmos adversários” certos para ajudá-los a criar imagens que enganariam o software de reconhecimento facial. Ou eles criariam a imagem – de nossa girafa, digamos – e então usariam o algoritmo para ajustá-la. Ou eles definiram as cores, o tamanho e a forma que desejavam que a imagem ou o padrão assumisse e, em seguida, fizeram com que o algoritmo o criasse.
“Você precisa de uma mentalidade entre engenharia e moda”, explica Didero.
Seja qual for o caminho que tomaram, eles tiveram que teste as imagens em um conhecido sistema de detecção de objetos chamado YOLO, um dos algoritmos mais usados em software de reconhecimento facial.
Em um processo agora patenteado, eles criariam uma versão física do padrão, usando um Máquina de Malhas Computadorizada, que parece um cruzamento entre um tear e um churrasco gigante. Alguns retoques aqui e ali para atingir o visual, o tamanho e a posição das imagens desejadas na peça, e eles poderiam criar sua linha, toda feita na Itália, com algodão egípcio.
Didero diz que as roupas atuais funcionam 60% a 90% do tempo quando testado com YOLO. Os algoritmos adversários do Cap_able vão melhorar, mas o software que ele está tentando enganar também pode ficar melhor, talvez até mais rápido.
“É uma corrida armamentista”, diz Brent Mittelstadt, diretor de pesquisa e professor associado do Oxford Internet Institute. Ele compara isso à batalha entre o software que produz deep fakes e o software projetado para detectá-los. Exceto que roupas não podem baixar atualizações.
“Pode ser que você o compre e só seja bom por um ano, ou dois anos ou cinco anos, ou o tempo que for necessário para realmente melhorar o sistema a tal ponto que ele ignoraria a abordagem usada para enganá-los em primeiro lugar”, disse ele.
E com preços a partir de US$ 300, observa ele, essas roupas podem acabar sendo apenas um produto de nicho.
No entanto, seu impacto pode ir além da preservação da privacidade de quem os compra e usa.
“Uma das principais vantagens é que ajuda a criar um estigma em torno da vigilância, o que é realmente importante para encorajar os legisladores a criar regras significativas, para que o público possa resistir mais intuitivamente a tipos de vigilância realmente corrosivos e perigosos”, disse Woodrow Hartzog, professor da Faculdade de Direito da Universidade de Boston.
Cap_able não é a primeira iniciativa a combinar proteção de privacidade e design. Na recente Copa do Mundo no Catar, a agência criativa Virtude Mundial veio com pintura facial com tema de bandeira para os fãs que procuram enganar a legião de câmeras de reconhecimento facial do emirado.
Adam Harvey, um artista baseado em Berlim focado em dados, privacidade, vigilância e visão computacional, criou maquiagem, roupas e aplicativos destinados a aumentar a privacidade. Em 2016, criou hiperfaceum tecido que incorpora “padrões de camuflagem de visão computacional de face falsa” e o que pode se qualificar como um precursor artístico do que Cap_able está tentando fazer comercialmente.
“É uma luta, e o aspecto mais importante é que essa luta não acabou”, diz Shira Rivnai Bahir, professora do programa Dados, Governo e Democracia da Universidade Reichman de Israel. “Quando vamos a protestos na rua, mesmo que não nos proteja totalmente, nos dá mais confiança, ou uma forma de pensar que não estamos nos entregando totalmente às câmeras.”
Rivnai Bahir, que está prestes a apresentar sua tese de doutorado explorando o papel do anonimato e das práticas de sigilo no ativismo digital, cita o uso de guarda-chuvas, máscaras e lasers como algumas das formas mais analógicas pelas quais as pessoas lutaram contra o surgimento das máquinas. Mas estes são facilmente descobertos – e confiscados – pelas autoridades. Fazer o mesmo com base no padrão do suéter de alguém pode ser mais complicado.
Cap_able lançou um Campanha Kickstarter final do ano passado. Arrecadou € 5.000. A empresa agora planeja ingressar no programa de aceleração do Politécnico, para refinar seu modelo de negócios, antes de lançar investidores no final do ano.
Quando Didero usa as roupas, ela diz que as pessoas comentam sobre suas roupas “legais”, antes de admitir: “Talvez seja porque eu moro em Milão ou Nova York, onde não é a coisa mais louca!”
Felizmente, faixas mais recatadas estão por vir, com padrões menos visíveis ao olho humano, mas que ainda podem confundir as câmeras. Voar sob o radar também pode ajudar pessoas vestidas com trajes especiais a evitar sanções das autoridades em lugares como a China, onde o reconhecimento facial foi uma parte fundamental dos esforços para identificar os uigures na região noroeste de Xinjiang, ou Irãque planeja usá-lo para identificar mulheres sem hijab no metrô.
Os olhos do Big Brother podem se tornar cada vez mais onipresentes, mas talvez no futuro ele veja girafas e zebras em vez de você.
