Tudo por causa do Lensa, um aplicativo que usa inteligência artificial para renderizar retratos digitais com base nas fotos enviadas pelos usuários.
Os retratos atraentes e altamente estilizados de Lensa tomaram conta da Internet, mas também foram objeto de preocupação de especialistas em privacidade, artistas digitais e usuários que notaram que o aplicativo tornava sua pele mais pálida ou seus corpos mais magros.
Aqui está tudo o que você precisa saber sobre o Lensa:
Zoe Sottile, da CNN, gerou esta imagem enviando selfies para a função “Magic Avatars” do Lensa. Crédito: lente
Como obter seu próprio ‘avatar mágico’
As imagens que circulam online são produtos da função “Magic Avatars” do Lensa. Para experimentá-lo, primeiro você precisa baixar o aplicativo Lensa em seu telefone.
Uma assinatura anual do aplicativo, que também oferece serviços de edição de fotos, custa US$ 35,99. Mas você pode usar o aplicativo para uma avaliação gratuita de uma semana se quiser testá-lo antes de confirmar.
Gerar os avatares mágicos requer uma taxa adicional. Contanto que você tenha uma assinatura ou avaliação gratuita, você pode obter 50 avatares por US$ 3,99, 100 por US$ 5,99 ou 200 por US$ 7,99.
A Lensa recomenda que os usuários enviem de 10 a 20 selfies para obter os melhores resultados. As fotos devem ser closes do seu rosto com uma variedade de planos de fundo, expressões faciais e ângulos diferentes. Lensa também estipula que deve ser usado apenas por pessoas com 13 anos ou mais.
O aplicativo explica em sua política de privacidade que eles usam a tecnologia TrueDepth API, e as fotos fornecidas pelo usuário, ou “dados faciais”, são usadas “para treinar nossos algoritmos para um melhor desempenho e mostrar melhores resultados”.
Testamos o aplicativo para ver como é
Para testar o aplicativo, selecionei 20 selfies que achei que mostravam uma variedade de expressões e ângulos e escolhi a opção de 100 avatares. Demorou cerca de 20 minutos para o Lensa devolver meus avatares, que se enquadravam em 10 categorias: fantasia, princesa fada, foco, pop, estiloso, animé, leve, kawaii, iridescente e cósmico.
Em geral, senti que o aplicativo fez um trabalho decente produzindo imagens artísticas com base em minhas selfies. Não consegui me reconhecer na maioria dos retratos, mas pude ver de onde eles vinham.
Parecia reconhecer e repetir certos traços, como minha pele pálida ou meu nariz redondo, mais do que outros. Alguns deles tinham um estilo mais realista e estavam próximos o suficiente para que eu pudesse pensar que eram fotos minhas se os visse de longe. Outros eram significativamente mais estilizados e artísticos, então pareciam menos específicos para mim.
Para algumas mulheres, o app produz imagens sexualizadas
Um dos desafios que encontrei no aplicativo foi descrito por outras mulheres online. Mesmo que todas as imagens que carreguei fossem totalmente vestidas e principalmente closes do meu rosto, o aplicativo retornou várias imagens com nudez implícita ou real.
Em uma das imagens mais desorientadoras, parecia que uma versão do meu rosto estava em um corpo nu. Em várias fotos, parecia que eu estava nua, mas com um cobertor estrategicamente colocado, ou a imagem apenas cortada para esconder algo explícito. E muitas das imagens, mesmo onde eu estava totalmente vestido, apresentavam uma expressão facial sensual, decote significativo e roupas minúsculas que não combinavam com as fotos que enviei.
Snow disse que a tecnologia de inteligência artificial como a que Lensa usa pode ser usada para gerar “pornografia de vingança”, ou seja, fazer imagens nuas de alguém sem seu consentimento.
Para Snow, a saída foi um sinal da “completa falta de moderação de conteúdo” no aplicativo. Ela também pediu maior regulamentação de aplicativos de IA como o Lensa.
Lensa não respondeu a um pedido da CNN para comentar sobre o aplicativo que produz imagens nuas ou sexualizadas.
“Lensa está realmente fazendo horas extras para transformar a IA em uma pessoa magra”, escreveu ela na legenda.
Zoe Sottile, da CNN, gerou esta imagem enviando selfies para a função “Magic Avatars” do Lensa. Crédito: lente
Artistas digitais dizem que o aplicativo coopta seu trabalho
A tecnologia da Lensa conta com um modelo de aprendizado profundo chamado Stable Diffusion, de acordo com sua política de privacidade. A Stable Diffusion usa uma enorme rede de arte digital extraída da internet, de um banco de dados chamado LAION-5B, para treinar sua inteligência artificial. Atualmente, os artistas não podem optar por ter sua arte incluída no conjunto de dados e, portanto, usada para treinar o algoritmo.
Vários dos artistas expressaram preocupação de que os aplicativos também possam ameaçar seus meios de subsistência. Os artistas digitais não podem competir com os preços baixos e a inteligência artificial rápida permite um retrato digital, disseram na época.
O proprietário da Lensa, Prisma, tentou amenizar as preocupações sobre sua tecnologia eliminando o trabalho de artistas digitais.
E “as saídas não podem ser descritas como réplicas exatas de qualquer obra de arte em particular”.
