CNN
—
A Meta está tomando medidas para reprimir a disseminação de imagens íntimas de adolescentes no Facebook e no Instagram.
Uma nova ferramenta, chamada Take It Down, visa uma prática comumente chamada de “pornografia de vingança”, em que alguém publica uma foto explícita de um indivíduo sem seu consentimento para embaraçar publicamente ou causar-lhe angústia. A prática disparou nos últimos anos nas redes sociais, principalmente entre os meninos.
O Take It Down, que é operado e administrado pelo Centro Nacional para Crianças Desaparecidas e Exploradas, permitirá que menores de idade pela primeira vez anexem um hash – ou impressão digital – a imagens ou vídeos íntimos diretamente de seus próprios dispositivos, sem ter que carregá-los para a nova plataforma. Para criar um hash de uma imagem explícita, um adolescente pode visitar o site TakeItDown.NCMEC.org para instalar o software em seu dispositivo. O número anônimo, não a imagem, será armazenado em um banco de dados vinculado ao Meta para que, se a foto for postada no Facebook ou Instagram, ela seja comparada com a original, revisada e potencialmente removida.
“Esta questão tem sido incrivelmente importante para a Meta por muito, muito tempo, porque o dano causado é bastante grave no contexto de adolescentes ou adultos”, disse Antigone Davis, diretora global de segurança da Meta. “Isso pode prejudicar sua reputação e relacionamentos familiares e os coloca em uma posição muito vulnerável. É importante que encontremos ferramentas como esta para ajudá-los a recuperar o controle do que pode ser uma situação muito difícil e devastadora.”
A ferramenta funciona para qualquer imagem compartilhada no Facebook e Instagram, incluindo Messenger e mensagens diretas, desde que as imagens não sejam criptografadas.
Menores de 18 anos podem usar o Take It Down, e pais ou adultos de confiança também podem usar a plataforma em nome de um jovem. O esforço é totalmente financiado pela Meta e se baseia em uma plataforma semelhante lançada em 2021 ao lado de mais de 70 ONGs, chamada StopNCIIpara evitar pornografia de vingança entre adultos.
Desde 2016, a linha de denúncias cibernéticas do NCMEC recebeu mais de 250.000 denúncias de aliciamento online, incluindo sextortion, e o número dessas denúncias mais que dobrou entre 2019 e 2019. No ano passado, 79% dos infratores buscavam dinheiro para manter as fotos. offline, de acordo com a organização sem fins lucrativos. Muitos desses casos aconteceram nas redes sociais.
Os esforços da Meta ocorrem quase um ano e meio depois que Davis foi questionado por senadores sobre o impacto de seus aplicativos sobre os usuários mais jovens, após uma relatório explosivo indicou que a empresa estava ciente de que o Instagram, de propriedade do Facebook, poderia ter um efeito “tóxico” em meninas adolescentes. Embora a empresa tenha lançado um punhado de novas ferramentas e proteções desde então, alguns especialistas dizem que demorou muito e mais precisa ser feito.
Enquanto isso, o presidente Biden exigiu em seu último Estado da União mais transparência sobre os algoritmos das empresas de tecnologia e como eles afetam saúde mental de seus jovens usuários.
Em resposta, Davis disse à CNN que a Meta “saúda os esforços para introduzir padrões para a indústria sobre como garantir que as crianças possam navegar com segurança e aproveitar tudo o que os serviços online têm a oferecer”.
Enquanto isso, ela disse que a empresa continua a redobrar os esforços para ajudar a proteger seus usuários jovens, principalmente quando se trata de manter fotos explícitas fora de seu site.
“A sextorção é um dos crimes de maior crescimento que vemos no Centro Nacional para Crianças Desaparecidas e Exploradas”, disse Gavin Portnoy, vice-presidente de comunicações e marca do NCMEC. “Estamos chamando isso de pandemia oculta e ninguém está realmente falando sobre isso.”
Portnoy disse que também houve um aumento no número de jovens que morreram por suicídio como resultado de sextortion. “Essa é a força motriz por trás da criação do Take It Down, junto com nossos parceiros”, disse ele. “Isso realmente dá aos sobreviventes a oportunidade de dizer, olha, não vou deixar você fazer isso comigo. Eu tenho o poder sobre minhas imagens e meus vídeos.”
Além das plataformas da Meta, OnlyFans e MindGeek, controladora do Pornhub, também estão adicionando essa tecnologia a seus serviços.
Mas existem limitações. Para contornar a tecnologia de hash, as pessoas podem alterar as imagens originais, como cortar, adicionar emojis ou adulterar eles. Algumas alterações, como adicionar um filtro para deixar a foto em sépia ou preto e branco, ainda serão sinalizadas pelo sistema. A Meta recomenda que os adolescentes que possuem várias cópias da imagem ou versões editadas façam um hash para cada uma.
“Não há uma panacéia para a questão do sextortion ou a questão do compartilhamento não consensual de imagens íntimas”, disse Davis. “Realmente requer uma abordagem holística.”
A empresa lançou uma série de atualizações para ajudar os adolescentes a terem uma experiência adequada à idade em suas plataformas, como adicionar novos ferramentas de supervisão para os pais, um tecnologia de verificação de idade e inadimplentes adolescentes nas configurações mais privadas no Facebook e Instagram.
Esta não é a primeira vez que uma grande empresa de tecnologia investe recursos para reprimir imagens explícitas de menores. Em 2022, a Apple abandonou seus planos de lançar uma ferramenta polêmica que verificaria fotos de iPhones, iPads e iCloud em busca de material de abuso sexual infantil após reação de críticos que criticaram as possíveis implicações de privacidade do recurso.
“As crianças podem ser protegidas sem que as empresas vasculhem dados pessoais, e continuaremos trabalhando com governos, defensores da criança e outras empresas para ajudar a proteger os jovens, preservar seu direito à privacidade e tornar a Internet um lugar mais seguro para as crianças e para nós. tudo”, disse a empresa em um comunicado fornecido à Wired no momento.
Davis não comentou se espera críticas pela abordagem da Meta, mas observou que “havia diferenças significativas entre a ferramenta que a Apple lançou e a ferramenta que o NCMEC está lançando hoje”. Ela enfatizou que a Meta não verificará as imagens nos telefones dos usuários.
“Eu dou as boas-vindas a qualquer membro da indústria que tente investir em esforços para impedir que esse tipo de crime terrível aconteça em seus aplicativos”, acrescentou ela.
