Nova Iorque
CNN
—
Após as eleições presidenciais de 2016, quando as plataformas online começaram a enfrentar um maior escrutínio por seus impactos sobre os usuários, as eleições e a sociedade, muitas empresas de tecnologia começaram a investir em salvaguardas.
As grandes empresas de tecnologia contrataram funcionários com foco em segurança eleitoral, desinformação e extremismo online. Alguns também formaram equipes éticas de IA e investiram em grupos de supervisão. Essas equipes ajudaram a orientar novos recursos e políticas de segurança. Mas, nos últimos meses, grandes empresas de tecnologia cortaram dezenas de milhares de empregos, e algumas dessas mesmas equipes estão tendo reduções de pessoal.
O Twitter eliminou equipes focadas em segurança, políticas públicas e questões de direitos humanos quando Elon Musk assumiu o cargo no ano passado. Mais recentemente, Twitch, uma plataforma de transmissão ao vivo de propriedade da Amazon, demitiu alguns funcionários focados em IA responsável e outros trabalhos de confiança e segurança, de acordo com ex-funcionários e postagens públicas nas redes sociais. A Microsoft cortou uma equipe-chave focada no desenvolvimento ético de produtos de IA. E a Meta, controladora do Facebook, sugeriu que poderia cortar funcionários que trabalham em funções não técnicas como parte de sua última rodada de demissões.
A Meta, de acordo com o CEO Mark Zuckerberg, contratou “muitos especialistas importantes em áreas fora da engenharia”. Agora, disse ele, a empresa pretende retornar “a uma proporção ideal de engenheiros para outras funções”, como parte dos cortes que ocorrerão nos próximos meses.
A onda de cortes levantou questões entre alguns dentro e fora do setor sobre o compromisso do Vale do Silício em fornecer amplas proteções e proteções ao usuário em um momento em que a moderação de conteúdo e a desinformação continuam sendo problemas difíceis de resolver. Alguns apontam os cortes draconianos de Musk no Twitter como um ponto central para o setor.
“O Twitter dando o primeiro passo forneceu cobertura para eles”, disse Katie Paul, diretora do grupo de pesquisa de segurança online Tech Transparency Project. (O Twitter, que também cortou grande parte de sua equipe de relações públicas, não respondeu a um pedido de comentário.)
Para complicar as coisas, esses cortes ocorrem quando os gigantes da tecnologia estão lançando rapidamente novas tecnologias transformadoras, como inteligência artificial e realidade virtual – ambas as quais geraram preocupações sobre seus possíveis impactos nos usuários.
“Eles estão em uma corrida superacirrada para o topo da IA e acho que provavelmente não querem que as equipes os atrapalhem”, disse Jevin West, professor associado da Escola de Informação da Universidade de Washington. Mas “é um momento especialmente ruim para se livrar dessas equipes quando estamos à beira de algumas tecnologias bastante transformadoras e assustadoras”.
“Se você pudesse voltar e colocar essas equipes no advento da mídia social, provavelmente estaríamos um pouco melhor”, disse West. “Estamos em um momento semelhante agora com IA generativa e esses chatbots.”
Quando Musk demitiu milhares de funcionários do Twitter após sua aquisição no outono passado, incluía funcionários focados em tudo, desde segurança e confiabilidade do site até políticas públicas e questões de direitos humanos. Desde então, ex-funcionários, incluindo o ex-chefe de integridade do site Yoel Roth – para não mencionar usuários e especialistas externos – expressaram preocupação de que os cortes do Twitter pudessem prejudicar sua capacidade de lidar com a moderação de conteúdo.
Meses após os movimentos iniciais de Musk, alguns ex-funcionários da Twitch, outra plataforma social popular, agora estão preocupados com os impactos que as recentes demissões poderiam ter em sua capacidade de combater o discurso de ódio e o assédio e de abordar as preocupações emergentes da IA.
Um ex-funcionário do Twitch afetado pelas demissões e que já trabalhou em questões de segurança disse que a empresa aumentou recentemente sua capacidade de terceirização para lidar com denúncias de conteúdo violador.
“Com essa terceirização, sinto que eles tinham esse nível de conforto de que poderiam cortar parte da equipe de confiança e segurança, mas o Twitch é único”, disse o ex-funcionário. “É uma verdadeira transmissão ao vivo, não há pós-produção nos uploads, então há muito envolvimento da comunidade que precisa acontecer em tempo real.”
Essas equipes terceirizadas, bem como a tecnologia automatizada que ajuda as plataformas a impor suas regras, também não são tão úteis para o pensamento proativo sobre quais devem ser as políticas de segurança de uma empresa.
“Você nunca vai parar de ser reativo às coisas, mas começamos a realmente planejar, nos afastar do reativo e realmente ser muito mais proativos, e mudar nossas políticas, certificando-se de que sejam lidas melhor para nossa comunidade ”, disse o funcionário à CNN, citando esforços como o lançamento do centro de segurança online do Twitch e seu Conselho Consultivo de Segurança.
Outro ex-funcionário do Twitch, que, como o primeiro, falou sob condição de anonimato por medo de colocar sua demissão em risco, disse à CNN que cortar o trabalho responsável da IA, apesar do fato de não ser um gerador direto de receita, pode ser ruim para negócios a longo prazo.
“Os problemas vão surgir, especialmente agora que a IA está se tornando parte da conversa convencional”, disseram eles. “As questões de segurança, proteção e ética vão se tornar mais prevalentes, então é hora de as empresas investirem.”
Twitch se recusou a comentar esta história além de sua postagem no blog anunciando demissões. Nesse post, o Twitch observou que os usuários confiam na empresa para “fornecer as ferramentas necessárias para construir suas comunidades, transmitir suas paixões com segurança e ganhar dinheiro fazendo o que você ama” e que “levamos essa responsabilidade incrivelmente a sério”.
A Microsoft também levantou alguns alarmes no início deste mês, quando cortou uma equipe-chave focada no desenvolvimento ético de produtos de IA como parte de suas demissões em massa. Ex-funcionários da equipe da Microsoft disseram The Verge que a equipe de IA de Ética e Sociedade foi responsável por ajudar a traduzir os princípios de IA responsável da empresa para os funcionários que desenvolvem produtos.
Em comunicado à CNN, a Microsoft disse que a equipe “desempenhou um papel fundamental” no desenvolvimento de suas políticas e práticas responsáveis de IA, acrescentando que seus esforços estão em andamento desde 2017. A empresa enfatizou que, mesmo com os cortes, “temos centenas de pessoas trabalhando nessas questões em toda a empresa, incluindo novas equipes de IA responsáveis e dedicadas que desde então foram estabelecidas e cresceram significativamente durante esse período”.
A Meta, talvez mais do que qualquer outra empresa, incorporou a mudança pós-2016 em direção a maiores medidas de segurança e políticas mais ponderadas. Ele investiu pesadamente em moderação de conteúdo, políticas públicas e um conselho de supervisão para avaliar questões complicadas de conteúdo para abordar as preocupações crescentes sobre sua plataforma.
Mas o recente anúncio de Zuckerberg de que a Meta passará por uma segunda rodada de demissões está levantando questões sobre o destino de parte desse trabalho. Zuckerberg deu a entender que as funções não técnicas seriam afetadas e disse que especialistas não engenheiros ajudam a “criar produtos melhores, mas com muitas equipes novas é preciso foco intencional para garantir que nossa empresa continue sendo principalmente tecnóloga”.
Muitos dos cortes ainda não aconteceram, o que significa que seu impacto, se houver, pode levar meses para ser sentido. E Zuckerberg disse em seu postagem no blog anunciando as demissões que a Meta “garantirá que continuemos cumprindo todas as nossas obrigações críticas e legais à medida que encontramos maneiras de operar com mais eficiência”.
Ainda assim, “se está afirmando que eles vão se concentrar em tecnologia, seria ótimo se eles fossem mais transparentes sobre quais equipes estão deixando de lado”, disse Paul. “Desconfio que haja falta de transparência, porque são as equipes que lidam com segurança e proteção.”
A Meta se recusou a comentar esta história ou responder a perguntas sobre os detalhes de seus cortes, além de apontar a CNN para a postagem do blog de Zuckerberg.
Paul disse que a ênfase da Meta na tecnologia não resolverá necessariamente seus problemas contínuos. Pesquisar do Tech Transparency Project no ano passado descobriu que a tecnologia do Facebook criou dezenas de páginas para grupos terroristas como ISIS e Al Qaeda. De acordo com o relatório da organização, quando um usuário listava um grupo terrorista em seu perfil ou fazia check-in em um grupo terrorista, uma página para o grupo era gerada automaticamente, embora o Facebook diga que proíbe conteúdo de grupos terroristas designados.
“A tecnologia que deveria estar removendo esse conteúdo está, na verdade, criando-o”, disse Paul.
Na época em que o relatório do Tech Transparency Project foi publicado em setembro, a Meta disse em um comentário que “quando esses tipos de páginas de shell são gerados automaticamente, não há proprietário ou administrador e atividade limitada. Como dissemos no final do ano passado, resolvemos um problema que gerou páginas de shell automaticamente e continuamos a revisá-lo.”
Em alguns casos, as empresas de tecnologia podem se sentir encorajadas a repensar os investimentos nessas equipes pela falta de novas leis. Nos Estados Unidos, os legisladores impuseram poucos novos regulamentos, apesar do que West descreveu como “muito teatro político” ao apontar repetidamente as falhas de segurança das empresas.
Os líderes de tecnologia também podem estar lutando com o fato de que, mesmo quando construíram suas equipes de confiança e segurança nos últimos anos, seus problemas de reputação realmente não diminuíram.
“Tudo o que eles continuam recebendo é criticado”, disse Katie Harbath, ex-diretora de políticas públicas do Facebook, que agora dirige a consultoria de tecnologia Anchor Change. “Não estou dizendo que eles deveriam receber um tapinha nas costas… mas chega um momento em que acho que Mark [Zuckerberg] e outros CEOs perguntam, vale a pena o investimento?”
Embora as empresas de tecnologia devam equilibrar seu crescimento com as condições econômicas atuais, disse Harbath, “às vezes os tecnólogos pensam que sabem as coisas certas a fazer, querem interromper as coisas e nem sempre estão abertos a ouvir vozes externas que não estão t tecnólogos.”
“Você precisa do equilíbrio certo para garantir que não está sufocando a inovação, mas certificando-se de que está ciente das implicações do que está construindo”, disse ela. “Não saberemos até vermos como as coisas continuam a funcionar no futuro, mas minha esperança é que pelo menos continuem pensando nisso.”
