CNN
—
Alguns dos maiores nomes da tecnologia estão pedindo que os laboratórios de inteligência artificial interrompam o treinamento dos sistemas de IA mais poderosos por pelo menos seis meses, citando “riscos profundos para a sociedade e a humanidade”.
Elon Musk, Bill Gates e Steve Wozniak estão entre as dezenas de líderes tecnológicos, professores e pesquisadores que assinaram a carta, que foi Publicados pelo Future of Life Institute, uma organização sem fins lucrativos apoiado por Musk.
A carta chega apenas duas semanas depois que a OpenAI anunciou o GPT-4, uma versão ainda mais poderosa da tecnologia que sustenta a ferramenta viral AI chatbot, ChatGPT. Nos primeiros testes e em uma demonstração da empresa, a tecnologia foi mostrada redigindo ações judiciais, passando em exames padronizados e construindo um site funcional a partir de um esboço feito à mão.
A carta, que também foi assinada pelo CEO da OpenAI, dizia que a pausa deveria se aplicar a sistemas de IA “mais poderosos que o GPT-4”. Ele também disse que especialistas independentes devem usar a pausa proposta para desenvolver e implementar em conjunto um conjunto de protocolos compartilhados para ferramentas de IA que sejam seguras “além de qualquer dúvida razoável”.
“A IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidado e recursos proporcionais”, diz a carta. disse. “Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, embora os últimos meses tenham visto laboratórios de IA travados em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender. , prever ou controlar de forma confiável”.
Se uma pausa não for implementada em breve, a carta diz que os governos devem intervir e criar uma moratória.
A onda de atenção em torno do ChatGPT no final do ano passado ajudou a renovar uma corrida armamentista entre as empresas de tecnologia para desenvolver e implantar ferramentas de IA semelhantes em seus produtos. OpenAI, Microsoft e Google estão na vanguarda dessa tendência, mas IBM, Amazon, Baidu e Tencent estão trabalhando em tecnologias semelhantes. Uma longa lista de startups também está desenvolvendo assistentes de escrita de IA e geradores de imagens.
Os especialistas em inteligência artificial estão cada vez mais preocupados com o potencial das ferramentas de IA para respostas tendenciosas, a capacidade de espalhar desinformação e o impacto na privacidade do consumidor. Essas ferramentas também levantaram questões sobre como a IA pode derrubar profissões, permitir que os alunos trapaceiem e mudar nosso relacionamento com a tecnologia.
Lian Jye Su, analista da ABI Research, disse que a carta mostra preocupações legítimas entre os líderes de tecnologia sobre o uso não regulamentado de tecnologias de IA. Mas ele chamou partes da petição de “ridículas”. incluindo a premissa de pedir um hiato no desenvolvimento de IA além do GPT-4. Ele disse que isso poderia ajudar algumas das pessoas que assinaram a carta a preservar seu domínio no campo.
Musk foi membro fundador da OpenAI em 2015, mas saiu três anos depois e desde então criticado a empresa. Gates foi cofundador da Microsoft, que investiu bilhões de dólares na OpenAI.
“As ambições corporativas e o desejo de domínio muitas vezes triunfam sobre as preocupações éticas”, disse Su. “Não ficarei surpreso se essas organizações já estiverem testando algo mais avançado que o ChatGPT ou [Google’s] Bardo enquanto falamos.
Ainda assim, a carta sugere um desconforto mais amplo dentro e fora da indústria com o rápido avanço da IA. Algumas agências governamentais na China, na UE e em Cingapura já introduzido versões iniciais de estruturas de governança de IA.
