Nova Iorque
CNN
—
Geoffrey Hinton, também conhecido como o “Padrinho da IA”, decidiu que tinha que “denunciar” a tecnologia que ajudou a desenvolver depois de se preocupar com o quão inteligente ela estava se tornando, disse ele à CNN na terça-feira.
“Sou apenas um cientista que de repente percebeu que essas coisas estão ficando mais espertas do que nós”, disse Hinton a Jake Tapper, da CNN, em entrevista na terça-feira. “Quero denunciar e dizer que devemos nos preocupar seriamente em como impedir que essas coisas assumam o controle sobre nós.”
O trabalho pioneiro de Hinton em redes neurais moldou os sistemas de inteligência artificial que alimentam muitos dos produtos atuais. Na segunda-feira, ele ganhou as manchetes por deixar seu cargo no Google, onde trabalhou por uma década, para falar abertamente sobre suas crescentes preocupações com a tecnologia.
Em entrevista na segunda-feira ao New York Times, que foi o primeiro a relatar sua mudança, Hinton disse estar preocupado com o potencial da IA de eliminar empregos e criar um mundo onde muitos “não serão mais capazes de saber o que é verdade”. Ele também apontou para o impressionante ritmo de avanço, muito além do que ele e outros haviam previsto.
“Se ele for muito mais inteligente do que nós, será muito bom em manipulação porque terá aprendido isso conosco, e há poucos exemplos de uma coisa mais inteligente sendo controlada por uma coisa menos inteligente”, disse Hinton a Tapper. na terça-feira.
“Ele sabe como programar, então descobrirá maneiras de contornar as restrições que impomos a ele. Ele descobrirá maneiras de manipular as pessoas para fazer o que quiser.”
Hinton não é o único líder de tecnologia a se manifestar sobre as preocupações com a IA. Vários membros da comunidade assinaram uma carta em março pedindo que os laboratórios de inteligência artificial interrompam o treinamento dos sistemas de IA mais poderosos por pelo menos seis meses, citando “riscos profundos para a sociedade e a humanidade”.
A carta, Publicados pelo Future of Life Institute, uma organização sem fins lucrativos Apoiado por Elon Musk, veio apenas duas semanas depois que a OpenAI anunciou o GPT-4, uma versão ainda mais poderosa da tecnologia que alimenta o chatbot viral ChatGPT. Nos primeiros testes e em uma demonstração da empresa, o GPT-4 foi usado para redigir ações judiciais, passar em exames padronizados e construir um site funcional a partir de um esboço feito à mão.
O cofundador da Apple, Steve Wozniak, que foi um dos signatários da carta, apareceu na “CNN This Morning” na terça-feira, ecoando preocupações sobre seu potencial de espalhar desinformação.
“Enganar vai ser muito mais fácil para quem quer enganar você”, disse Wozniak à CNN. “Não estamos realmente fazendo nenhuma mudança a esse respeito – estamos apenas assumindo que as leis que temos cuidarão disso.”
Wozniak também disse que provavelmente é necessário “algum tipo” de regulamentação.
Hinton, por sua vez, disse à CNN que não assinou a petição. “Acho que não podemos parar o progresso”, disse ele. “Não assinei a petição dizendo que deveríamos parar de trabalhar com IA porque, se as pessoas na América parassem, as pessoas na China não parariam.”
Mas ele confessou não ter uma resposta clara sobre o que fazer.
“Não está claro para mim se podemos resolver esse problema”, disse Hinton a Tapper. “Acredito que devemos nos esforçar muito para pensar em maneiras de resolver o problema. Não tenho uma solução no momento.”
