CNN
—
As Nações Unidas devem criar um novo órgão internacional para ajudar a governar o uso da inteligência artificial, à medida que a tecnologia revela cada vez mais seus riscos e benefícios potenciais, de acordo com o secretário-geral da ONU, António Guterres.
A ONU tem a oportunidade de estabelecer regras globalmente acordadas para monitorar e regular a IA, disse Guterres na terça-feira em uma primeira reunião do Conselho de Segurança da ONU dedicada à governança da IA.
Assim como a ONU convocou órgãos semelhantes para gerenciar o uso de energia nuclear, aumentar a segurança da aviação e enfrentar os desafios das mudanças climáticas, disse Guterres, a ONU tem um papel único a desempenhar na coordenação da resposta internacional à IA.
A ONU já está implantando inteligência artificial em suas próprias operações para monitorar cessar-fogo e identificar padrões de violência, acrescentou, e as operações humanitárias e de manutenção da paz da ONU também estão sendo alvo de atores hostis que usam IA para fins maliciosos, “causando grande sofrimento humano. ”
“O uso malicioso de sistemas de IA para fins terroristas, criminais ou estatais pode causar níveis horríveis de mortes e destruição, trauma generalizado e danos psicológicos profundos em uma escala inimaginável”, alertou Guterres. “A IA generativa tem um enorme potencial para o bem e o mal em escala. Seus próprios criadores alertaram que riscos muito maiores, potencialmente catastróficos e existenciais estão por vir. Sem ação para lidar com esses riscos, estamos negligenciando nossas responsabilidades para com as gerações presentes e futuras”.
Até 2026, a ONU deve desenvolver um acordo juridicamente vinculativo que proíba o uso de IA em armas de guerra totalmente automatizadas, disse Guterres. Ele também prometeu reunir um conselho consultivo que desenvolverá propostas para regulamentar a IA de forma mais ampla até o final do ano e provocou um breve resumo de políticas com recomendações para os governos sobre como abordar a tecnologia com responsabilidade.
Liderando a reunião de terça-feira estava o secretário de Relações Exteriores do Reino Unido, James Cleverly, que pediu que a governança internacional da IA fosse vinculada aos princípios que defendem a liberdade e a democracia; respeito pelos direitos humanos e pelo estado de direito; segurança, incluindo a segurança física, bem como a proteção dos direitos de propriedade e privacidade; e confiabilidade.
“Estamos aqui hoje porque a IA afetará o trabalho deste conselho”, disse Cleverly. “Isso pode aumentar ou interromper a estabilidade estratégica global. Ele desafia nossas suposições fundamentais sobre defesa e dissuasão. Ele coloca questões morais sobre a responsabilidade por decisões letais no campo de batalha…. A IA poderia ajudar na busca imprudente por armas de destruição em massa por parte de atores estatais e não estatais. Mas também pode nos ajudar a impedir a proliferação.”
O governo chinês, por sua vez, argumentou que as regras da ONU devem refletir as opiniões dos países em desenvolvimento, uma vez que busca impedir que a tecnologia se torne “um cavalo selvagem descontrolado”.
As leis e normas internacionais sobre IA devem ser flexíveis para dar aos países a liberdade de estabelecer seus próprios regulamentos em nível nacional, disse o embaixador chinês Zhang Jun, que também criticou “países desenvolvidos” não identificados por tentar alcançar o domínio da IA.
“Alguns países desenvolvidos, para buscar a hegemonia tecnológica, se esforçam para construir seus pequenos clubes exclusivos e obstruir maliciosamente o desenvolvimento tecnológico de outros países e criar artificialmente barreiras tecnológicas”, disse Zhang. “A China se opõe firmemente a esses comportamentos.”
As observações de Zhang vêm na esteira de relatos de que o governo dos EUA pode tentar limitar o fluxo de poderosos chips de inteligência artificial para a China.
Um funcionário representando os Estados Unidos na reunião não abordou diretamente as acusações do governo chinês, mas acrescentou que “nenhum estado membro deve usar IA para censurar, constranger, reprimir ou desautorizar pessoas” – uma possível referência velada ao uso da tecnologia pela China para vigiar grupos étnicos minorias.
A reunião também incluiu algumas vozes da indústria de tecnologia.
Dirigindo-se ao conselho de segurança por teleconferência, Jack Clark, cofundador da empresa de IA Anthropic, pediu aos Estados membros que não permitam que empresas privadas dominem o desenvolvimento da inteligência artificial.
“Não podemos deixar o desenvolvimento da inteligência artificial apenas para atores do setor privado”, disse Clark. “Os governos do mundo devem se unir para desenvolver capacidade segura e tornar o desenvolvimento de poderosos sistemas de IA um esforço compartilhado por todas as partes da sociedade, em vez de ser ditado apenas por um pequeno número de empresas que competem entre si no mercado.”
