‘Risco para a humanidade’: especialistas pedem ‘pausa’ no desenvolvimento de IA

Empresários e acadêmicos famosos alertaram que os sistemas de inteligência artificial (IA) “representam riscos profundos para a sociedade e a humanidade”, ao pedirem que as empresas freiem o desenvolvimento da tecnologia.

O CEO do Twitter, Elon Musk, e o cofundador da Apple, Steve Wozniak, estão entre vários signatários conhecidos de uma carta aberta que pede aos laboratórios de IA que parem imediatamente o desenvolvimento, por pelo menos seis meses.

A carta, publicada no site do The Future of Life Institute, afirma que os laboratórios de IA estão “presos em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever, ou ter controle confiável”.

Eles pediram uma pausa no treinamento de qualquer sistema de IA mais poderoso que o GPT-4, o mais recente modelo de linguagem grande (LLM) da OpenAI, que sustenta seu popular chatbot ChatGPT.

Carta

A carta, publicada na quarta-feira, coincidiu com o lançamento de um relatório separado do Goldman Sachs, que estima que 300 milhões de empregos em período integral podem ser expostos à IA generativa globalmente.

A explosão de interesse em IA iniciada por empresas como ChatGPT e DALL-E, um gerador de imagens, também levantou muitas questões sobre a ética e o impacto das novas ferramentas poderosas.

Até mesmo Sam Altman, o CEO do criador do ChatGPT, OpenAI, deu o alarme várias vezes sobre o súbito aumento da IA, afirmando recentemente que o mundo pode não estar “tão longe de ser potencialmente assustador” ferramentas de IA.

Respondendo a esse aviso na época, alguns especialistas em IA disseram à imprensa que, em vez de aplicativos “potencialmente assustadores” estarem chegando, atualmente estamos vivendo em um “presente distópico” graças à proliferação da IA.

Sarah Myers West, diretora administrativa do AI Now Institute, disse que hoje “em muitos sentidos, já é onde estamos”, com sistemas de IA exacerbando “padrões de desigualdade de longa data”, especialmente em áreas como candidaturas a empregos e educação.

A carta aberta, divulgada em 28 de março, contava com 1.123 assinaturas até a publicação deste artigo, incluindo o autor Yuval Noah Harari e o vencedor do prêmio Turing Yoshua Bengio.

Ele afirma que a IA pode estar prestes a mudar profundamente a trajetória da vida na Terra e “deve ser planejada e gerenciada com cuidado e recursos proporcionais” – algo que os autores argumentam que não está acontecendo.

Advertindo que as máquinas podem “inundar nossos canais de informação com propaganda” ou tirar “todos os empregos”, tornando os humanos “obsoletos”, os autores perguntam: “Devemos arriscar perder o controle de nossa civilização?”

Eles então pedem supervisão, para que essas decisões não sejam deixadas nas mãos dos líderes tecnológicos.

Essa supervisão deve incluir protocolos de segurança compartilhados supervisionados por especialistas independentes.

Os desenvolvedores de IA também devem trabalhar com os formuladores de políticas para “acelerar drasticamente o desenvolvimento de sistemas robustos de governança de IA”, acrescentam.

300 milhões de empregos expostos

Enquanto isso, um memorando do banco multinacional de investimentos Goldman Sachs revelou o impacto econômico em larga escala da IA, de acordo com a equipe de pesquisa do banco.

Eles estimam que a IA poderia assumir até um quarto de todo o trabalho atual, o que exporia o equivalente a 300 milhões de empregos em tempo integral à automação.

A boa notícia, de acordo com o memorando, é que “o deslocamento de trabalhadores da automação tem sido historicamente compensado pela criação de novos empregos, e o surgimento de novas ocupações após inovações tecnológicas responde pela grande maioria do crescimento do emprego a longo prazo”.

A economia de custos trabalhistas e maior produtividade para trabalhadores não deslocados podem significar “um boom de produtividade que aumenta substancialmente o crescimento econômico”, acrescentou.

Por exemplo, eles estimam um aumento na produtividade global do trabalho que poderia elevar o PIB global anual em 7%.