Riscos da IA: Especialistas alertam sobre ‘risco de extinção da humanidade’

Na terça-feira, os principais executivos de inteligência artificial, incluindo Sam Altman, CEO da OpenAI, juntaram-se a especialistas e professores para alertar sobre o “risco de extinção da IA”. Eles pediram aos formuladores de políticas que considerassem esse risco equiparável aos perigos representados por pandemias e guerra nuclear.

Mais de 350 signatários, incluindo Altman, CEOs de empresas de IA como DeepMind e Anthropic, bem como executivos da Microsoft e do Google, assinaram uma carta publicada pelo Center for AI Safety (CAIS), uma organização sem fins lucrativos. Eles enfatizaram a necessidade de mitigar o risco de extinção da IA como uma prioridade global, ao lado de outros riscos sociais, como pandemias e guerra nuclear.

Entre os signatários estavam também Geoffrey Hinton e Yoshua Bengio. Eles são conhecidos como os “padrinhos da IA”. A dupla recebeu o Prêmio Turing 2018 por seu trabalho em aprendizado profundo. Professores de instituições renomadas, desde Harvard até a Universidade Tsinghua, na China, também assinaram a carta.

No entanto, a carta não contou com a assinatura de Yann LeCun, terceiro “padrinho da IA”, que trabalha na Meta.

A publicação da carta coincidiu com a reunião do Conselho de Comércio e Tecnologia EUA-UE na Suécia, onde os políticos discutiram a regulamentação da IA.

Em abril, Elon Musk e um grupo de especialistas em IA e executivos do setor foram os primeiros a mencionar os potenciais riscos para a sociedade.

Riscos da IA

Os desenvolvimentos recentes em IA levaram à criação de ferramentas que podem ser utilizadas em várias aplicações. De diagnósticos médicos até redação de resumos jurídicos. No entanto, esses avanços também geraram preocupações de que a tecnologia possa resultar em violações de privacidade. Também pode alimentar campanhas de desinformação e levar a problemas relacionados ao comportamento de “máquinas inteligentes”.

Geoffrey Hinton, pioneiro em IA, afirmou anteriormente à Reuters que a IA poderia representar uma ameaça “mais urgente” para a humanidade do que as mudanças climáticas.

Na semana passada, Sam Altman, CEO da OpenAI, referiu-se aos esforços da UE para regulamentar a IA como excesso de regulamentação e ameaçou retirar sua empresa da Europa. No entanto, ele reverteu sua posição alguns dias depois, após receber críticas de políticos.

A presidente da Comissão Europeia, Ursula von der Leyen, terá uma reunião com Sam Altman na quinta-feira.