Meta, Google e OpenAI firmam acordo para desenvolvimento responsável da IA

Meta e Google estão entre um grupo de sete grandes empresas de tecnologia que se comprometeram a desenvolver inteligência artificial de forma responsável em meio ao crescente escrutínio de seus riscos potenciais para a sociedade.

As empresas – Amazon, Anthropic, Google, Inflection, Meta, Microsoft e OpenAI – revelaram um conjunto de compromissos voluntários em uma reunião com o presidente Biden na sexta-feira.

As promessas surgiram quando as empresas estão travadas em uma competição acirrada para dominar o campo da IA, mesmo quando especialistas, incluindo Elon Musk e o próprio CEO da OpenAI, Sam Altman, alertam que o desenvolvimento descontrolado pode representar riscos que vão desde a perda de empregos até a disseminação de desinformação e a possível extinção da humanidade .

“Esses compromissos, que as empresas escolheram assumir imediatamente, destacam três princípios que devem ser fundamentais para o futuro da IA ​​– segurança, proteção e confiança – e marcam um passo crítico para o desenvolvimento de uma IA responsável”, disse a Casa Branca em um informativo sobre as negociações.

Acordo

O amplo acordo inclui pactos para realizar testes extensivos para garantir que os produtos de IA sejam seguros antes de liberá-los ao público, implementando verificações de segurança cibernética, a introdução de um “sistema de marca d’água” para identificar o conteúdo gerado por IA e a realização de mais pesquisas sobre fatores de risco potenciais, como privacidade do usuário e viés prejudicial em sistemas de IA.

Os compromissos surgem em meio a um crescente escrutínio federal sobre a tecnologia de IA, após o aumento da popularidade do ChatGPT nos últimos meses.

No entanto, como os legisladores ainda não implementaram nenhuma legislação formal sobre o assunto, as empresas não enfrentarão nenhuma consequência por violações, pois competem para dominar o campo florescente.

“Vamos responsabilizá-los por sua execução”, disse o chefe de gabinete da Casa Branca, Jeff Zients, ao Wall Street Journal . “As empresas podem e precisarão fazer mais do que estão fazendo agora e o governo federal também.”

Como relatou o The Post, o aumento do conteúdo gerado por IA pode ser um grande problema antes da eleição presidencial de 2024, com especialistas alertando que as plataformas de tecnologia estão mal equipadas para lidar com o influxo.

Riscos da IA

Em maio, Altman e o “Padrinho da IA” Geoffrey Hinton estavam entre um grupo de líderes de IA que assinaram uma declaração que dizia: “mitigar o risco de extinção da IA ​​deve ser uma prioridade global ao lado de outros riscos em escala social, como pandemias e guerra nuclear”.

Altman também testemunhou no Capitólio que a indústria de IA se beneficiaria com a regulamentação do governo – e admitiu que seu maior medo era que a tecnologia avançada de IA pudesse “causar danos significativos ao mundo” sem as proteções adequadas.

Os críticos, por sua vez, argumentam que Altman e outros pessimistas da IA ​​são incentivados a pressionar pela regulamentação porque isso aumentaria a barreira de entrada para rivais em potencial e tornaria mais difícil para eles competir com líderes do setor com muito dinheiro.