Chefe da Microsoft revela qual o maior perigo em relação à IA

O presidente da Microsoft, Brad Smith, pediu medidas para garantir que as pessoas saibam quando uma foto ou vídeo é real e quando é gerado por IA.

Na última quinta-feira, o presidente da Microsoft, Brad Smith, revelou sua maior preocupação em relação à inteligência artificial (IA). Durante um discurso em Washington, Smith destacou os riscos dos Deep Fakes. Ele enfatizou a importância de garantir que as pessoas possam distinguir entre uma foto ou vídeo real e aqueles gerados pela IA.

“Teremos que abordar as questões em torno de deep fakes. Teremos que abordar, em particular, o que nos preocupa sobre a maioria das operações de influência cibernética estrangeira. Principalmente os tipos de atividades que já estão ocorrendo pelos governos russo, chinês e iranianos”, alertou Smith.

O presidente da Microsoft defendeu a implementação de medidas para proteger o conteúdo legítimo contra alterações. O objetivo de enganar ou fraudar as pessoas, por meio do uso da IA é combatido com essas ações.

Além disso, Smith também destacou a necessidade de licenciamento para as formas mais críticas de IA. Empresas terão obrigações relacionadas à segurança física, cibersegurança e segurança nacional. Outro destaque foi a importância de controles de exportação atualizados para evitar o roubo ou uso indevido desses modelos, violando as exigências de controle de exportação de cada país.

Enquanto legisladores em Washington debatem há semanas sobre leis para controlar a IA, empresas grandes e pequenas estão correndo para trazer ao mercado soluções de IA cada vez mais versáteis.

Debate nos EUA sobre perigo da IA

Na semana passada, Sam Altman, CEO da OpenAI, empresa que desenvolveu o ChatGPT, também compareceu perante o Congresso dos EUA em um painel do Senado. Ele alertou para o risco do uso da IA interferir na integridade das eleições. Altman enfatizou a necessidade de regulamentação e cooperação global pois isso garante a conformidade com a segurança.

Em seu discurso e em uma postagem de blog publicada posteriormente, Smith argumentou que as pessoas são responsáveis por quaisquer problemas causados pela IA. Ele pediu aos legisladores que garantam a implementação de salvaguardas. Em suma, humanos devem permanecer no controle da IA utilizada para gerir redes elétricas, abastecimento de água e outras infraestruturas essenciais.

Smith propôs a adoção de um sistema semelhante ao “Conheça seu cliente” para desenvolvedores de modelos de IA poderosos. Esse mecanismo mantém o controle sobre o uso de sua tecnologia pois informa o público sobre o tipo de conteúdo gerado pela IA. No fim, essa medida permite a identificação de vídeos falsificados.

No Capitólio, estão sendo consideradas propostas que se concentram em regular a IA em áreas que possam colocar em risco a vida ou o sustento das pessoas, como medicina e finanças.