Você pode até achar que não, mas o ChatGPT pode te manipular

Em seu dia a dia, você se considera uma pessoa que é impactada pelo posicionamento de outras pessoas, sendo facilmente manipulável? Se você respondeu que não, saiba que o ChatGPT provavelmente é capaz de fazê-lo mudar de ideia.

Prova disso é que um estudo desenvolvido a partir do uso do GPT-4 aponta que a ferramenta é muito eficaz na hora de persuadir as pessoas a mudarem de opinião a partir de uma série de dados apresentados pela inteligência artificial. Como as pessoas não possuem essa mesma habilidade, elas podem se tornar mais suscetíveis a manipulações.

Para chegar a essa conclusão, pesquisadores suíços entrevistaram 820 pessoas sobre assuntos variados, indo de temas amenos a questões mais polêmicas, como aborto ou cota racial em universidades.

Durante a pesquisa, foram registradas todas as opiniões dos entrevistados, que se basearam em um texto sobre os temas para debater contra outros humanos e, em seguida, contra o ChatGPT, no modelo de linguagem GPT-4.

Resultados

Quando todo esse processo de debates chegou ao fim, os participantes foram novamente entrevistados para observar se houve mudanças de opiniões. A pesquisa apontou que, quando os humanos debatiam entre si, não havia alteração na opinião. No entanto, ao conversar com a inteligência artificial, 21% dos participantes mudaram de ideia. O número ainda foi considerado baixo pelos pesquisadores.

Em uma segunda etapa da pesquisa, o ChatGPT passou a ter acesso a dados sobre os participantes. À ferramenta de inteligência artificial, foram fornecidos dados como sexo, idade, raça, educação e orientação política das pessoas com quem debateria. Além disso, a máquina também recebeu instrução explícita de como usar esses dados para argumentar durante o debate.

Diante deste novo cenário, o resultado foi surpreendente: se, por um lado, os humanos se saíam pior ao ter um compilado de informações nas mãos sobre os seus oponentes, por outro, o ChatGPT conseguiu articular a ponto de 81,7% dos participantes mudarem de opinião sobre determinado tema.

Manipulação e tecnologia

Não se pode negar que o ChatGPT tem a habilidade de articular dados em grande escala para sustentar uma conversa com humanos. Isso porque, durante o processo, a máquina é capaz de refinar suas técnicas de autoaprendizado.

O que não se deve esquecer é que a Inteligência Artificial já está presente em praticamente todos os ambientes online, como redes sociais.

Também há informações das mais diversas sobre as pessoas. Ou seja, se a tecnologia é capaz de convencer um ser humano a mudar de ideia tendo acesso a informações básicas, como sexo, gênero e raça, o potencial é alarmante quando consideramos os ambientes virtuais existentes.