Uma pesquisa publicada em março na revista Science Advances indica que ferramentas de inteligência artificial capazes de sugerir trechos de texto podem alterar a opinião de quem escreve sem que o usuário perceba a mudança.
O trabalho foi conduzido por Sterling Williams-Ceci, da Universidade Cornell (Estados Unidos), e Maurice Jakesch, vinculado à Cornell e à Universidade Bauhaus (Alemanha). No total, 2.582 voluntários recrutados pela plataforma Prolific participaram dos testes.
Os pesquisadores dividiram os participantes em dois grupos: um recebeu auxílio do ChatGPT configurado para apresentar sugestões deliberadamente tendenciosas; o outro escreveu sem qualquer intervenção de IA. Prompts criados pelos cientistas fizeram o modelo apoiar posições específicas mesmo quando o texto original do usuário apontava na direção oposta.
Resultados dos experimentos
No primeiro experimento, os voluntários redigiram textos sobre o uso de exames padronizados na educação. Entre os que receberam ajuda da IA — programada para defender essas provas — apenas 30,8% rejeitaram as sugestões apresentadas.
Outro teste abordou quatro temas: pena de morte (IA contrária), direito de voto a condenados (IA contrária), cultivo de organismos geneticamente modificados (IA favorável) e fracking para extração de gás natural (IA favorável). Nessa etapa, 35,3% recusaram as propostas da ferramenta, enquanto a maioria as incorporou.
Opiniões medidas antes e depois
No segundo experimento, os autores coletaram a posição inicial dos participantes sobre cada tema e repetiram a pergunta após a redação assistida. O grupo exposto à IA aproximou suas respostas das sugestões do modelo, embora grande parte dos voluntários declarasse não ter sido influenciada e considerasse o texto “razoável e equilibrado”. No grupo controle, sem IA, não houve variação significativa.
Imagem: Internet
Possíveis impactos
Para Renato Vicente, diretor do TELUS Digital Research Hub da USP, que não participou do estudo, o resultado revela um “viés cognitivo de oráculo”, no qual os usuários atribuem às máquinas acesso privilegiado à verdade. Ele alerta para o risco de desestabilização de democracias quando algoritmos tendenciosos se combinam a sistemas de recomendação e hiperpersonalização.
Os autores destacam que o efeito persiste mesmo quando o usuário é avisado sobre possíveis vieses e que a influência abrange inclusive participantes com posições inicialmente extremas. Eles sugerem novas investigações para compreender o alcance de longo prazo e desenvolver estratégias de mitigação.
Vicente acrescenta que ainda não se sabe se a mudança de opinião é duradoura, recomendando estudos com outras faixas demográficas.
Com informações de Folha de S.Paulo
