Um novo estudo publicado na revista Science Advances revelou que o uso de inteligência artificial (IA) como ferramenta de escrita pode influenciar a opinião de autores sobre temas políticos e sociais, alterando suas crenças e contribuindo para vieses sem que os usuários se deem conta.
A pesquisa, liderada por Sterling Williams-Ceci da Universidade Cornell e Maurice Jakesch, ligado à Cornell e à Universidade Bauhaus, analisou o impacto da IA no modo como as pessoas pensam. Os pesquisadores recrutaram 2.582 participantes por meio da plataforma Prolific e os dividiram em dois grupos: um que utilizou IA como assistente de escrita e outro que não.
Os pesquisadores configuraram o ChatGPT com sugestões propositalmente tendenciosas. Descobriu-se que a IA tendia a seguir a direção indicada pelos pesquisadores, mesmo que o texto inicial do participante fosse em sentido contrário. Em geral, as visões de mundo dos participantes que recebiam sugestões de IA apresentavam maior proximidade com a posição da ferramenta em comparação com aqueles que escreviam sem auxílio.
Em um dos experimentos, que abordou o uso de testes padronizados na educação, as sugestões da IA eram a favor desses testes. O resultado foi que a maioria dos participantes aceitou as sugestões, com apenas 30,8% rejeitando-as.
Em outro teste, os participantes foram questionados sobre a ilegalidade da pena de morte (a IA era contra), o direito de voto de criminosos condenados (IA contra), o plantio de transgênicos (IA a favor) e a continuidade de práticas de “fracking” nos EUA (IA a favor). Novamente, a maioria dos participantes aceitou as sugestões da IA, com apenas 35,3% recusando.
O estudo coletou informações sobre a posição dos participantes antes e depois da escrita assistida por IA. A análise apontou uma alteração nas opiniões dos usuários auxiliados pela IA, movendo-as para algo mais próximo das propostas da ferramenta. A maioria considerou as sugestões razoáveis e equilibradas, sem notar o viés, e afirmou que a IA não havia influenciado sua opinião, apesar das evidências em contrário.
“As pessoas atribuem poderes de acesso à ‘verdade’ às ferramentas, esquecendo que estas ferramentas são extratoras de padrões humanos e que seu comportamento depende dos dados que foram usados para treinamento.”
Renato Vicente, diretor do TELUS Digital Research Hub da USP, que não participou da pesquisa, destacou a originalidade do trabalho, que conseguiu controlar o efeito de influência estudado. Segundo Vicente, o resultado aponta para um “viés cognitivo de oráculo”, onde as pessoas acreditam que a IA acessa a “verdade”.
Os autores do estudo veem um potencial positivo na capacidade da IA de encorajar indivíduos polarizados a considerar outros pontos de vista. Contudo, alertam para o perigo de manipulação e ameaça à liberdade de pensamento quando sugestões tendenciosas influenciam atitudes.
Vicente também alerta para o risco de desestabilização democrática e consolidação de regimes autoritários, especialmente quando a IA é combinada com algoritmos de recomendação e hiperpersonalização.
O estudo observou que a influência da IA pode ser menor em pessoas com convicções muito fortes sobre temas ligados à identidade ou moral. No entanto, mesmo participantes com posições inicialmente extremas apresentaram mudanças significativas.
“Nosso estudo mostra o risco alarmante associado a esse uso da IA e sugere que mais trabalhos são necessários para investigar o potencial e o impacto desse vetor de influência e para desenvolver intervenções que possam mitigar com sucesso a influência de sugestões de IA enviesadas”, concluem os autores.
Vicente ressalta que ainda não é possível determinar se o efeito é de longo prazo, mas que a influência de curto prazo é evidente. Ele sugere a expansão da pesquisa para outras demografias populacionais.
