Em janeiro deste ano, a OpenAI revelou políticas renovadas destinadas a impedir que as suas ferramentas sejam utilizadas para espalhar desinformação antes das eleições de 2024, na tentativa de impedir que as pessoas construam chatbots “para campanhas políticas e lobbying”, especialmente quando se trata de direcionamento a comunidades latinas nos EUA.

No entanto, um estudo intitulado “Des(gerando) democracia? Um olhar sobre a manipulação de ferramentas de IA para atingir comunidades latinas on-line” (na tradução livre para o português), realizado pela “Digital Democracy Institute of the Americas” e publicado em abril, revela que mesmo com políticas estabelecidas pela OpenAI, os usuários com conhecimento mínimo podem contornar as restrições para direcionar conteúdo político específico aos eleitores latinos. Os experimentos realizados mostraram que tanto o “ChatGPT” quanto o gerador de imagens “DALL-E”, podem ser utilizados para esse fim, apesar das políticas destinadas a evitar tal uso indevido.

Além disso, o estudo destaca que as políticas de conteúdo da OpenAI, embora avançadas em comparação com outras empresas de IA, ainda têm lacunas que permitem a manipulação e o direcionamento de conteúdo político para comunidades minoritárias e marginalizadas nos EUA.

Nesse sentido, a pesquisa percebe a necessidade de as empresas de tecnologia, como a OpenAI, fazerem mais para garantir a aplicação equitativa de suas políticas em todas as comunidades que utilizam suas ferramentas. Isso é especialmente relevante considerando o rápido crescimento e popularidade do ChatGPT da OpenAI, que tem um grande número de usuários e pode potencialmente ser explorado para diversos fins políticos.

A declaração da porta-voz da OpenAI destaca um desacordo entre as descobertas do relatório e a compreensão da empresa sobre suas próprias políticas e ferramentas. Enquanto a OpenAI afirma permitir o uso de seus produtos para defesa política, o estudo indica que as ferramentas da empresa ainda oferecem orientações que podem ser exploradas para criar conteúdo político direcionado.

Nesse contexto que antecede as disputas eleitorais, são visíveis a complexidade e os desafios enfrentados na regulamentação e aplicação de políticas para evitar o uso indevido de ferramentas de IA em campanhas políticas e na propagação de desinformação, especialmente quando se trata de direcionar comunidades específicas, como os eleitores latinos nos EUA.