En enero de este año, OpenAI dio a conocer políticas renovadas destinadas a evitar que sus herramientas se utilicen para difundir desinformación frente a las elecciones de 2024 en un intento de impedir que la gente cree chatbots “para campañas políticas y lobbying”, especialmente cuando se trata de apuntar a comunidades latinas en Estados Unidos.

Sin embargo, un estudio titulado “¿De(generar) la democracia? Una mirada a la manipulación de herramientas de IA para llegar a las comunidades latinas en línea” (en traducción libre), realizado por “Digital Democracy Institute of the Americas” y publicado en abril, revela que incluso con políticas establecidas por OpenAI, los usuarios con conocimientos mínimos pueden eludir las restricciones para dirigir contenido político específico a los votantes latinos. Los experimentos realizados demostraron que tanto “ChatGPT” como el generador de imágenes “DALL-E” pueden usarse para este propósito, a pesar de las políticas diseñadas para evitar dicho mal uso.

Además, el estudio destaca que las políticas de contenido de OpenAI, si bien son avanzadas en comparación con otras empresas de IA, todavía tienen lagunas que permiten la manipulación y la orientación del contenido político hacia comunidades minoritarias y marginadas en los EE. UU.

En este sentido, la investigación ve la necesidad de que las empresas de tecnología, como OpenAI, hagan más para garantizar la aplicación equitativa de sus políticas en todas las comunidades que utilizan sus herramientas. Esto es especialmente relevante considerando el rápido crecimiento y la popularidad del ChatGPT de OpenAI, que tiene una gran cantidad de usuarios y puede potencialmente explotarse para diversos fines políticos.

La declaración del portavoz de OpenAI destaca un desacuerdo entre los hallazgos del informe y la comprensión de la empresa de sus propias políticas y herramientas. Si bien OpenAI afirma permitir el uso de sus productos para la promoción política, el estudio indica que las herramientas de la empresa aún ofrecen orientación que puede explotarse para crear contenido político específico.

En este contexto que precede a las disputas electorales, la complejidad y los desafíos que se enfrentan en la regulación y aplicación de políticas para prevenir el uso indebido de herramientas de IA en campañas políticas y la difusión de desinformación son visibles, especialmente cuando se trata de apuntar a comunidades específicas, como los votantes latinos en EE.UU.