En una medida que refuerza los límites de las campañas políticas en el uso de la inteligencia artificial (IA), OpenAI, la empresa creadora de ChatGPT, eliminó un bot que imitaba la voz de un candidato a la presidencia en Estados Unidos.
Un grupo político que respalda al congresista estadounidense Dean Phillips encargó a una empresa en Miami la creación de un bot conversacional.
Este permitiría a los usuarios interactuar con el candidato a través de un formato pregunta-respuesta.
“Recientemente eliminamos la cuenta de un desarrollador que estaba violando conscientemente la política de uso de nuestra API (o plataforma), la cual no permite realizar campañas políticas o imitar a un individuo sin su consentimiento”, indicó la compañía al diario The Washington Post.
OpenAI banned the developer of a bot mimicking long shot Democratic presidential hopeful Rep. Dean Phillips — the first action that the maker of ChatGPT has taken in response to what it sees as a misuse of its AI tools in a political campaign. https://t.co/y99oideKTU
— The Washington Post (@washingtonpost) January 21, 2024
TE PODRÍA INTERSAR: Colombia y Ecuador incautan dos narcosubmarinos
OpenAI, bajo escrutinio
El auge de la IA generativa ha despertado temores de que las personas puedan utilizar ChatGPT y otras plataformas para provocar caos político.
El riesgo es la desinformación o clones creados con la nueva tecnología, especialmente en el importante calendario electoral de este año en el mundo.
Como líder en ese campo, OpenAI está bajo especial escrutinio respecto a estas preocupaciones.
La compañía anunció la semana pasada que ofrecerá herramientas a los usuarios para disminuir la posibilidad de daño proveniente de su tecnología.
El Dean-bot se creó como una herramienta de información sobre el candidato en las primarias del Partido Demócrata, que compite contra el presidente Joe Biden.
La herramienta está basada en la tecnología de OpenAI y fue eliminada después de que The Washington Post la destacara en un artículo.
We Deserve Better, el grupo político detrás del bot, es codirigido por un exmiembro del equipo de Sam Altman y está financiado por inversionistas del Silicon Valley.
“Nos hemos disculpado tanto con OpenAI como con We Deserve Better por nuestro error”, dijo Delphi, la startup encargada de desarrollar el bot que fue eliminada de la plataforma.