X edita chatbot de inteligencia artificial tras advertencias de que propaga desinformación electoral

La plataforma de redes sociales X, antes conocida como Twitter, realizó cambios en su chatbot de inteligencia artificial después de que las secretarías de gobierno de cinco estados de Estados Unidos advirtieron a la compañía que estaba propagando desinformación electoral.

Altos funcionarios electorales de Michigan, Minnesota, Nuevo México, Pensilvania y Washington enviaron una carta este mes a Elon Musk en la que se quejaron de que Grok, el chatbot de inteligencia artificial de la compañía, produjo información falsa sobre los plazos para las boletas estatales poco después de que el presidente Joe Biden se retiró de la contienda.

Las secretarías de gobierno solicitaron que, en su lugar, el chatbot dirija a los usuarios que tengan dudas relacionadas con los comicios hacia la página CanIVote.org, un portal de información electoral gestionado por la Asociación Nacional de Secretarías de Gobierno.

Antes de dar a conocer sus respuestas a preguntas relacionadas con las elecciones, el chatbot ahora indica: “Para información precisa y actualizada sobre las elecciones de Estados Unidos 2024 por favor visite Vote.gov”.

También te puede interesar: Decisión 2024

Las dos páginas web “son recursos confiables que pueden conectar a los votantes con sus funcionarios electorales locales”, indicaron las cinco secretarías de gobierno estatales en un comunicado conjunto.

“Agradecemos las acciones de X para mejorar su plataforma y esperamos que sigan haciendo mejoras que garantizarán que sus usuarios tengan acceso a información precisa de fuentes confiables en este crucial año electoral”, declararon.

Grok sólo está disponible para los suscriptores a las versiones premium de X. Pero las cinco secretarías de gobierno que firmaron la misiva señalaron que la desinformación electoral de Grok se ha compartido en distintas plataformas de redes sociales, llegando a millones de personas. Grok siguió repitiendo información falsa durante 10 días hasta que se llevó a cabo la corrección, explicaron las secretarías. X no respondió a una solicitud de comentarios.

El cambio para promover un enlace hacia un portal electoral oficial no parece abordar la capacidad de Grok para crear imágenes engañosas mediante inteligencia artificial relacionadas con los comicios. Hay personas que han estado utilizando la herramienta para inundar la plataforma con imágenes falsas de candidatos, incluidos el expresidente Donald Trump y la vicepresidenta Kamala Harris.

Grok fue presentado el año pasado para los suscriptores premium y premium plus de X, y Musk lo promovió como un chatbot “rebelde” de IA que responderá a “preguntas espinosas que la mayoría de los demás sistemas de IA rechazan”.

Las plataformas de redes sociales han estado cada vez más bajo el microscopio debido a su papel en la difusión de desinformación, incluidos temas electorales. La carta también advirtió que es previsible que haya imprecisiones en los productos de inteligencia artificial, en particular de chatbots como Grok que están basados en modelos de lenguaje de gran tamaño.

Desde que Musk adquirió Twitter en 2022 y le cambió el nombre a X, grupos de supervisión han expresado sus preocupaciones en torno al aumento de discursos de odio y difusión de desinformación en la plataforma, así como por el recorte de personal encargado de moderar el contenido.

Según los expertos, estas medidas representan una regresión respecto al progreso que tuvieron las plataformas de redes sociales que trataban de encontrar una mejor forma de combatir la desinformación política después de la contienda presidencial de 2016, y podría precipitar un deterioro en el panorama de desinformación de cara a los comicios del próximo mes de noviembre.