Criminales usan ChatGPT para engañar a usuarios de X

Investigadores de la Universidad de Indiana Bloomington (EE UU) descubrieron en mayo de este año una red de bots impulsada por ChatGPT que operaba en X, la red social antes conocida como Twitter.

La red de bots, que los investigadores denominan “Fox8” por su conexión con sitios web de criptomonedas que llevan alguna variación del mismo nombre, estaba formada por 1,140 cuentas.

Varias de ellas parecían utilizar ChatGPT para crear publicaciones en las redes sociales y responder a las de los demás.

El contenido autogenerado estaba, en apariencia, diseñado para atraer a personas desprevenidas y que hicieran clic en los enlaces a los sitios de promoción de estos activos digitales.

Red de bots

Micah Musser, un investigador que ha estudiado el potencial de la desinformación impulsada por la inteligencia artificial (IA), afirma que la red de bots Fox8 puede ser solo la punta del iceberg. Eso, dado lo populares que se han hecho los grandes modelos de lenguaje y los chatbots.

Los investigadores descubrieron la red de bots buscando en la plataforma la frase reveladora “Como modelo de lenguaje de IA…”. Una respuesta que el chatbot utiliza con frecuencia para consultas sobre temas delicados. Después analizaron manualmente las cuentas para identificar las que parecían estar operadas por bots.

“La única razón por la que nos dimos cuenta de esta red de bots en concreto es que fueron descuidados”, señala Filippo Menczer, profesor de la Universidad de Indiana Bloomington.

Él llevó a cabo la investigación con Kai-Cheng Yang, un estudiante que se incorporará a la Universidad Northeastern como investigador postdoctoral para el próximo curso académico.