En China, un hombre fue detenido por la policía en Guansu el pasado domingo, por haber utilizado ChatGPT para crear noticias falsas y difundirlas en varias cuentas.
El sospechoso fue identificado únicamente con el apellido, Hong. «Se aprovechó de métodos tecnológicos modernos para fabricar información falsa y luego la difundió en redes sociales», reza un comunicado que recoge SCMP.
Se conoció que Hong utilizó ChatGPT para escribir y publicar noticias falsas sobre un supuesto accidente de tren. El texto se publicó simultáneamente por más de 20 cuentas en la plataforma en línea china Baijiahao. Sostenía que nueve personas habían muerto en el accidente.
Cuando la policía detectó la noticia falsa, las publicaciones ya habían acumulado más de 15.000 visualizaciones.
Según las autoridades, el propio detenido ha explicado que quería obtener dinero gracias a expandir estos textos falsos creados con ChatGPT.
El «modus operandi» de Hong consistía en introducir en ChatGPT elementos de las historias más populares en las redes sociales chinas de los últimos años. Generaba diferentes versiones de la misma noticia falsa y las colgaba en varias cuentas de Baijiahao.
En enero de este año, las regulaciones chinas que entraron en vigor exigen que los videos y fotos realizados con tecnología de síntesis profunda estén claramente etiquetados para evitar la confusión pública. Por lo que esta es la primera vez que China anuncia una detención tras esta normativa, que busca hacer un uso responsable de la Inteligencia Artificial.
Tras esta detención, Hong se enfrenta una pena máxima de cinco años. Sin embargo, si esta falta se considera grave, la pena podría elevarse a 10 años de encarcelamiento.
