¿Generan las IAs información falsa?
Sí, las IAs pueden generar información falsa. En efecto, la información falsa entregada por modelos de IA es un problema cada vez más común en la actualidad. A medida que la inteligencia artificial se vuelve más avanzada, también lo hacen las técnicas utilizadas para crear noticias falsas y engañar a los usuarios.
A continuación, se pueden apreciar algunas de las formas en que los modelos de IA pueden ser utilizados para crear y difundir información falsa:
-
Generación de texto: los modelos de IA pueden ser entrenados para generar texto automáticamente, imitando el estilo de escritura de un autor específico o para crear contenido que parezca auténtico.
Por ejemplo, le solicitamos a la IA que elabore un chiste escrito por Pablo Neruda:
-
Manipulación de imágenes y videos: los modelos de IA también pueden ser utilizados para manipular imágenes y videos, lo que significa que pueden ser utilizados para crear deepfakes y otros tipos de contenido engañoso.
¿Qué es deepfake?
Deepfake es un video falso creado mediante la superposición de la cara de una persona sobre el cuerpo de otra, utilizando técnicas de inteligencia artificial y aprendizaje profundo.Por ejemplo, los artistas Bill Posters y Daniel Howe, con la ayuda de compañías de inteligencia artificial, crearon un video falso sobre Mark Zuckerberg, fundador de Facebook.
-
En la grabación se puede ver a Mark jactándose del dominio que ejerce a nivel mundial. Se trata de un video alterado que circuló en las redes el año 2019.
-
Difusión de información falsa: los modelos de IA también pueden ser utilizados para difundir información falsa en línea. Por ejemplo, pueden ser utilizados para crear cuentas falsas en las redes sociales o para difundir información falsa a través de bots. Por ejemplo, tenemos el uso de bots en Twitter (ahora “X”) para difundir información y generar una falsa imagen de opinión pública.
¿Qué es un bot?
Los bots son programas informáticos que pueden realizar tareas automáticamente, sin la necesidad de intervención humana. Es importante tener en cuenta que los bots no siempre son malintencionados y que pueden ser utilizados para realizar tareas útiles, como la atención al cliente y la automatización de procesos empresariales. Sin embargo, es importante ser conscientes de los riesgos asociados al uso de bots.Por ejemplo, en algunas campañas políticas en todo el mundo, incluyendo nuestro país, se han utilizado bots de manera significativa como parte de estrategias de comunicación y propaganda. Otro ejemplo de su uso lo encontramos en el caso de la noticia falsa que se difundió a través de las redes sociales y que fue generada por bots sobre la muerte del actor Sylvester Stallone en 2016. La noticia se difundió rápidamente en las redes sociales, y muchos fans del actor expresaron su tristeza y condolencias. No obstante, la noticia resultó ser falsa y fue creada por un grupo de individuos que querían generar tráfico en su sitio web.
Detente y piensaEs importante, entonces, tener en cuenta que los usuarios deben tomar medidas para verificar la veracidad de la información generadas por las IAs, como verificar las fuentes y buscar información adicional en otros sitios web.
