(ADÁN NEMEROFF. THE CONVERSATION)
Probablemente hayas visto imágenes en tus redes sociales que parecen una mezcla de fotografía y gráficos generados por computadora. Algunas son fantásticas, como el Camarón Jesús, y otras parecen creíbles a simple vista, como la niña que abrazaba a un cachorro en un bote durante una inundación.
Estos son ejemplos de contenido basura de IA: material de calidad baja a media (video, imágenes, audio, texto o una combinación de ambos) creado con herramientas de IA, a menudo con poca consideración por la precisión. Crear este tipo de contenido es rápido, fácil y económico.
Quienes producen esta basura de IA suelen publicarla en redes sociales para explotar la economía de la atención en internet, desplazando material de mayor calidad que podría ser más útil.
La desorganización de la IA aumentó en los últimos años. Como su propio nombre indica, esto generalmente no es bueno para quienes usan internet.
Las múltiples formas de la basura de IA
The Guardian publicó un análisis en julio de 2025 que examina cómo la basura generada por IA se está apoderando de los canales de YouTube con mayor crecimiento. Los periodistas descubrieron que nueve de los 100 canales con mayor aumento de suscriptores presentan contenido generado por IA, como fútbol zombi y telenovelas sobre gatos.
¿Escuchas Spotify? Desconfía de esa nueva banda, The Velvet Sundown, que apareció en el servicio de streaming con una historia creativa y canciones derivadas generadas por IA.
En muchos casos, las personas envían contenido de IA lo suficientemente bueno como para atraer y mantener la atención de los usuarios, lo que permite al remitente beneficiarse de las plataformas que monetizan la transmisión y el contenido basado en las visualizaciones.
La facilidad para generar contenido con IA también permite enviar artículos de baja calidad a las publicaciones. Clarkesworld, una revista de ciencia ficción en línea que acepta envíos de usuarios y paga a sus colaboradores, dejó de aceptar nuevos envíos en 2024 debido a la avalancha de textos generados por IA que recibía.
Estos no son los únicos lugares donde esto ocurre. Incluso Wikipedia se enfrenta a contenido de baja calidad generado por IA, lo que sobrecarga todo el sistema de moderación de su comunidad. Si la organización no logra eliminarlo, una fuente de información clave de la que dependen muchas personas estará en riesgo.
Otros daños de la IA
La basura generada por IA también se está infiltrando en la dieta mediática de los usuarios. Durante el huracán Helene, los opositores del presidente Joe Biden citaron imágenes generadas por IA de un niño desplazado con un cachorro en brazos como prueba de la supuesta mala gestión de la administración en la respuesta al desastre. Incluso cuando es evidente que el contenido está generado por IA, puede utilizarse para difundir desinformación y engañar a quienes lo ven rápidamente.
La basura de IA también perjudica a los artistas, ya que provoca pérdidas laborales y financieras y desplaza el contenido creado por verdaderos creadores. La ubicación de este contenido de baja calidad generado por IA a menudo no es reconocida por los algoritmos que impulsan el consumo en redes sociales, desplazando a clases enteras de creadores que antes se ganaban la vida con contenido en línea.
Cuando esté habilitado, puedes marcar contenido dañino o problemático. En algunas plataformas, puedes añadir notas de la comunidad al contenido para contextualizarlo. Si el contenido es dañino, puedes intentar denunciarlo.
Además de obligarnos a estar alerta ante los deepfakes y las cuentas “no auténticas” en redes sociales, la IA está generando montones de basura que degradan nuestro entorno mediático. Al menos tiene un nombre atractivo.
*Adam Nemeroff es Subdirector de Innovaciones en Aprendizaje, Enseñanza y Tecnología, Universidad de Quinnipiac.
