Los científicos advierten: los sistemas de inteligencia artificial pueden colapsar y convertirse en una tontería
En los próximos años, el "Colapso del modelo" podría hacer que ChatGPT y otras tecnologias de inteligencia artificial pierdan su utilidad.
Para muchos, el uso de la inteligencia artificial es la herramienta ideal para crear textos, imágenes e incluso sonido de forma rápida y a gran escala. Sin embargo, es posible que el contenido creado con inteligencia artificial se "consuma a sí mismo", ya que Internet estará repleto de productos hechos con estos mismos métodos.
Muchas empresas que producen modelos de inteligencia artificial utilizan texto extraído de Internet para entrenarlos. Esto puede llevar a un bucle en el que los sistemas de IA utilizados para crear ese texto sean entrenados por éste.
Tarde o temprano las herramientas de inteligencia artificial pueden convertirse en una colección sin sentido de signos e imágenes, argumentan los investigadores en un nuevo artículo publicado en la revista Nature. Esta suposición respalda indirectamente la llamada "teoría del Internet muerto", que sugiere que Internet se está automatizando cada vez más, lo que puede convertirse en un círculo vicioso, volviéndolo limitado e irrelevante. Como resultado, la confianza de la gente en las herramientas de IA puede debilitarse. Los usuarios se volverán más escépticos sobre el tipo de información que encuentran en línea.
Según el artículo, bastan unos pocos ciclos de generación de contenidos y formación para que los sistemas produzcan resultados absurdos y repetitivos. En algunos casos, se estima que sólo se necesitan nueve generaciones para lograr resultados repetibles e inconsistentes.
Los autores del estudio advierten que el problema "debe tomarse en serio si queremos mantener los beneficios de aprender de grandes cantidades de datos extraídos de la web".
El problema se puede abordar con varias soluciones posibles, como marcar los resultados con marcas de agua para que los sistemas automatizados puedan detectarlos y filtrarlos de los conjuntos de entrenamiento como contenido generado por la IA. Además, existe una clara necesidad de que los creadores de contenidos sigan añadiendo nuevos datos verificados a las bibliotecas de las que aprende la IA. Se pronostica que en tan sólo un par de años la IA utilice todo el texto disponible en Internet, incluidas las obras literarias.