Cómo la Inteligencia Artificial de TikTok y YouTube incrementan la estupidez

La inteligencia artificial (IA) ha cambiado la forma en que consumimos contenidos en línea, llevándonos a un mundo de recomendaciones personalizadas que, paradójicamente, podrían estar reduciendo nuestra capacidad crítica y nuestra exposición a ideas novedosas.

Para comprender el impacto de esta tecnología en nuestra inteligencia colectiva, es importante entender qué es la inteligencia artificial estrecha, cómo funciona y por qué su diseño nos puede llevar a encerrarnos en burbujas de contenido.

Inteligencia Artificial: Estrecha, Amplia y General

Antes de analizar el impacto de las recomendaciones, vale la pena conocer las diferentes categorías de IA. 

La inteligencia artificial se clasifica principalmente en tres niveles:

1. IA Estrecha (IA Débil): Diseñada para realizar tareas específicas y limitadas. Por ejemplo, un sistema de recomendación de contenido en redes sociales o plataformas de streaming que sugiere videos, música o artículos basándose en las preferencias del usuario. Su función está delimitada, y aunque es eficaz en lo que hace, no posee conciencia, creatividad o habilidades fuera de su campo.
2. IA Amplia: Una fase intermedia que algunos expertos consideran entre la IA estrecha y la AGI. Esta IA puede adaptarse a múltiples tareas específicas, pero aún sin llegar al nivel de una AGI. Su ámbito es más flexible que el de una IA estrecha, pero no tiene la autonomía ni la adaptabilidad total de una AGI. Un ejemplo de ellas es ChatGPT o Gemini.
3. IA General (AGI): Aún no desarrollada completamente, esta inteligencia artificial sería capaz de igualar o superar las capacidades cognitivas humanas en múltiples áreas. Una AGI no solo podría realizar tareas específicas, sino que tendría flexibilidad para aprender y adaptarse en diferentes contextos, replicando la versatilidad de la inteligencia humana.

Las IA que encontramos en plataformas como YouTube, TikTok o Netflix pertenecen al primer tipo, IA estrecha, y tienen como objetivo fundamental mantener a los usuarios interesados en su contenido durante el mayor tiempo posible.

El efecto túnel de las IA estrechas en la recomendación de contenidos

Uno de los efectos más preocupantes de las IA estrechas es el llamado efecto túnel o efecto burbuja de filtro. Las IA de recomendación funcionan analizando el comportamiento de los usuarios (los videos que ven, los comentarios que dejan, las interacciones que realizan) y aprenden a predecir qué tipo de contenido es más probable que los mantenga enganchados.

En su esfuerzo por lograr esto, estas IA estrechas generan un flujo de recomendaciones que encierra al usuario en un “túnel” de contenido similar, limitando su exposición a ideas, perspectivas y conocimientos nuevos o diferentes.

A nivel psicológico y cognitivo, el efecto túnel puede tener consecuencias negativas. Al recibir solo el tipo de contenido que ya nos gusta o con el que estamos familiarizados, perdemos oportunidades de descubrir ideas y puntos de vista que podrían desafiar nuestras creencias y expandir nuestra visión del mundo. 

Además, este efecto refuerza sesgos cognitivos y lleva a la persona a la desinformación y a la polarización ideológica.

La lógica de las recomendaciones: entretenimiento vs. conocimiento

Es importante subrayar que los sistemas de IA de recomendación no están diseñados para fomentar el aprendizaje o la reflexión crítica. Su principal función no es ofrecer contenido nuevo, interesante o educativo, sino maximizar la retención del usuario en la plataforma.

En otras palabras, las IA de recomendación no buscan que el usuario se informe o aprenda, sino que se mantenga entretenido y, en última instancia, consumiendo más contenidos, anuncios o servicios de la plataforma.

Este enfoque tiene varias implicaciones en el consumo de información y el desarrollo de nuestras capacidades intelectuales:

• Preferencia por el contenido fácilmente consumible: La IA suele priorizar contenidos de “consumo fácil” (vídeos cortos, listas, frases impactantes) en lugar de información compleja o formativa que pueda requerir más tiempo o esfuerzo. Esto crea un ecosistema en el que el contenido más sencillo de procesar se convierte en el más visible, mientras que los materiales que demandan mayor reflexión o aprendizaje tienden a desaparecer. Lo que a su vez genera una discriminación en los creadores de contenido que para "estar arriba" se ven empujados a dejar de hacer buen contenido para hacer "lo que se consume".
• Reforzamiento de la homogeneidad de intereses: Las IA estrechas de recomendación tienden a mostrar contenido similar al que hemos consumido anteriormente. Si un usuario muestra interés en un tema determinado, la IA le ofrece una secuencia interminable de contenidos relacionados, lo cual le impide salir de su círculo de interés y lo priva de la variedad intelectual que permite el crecimiento personal y la innovación.
• Reducción de la exploración activa: Las recomendaciones limitan el esfuerzo del usuario en la búsqueda de nuevos conocimientos, disminuyendo la necesidad de exploración activa. Si las plataformas ofrecen constantemente contenido personalizado, se vuelve menos necesario que el usuario investigue, explore o busque información de manera autónoma. Esta falta de ejercicio intelectual promueve un consumo pasivo de información, donde el usuario recibe solo lo que ya le gusta, sin enfrentarse a ideas nuevas.

¿Estupidez humana en la Era de las IA de recomendación?

La inteligencia artificial de recomendación puede promover la "estupidez" en un sentido particular: en lugar de estimular el pensamiento crítico y la curiosidad, reduce nuestra exposición a ideas que contradicen las que ya tenemos o que son nuevas.

Al cerrarnos en burbujas de contenido predecible, limita nuestro crecimiento intelectual y fomenta una percepción homogénea de la realidad. Además, al reforzar nuestros intereses y creencias preexistentes, nos hace menos receptivos a perspectivas alternativas.

Si bien la IA estrecha ha facilitado el acceso al entretenimiento y la personalización del contenido, esta comodidad tiene un costo. Las plataformas que dependen de estas IA de recomendación están diseñadas para maximizar el tiempo que pasamos en ellas, sin preocuparse por el valor educativo o intelectual del contenido que consumimos.

Así, lo que en teoría podría ser una herramienta poderosa para el aprendizaje se convierte en un mecanismo de distracción que no necesariamente amplía nuestra comprensión del mundo.

El futuro: ¿qué podría cambiar?

La posible solución a este problema radica en un rediseño consciente de los sistemas de recomendación. Una IA de recomendación que priorice la variedad de contenido, o que permita una “exploración aleatoria controlada”, podría ayudar a los usuarios a descubrir nuevos intereses y reducir el efecto de túnel.

Además, las plataformas podrían ofrecer a los usuarios la opción de elegir entre un "modo entretenimiento" y un "modo exploración", que proporcione una selección de contenido más rica y variada, en lugar de mantenerlos en un ciclo de lo mismo.

Como usuarios, también es fundamental tomar un papel activo en la búsqueda de contenidos que nos desafíen y en la diversificación de nuestras fuentes de información.

Aunque los sistemas de recomendación actuales están diseñados para el entretenimiento y la retención, podemos contrarrestar su efecto limitando el tiempo que pasamos en redes sociales o plataformas de entretenimiento y buscando activamente conocimiento que no nos ofrece el algoritmo.

En conclusión, la IA estrecha en sistemas de recomendación ha transformado la manera en que interactuamos con la información, pero su diseño centrado en la retención presenta un desafío serio para el desarrollo intelectual y la diversidad de ideas.

Es hora de preguntarnos si el entretenimiento fácil y constante que nos proporcionan justifica el riesgo de limitar nuestra inteligencia colectiva y capacidad de visión crítica de la realidad que nos construimos.