Culturas algorítmicas y YouTube

^{Rieder (2020)} define los algoritmos como un conjunto finito de pasos bien determinados de una sola entrada y varias salidas, construidos con la suficiente simplicidad como para ser ejecutados con lápiz y papel. Distingue, además, entre la abstracción del algoritmo y su concreción en el software, es decir, la implementación del algoritmo en un programa que una computadora pueda leer. Para ^{Dourish (2016)}, aquello que las ciencias sociales denominan algoritmos es en realidad un reduccionismo que refiere a “un sistema de control y gestión digital logrado a través de la detección, el almacenamiento de datos a gran escala y el procesamiento algorítmico dentro de un marco legal, comercial o industrial que le otorga autoridad” (p. 3).

Existen diferentes tipos de algoritmos según la lógica de organización de la información: los hay de búsqueda, de rankings, de interpretación y filtrado de información, de indexación de bases de datos, de entrenamiento basado en machine learning y de agrupamientos en red (^{Rieder, 2020}). Los sistemas automatizados de recomendación son una parte central del ecosistema de medios actual. Por un lado, resultan ordenadores fundamentales de información al distinguir lo que es visible (a través del procesamiento de listas de información), lo que es prioritario (al asignar un orden al contenido de las listas), lo que será importante para un grupo de personas a través de la identificación de tendencias, y también lo que será importante para los usuarios (a través de procesos de personalización relacionados con su historial de acceso a los contenidos) (^{Gillespie, 2014}). Por otro lado, estos procedimientos constituyen una reducción técnica de procesos cognitivos vinculados con la comunicación, la expresión y la información, por lo que también son una reducción de lo cultural a lo técnico que da lugar a una cultura algorítmica (^{Striphas, 2015}).

Con un promedio de dos mil millones de visitas mensuales, YouTube ocupa el segundo lugar mundial entre las plataformas más visitadas (^{We Are Social, 2020}). En México, alcanza una penetración del 61 % respecto de su población adulta total (^{Statista, 2021}). Sus usuarios llegaron a 55 millones en el 2020 (^{YT Brandcast México, 2020}). Más de la mitad usa YouTube a diario (^{Vega, 2021}). La función cultural de YouTube va mucho más allá de ser una plataforma de publicación y almacenamiento de videos. Es un medio de comunicación central que produce diferentes tipos culturales contemporáneos (^{Burgess & Green, 2018}). Por cada minuto se suben a YouTube 400 horas de video, de las cuales 8 se suben en México (^{César, 2017}). Por eso se hace necesario un sistema complejo de algoritmos que organicen, gestionen y recomienden información.

En la interfaz de YouTube convergen múltiples algoritmos de gestión de la información. A grandes rasgos, se identifican dos tipos de sistemas de recomendaciones. Uno ofrece contenidos similares para todos los usuarios, como los que aparecen en el explorador de tendencias. El otro presenta contenidos personalizados, como los videos que se muestran en la página de inicio y las recomendaciones, listas de videos asociados al video que el usuario elige ver, o a temas de interés que se asocian al historial de videos (^{Rieder et al., 2018}).

Gobernanza y resistencias algorítmicas

La gobernanza algorítmica se define como un conjunto de procesos en los que las decisiones tomadas por humanos se delegan a sistemas automatizados de recomendaciones. El problema es que en estos procesos se han detectado sesgos sociales, poca diversidad de información, polarizaciones entre extremos y visibilización de contenidos desinformativos. Todos estos elementos pueden potencialmente afectar las decisiones de las personas (^{Danaher et al., 2017}).

En el contexto de una gobernanza algorítmica construida no solo desde la disponibilidad técnica, sino también desde discursividades que refuerzan su poder, la agencia y las posibilidades de acción de los usuarios son a menudo ignoradas (^{Velkova & Kaun, 2021}). La sociología de la tecnología, corriente surgida en los años ochenta, destacó la flexibilidad interpretativa de los sistemas sociotécnicos y la importancia de los usuarios en la resignificación de estos sistemas, así como su uso para fines diferentes de los diseñados inicialmente (^{Pinch & Bijker, 1989}). En estas acciones, los usuarios producen tácticas para construir alternativas y resistencias al poder algorítmico (^{Treré, 2019}). Por eso resultan importantes, por un lado, el estudio de los efectos sociales de la gobernanza algorítmica (^{Kitchin, 2017}) y, por el otro, la identificación de los modos en que los usuarios resisten al poder algorítmico haciendo uso de su agenciamiento.

Para las ciencias sociales, el conocimiento de esta cultura algorítmica representa un desafío por varios motivos. Primero, existe escasa información sobre los procesos algorítmicos de las grandes plataformas, todos ellos protegidos por el secreto industrial (^{Pasquale, 2016}). Segundo, los algoritmos se producen en el área de la informática con procedimientos y códigos propios, pero luego se usan en las industrias mediáticas para moldear procesos culturales. Lo importante es poder observar cómo los algoritmos interactúan con sus usuarios y construyen experiencias no solo tecnológicas, sino también culturales. Por último, los algoritmos son dinámicos e inciertos en su acción. Aunque su núcleo se compone de un conjunto de pasos ordenados, los datos con que se los alimenta pueden conducir a resultados impredecibles (^{Kearns & Roth, 2019}). Pese a estas limitaciones, existe un conjunto de trabajos que identifica y revisa con sentido crítico ciertos comportamientos recurrentes de los sistemas de recomendación de YouTube y su impacto en los contenidos ofrecidos por la plataforma.

^{Rieder et al. (2018)} realizan un estudio centrado en datos provistos por YouTube para identificar los factores que hacen variar los resultados de su algoritmo de búsqueda en un periodo de tiempo. Las listas que arrojan los resultados de búsqueda contemplan dos dimensiones importantes: la relevancia y el ranking. La relevancia incluye todos los videos pertinentes según coincidencias entre la clave de búsqueda y los títulos, descripciones, comentarios y contenidos de imágenes. El ranking realiza un ordenamiento de la lista de resultados. Los autores encuentran que existen búsquedas cuyos resultados se sostienen en el tiempo, mientras que otras varían. Deducen que estas variaciones se deben a factores múltiples, entre los que se encuentran los volúmenes de búsqueda y publicación de un video sobre un tema determinado, el tiempo de visionado y, como variable más importante, la cantidad de suscriptores de los canales que desarrollan contenido.

El modo en que YouTube recomienda contenidos se encuentra lejos de la objetividad cultural. Por el contrario, se presentan distorsiones y falta de diversidad. Una de las primeras en referir comportamientos algorítmicos distorsionados es ^{Tufekci (2018)}. La autora narra una situación en la que, luego de ver un video de un discurso sobre la campaña electoral de Donald Trump, las recomendaciones de la plataforma se tornan cada vez más hacia la extrema derecha, desde videos sobre el supremacismo blanco hasta teorías conspiracionistas, intensificando cada vez el contenido primario.

En general, la literatura indica una tendencia de las plataformas sociales a la creación de filtros burbuja (^{Pariser, 2014}). Así se denomina a la propensión de los sistemas automatizados a recomendar una mayor cantidad de contenidos similares a los que interesan a los usuarios, sea en términos de conexiones o de contenidos. Acerca de los filtros burbuja en YouTube, ^{Kaiser y Rauchfleisch (2020)} analizan recomendaciones automatizadas de canales de Estados Unidos y Alemania. Concluyen que los usuarios que acceden a información noticiosa producida por medios principales pueden en pocos clics llegar a contenidos de extrema derecha, y quedarse largo rato en una burbuja que solamente presenta dichos puntos de vista. Sin embargo, desde estas burbujas no se realiza el camino opuesto hacia contenidos noticiosos. Del mismo modo, los pequeños canales de contenidos políticos recomiendan a los más grandes, pero no sucede lo opuesto. Sued (2020) llega a una conclusión similar al estudiar las burbujas de filtro producidas por contenidos antivacunas en el contexto de la pandemia por el COVID-19.

Por otra parte, ^{Bishop (2019)}, estudiando vloggers de belleza, encuentra una jerarquía de visibilización asociada a la clase, la raza y los estereotipos de género. El algoritmo favorece en sus búsquedas a actores de clase media que se vinculan estrechamente con patrones de consumo, belleza, moda y modos de relacionamiento muy similares a los de la prensa juvenil, sin presentar modelos alternativos.

^{Lukoff et al. (2021)} examinan los diferentes elementos de la interfaz de YouTube que dotan a los usuarios de mayor o menor agenciamiento y, por ende, de mayor control frente a las decisiones de las plataformas. Sistemas de búsqueda, suscripciones y listas de reproducción pertenecen al primer grupo, mientras que recomendaciones automatizadas, sugerencias en el perfil y avisos publicitarios los hacen sentir con menor control.

En esa dirección, también han sido investigadas las creencias y teorías intuitivas que los usuarios poseen sobre los funcionamientos algorítmicos de las plataformas sociales, dado que estas suelen orientar decisiones y prácticas. Las teorías intuitivas son implícitas e imprecisas, pero tienen importantes implicancias: organizan la experiencia, generan inferencias, guían el aprendizaje e influencian la conducta y las interacciones sociales. ^{Siles et al. (2020)} estudian las teorías intuitivas de los usuarios de Spotify en Costa Rica. Los autores identifican dos categorías. Unos tienden a personificar a la plataforma como un ser que los vigila y conoce todas sus preferencias, mientras que otros la caracterizan como una gran máquina de recursos que ofrece recomendaciones adecuadas con un buen entrenamiento. Los autores destacan cómo estas teorías intuitivas ayudan a los usuarios a tomar decisiones acerca de cómo usar la plataforma.

Luego de una búsqueda en las bases de datos Scopus y SciELO, no se han identificado estudios acerca de las experiencias de los usuarios con los sistemas de recomendación de YouTube en América Latina. Este trabajo busca contribuir a una mayor comprensión de los usos de las plataformas sociales en la región.

De la literacidad digital a la literacidad algorítmica

^{Lugo Rodríguez (2016)} distingue dos líneas de trabajo dentro de las alfabetizaciones digitales. La primera comprende las intervenciones formales orientadas a la adquisición de los saberes tecnológicos necesarios para desempeñarse en la sociedad contemporánea, intervenciones de las que, al menos en teoría, la escuela y demás instituciones de formación de ciudadanía deberían ocuparse. La segunda línea considera que la alfabetización transmedia sucede durante la apropiación tecnológica, sin necesidad de mediación institucional. Varios autores (^{Cruz Sánchez, 2019}; ^{Hernández y Hernández et al., 2019}) prefieren llamar literacidad a la segunda forma, ya que el término designa el proceso de forma neutra y, además, destaca la secuencia de incorporación de saberes en contexto, más allá de las mediaciones escolares e institucionales. Dentro de la literacidad transmedial se ubican las destrezas, habilidades y actitudes puestas en juego en el uso de las tecnologías digitales (^{Scolari, 2016}). Algunas de las muchas literacidades transmediales identificadas son la localización y el acceso a la información, la gestión de la identidad digital, la conciencia de la convivencia sociodigital, la conceptualización de los intereses comerciales de las plataformas sociales y el pensamiento crítico (^{Cruz Sánchez, 2019}).

A pesar de todos los avances realizados por los estudios de alfabetización y literacidad digital, todavía es necesario profundizar en nuevos elementos, que se añaden a la ecología digital a medida que comienzan a conceptualizarse como objetos de estudio. Uno de estos elementos es la acción algorítmica de las plataformas sociales. La literacidad algorítmica refiere al conjunto de habilidades que permite

razonar sobre los algoritmos y sus procesos, reconocer e interpretar su uso en sistemas, crear y aplicar técnicas algorítmicas y herramientas en una variedad de dominios, evaluar la influencia y los efectos de los algoritmos en contextos sociales, culturales y políticos, y posicionar al individuo como co-constituyente en tomas de decisiones algorítmicas. (^{Ridley & Pawlick-Potts, 2021}, p. 4)

Este trabajo indaga en la literacidad algorítmica a través del análisis de prácticas de búsqueda, acceso y evaluación de la información en YouTube, con el fin de identificar las usadas para eludir o suavizar las distorsiones y sesgos algorítmicos basados en la falta de diversidad de contenidos, priorización de intereses comerciales en los rankings, desinformación, polarización de resultados y burbujas de filtro.

Teorías intuitivas sobre el funcionamiento de YouTube

Los diagramas evidenciaron diferentes tipos de teorías intuitivas sobre las recomendaciones. Un primer grupo, asociado a quienes usan la plataforma para entretenerse, sostiene una teoría centrada en las búsquedas y el rol fundamental de los usuarios consumidores (véase la figura 1).

Fig. 1 Diagramas centrados en las búsquedas y los usuarios  

Este grupo, que incluye en su mayoría a los usuarios que consumen videos como entretenimiento, identifica las búsquedas temáticas como el elemento de entrada, y las recomendaciones de la plataforma como elementos de salida del algoritmo. Los elementos presentes en este grupo son el buscador y el historial de videos de YouTube, y sobre todo las iniciativas de los usuarios de buscar información. Algunos esquemas incluyen búsquedas en otras plataformas, se corresponden con la importancia que se le da al buscador en las decisiones acerca del contenido, y que suponen un funcionamiento principalmente personalizado, donde el usuario es el actor principal y los procesos algorítmicos e intereses propios de las plataformas permanecen ocultos.

Un segundo grupo construyó una teoría multifactorial, en la que incluye diferentes valores de entrada al algoritmo de recomendación. Se encuentran entre ellos la recolección de datos dentro y fuera de la plataforma, las preferencias de usuarios similares, las suscripciones y vistas (véase la figura 2). Aunque la mayoría de ellos no incorpora todo el proceso de producción, circulación y consumo de videos, estas visiones son menos simplificadas que las del primer grupo y se asocian al grupo de usuarios interesados en contenidos de actualidad.

Fig. 2 Diagramas centrados en múltiples factores 

Por último, los creadores de contenido tienen una visión que, a diferencia de los consumidores, incluye la instancia de producción del video y dan mayor importancia a las suscripciones que a las búsquedas. Solo una minoría de consultados incorporó a los creadores de contenido a sus diagramas, que manejan la teoría intuitiva más compleja.

Esto nos da la pauta de que los usuarios familiarizados con la producción de videos perciben de un modo más preciso la gobernanza algorítmica.

Las tres teorías descritas atribuyen diferente incidencia a los elementos de la interfaz en la configuración de las recomendaciones. La primera considera que la interfaz es prácticamente transparente, y que las recomendaciones algorítmicas coinciden con las búsquedas de los usuarios. La segunda problematiza más el rol de las reacciones de los usuarios y las suscripciones, vinculando estas actividades con las recomendaciones que luego reciben. El tercer grupo, que ha experimentado la creación de contenidos, agrega a la incidencia de los elementos de la interfaz los intereses comerciales de las plataformas en las lógicas algorítmicas. Estas diferencias en las teorías intuitivas serán retomadas en la discusión como factor explicativo de las distintas formas de agenciamiento, ya que las teorías intuitivas “organizan la experiencia, generan inferencias, guían el aprendizaje e influencian la conducta y las interacciones sociales” (^{Gelman & Legare, 2011}, p. 380).

Percepciones de la gobernanza algorítmica

Los usuarios perciben la gobernanza en varios aspectos (véase la figura 3). El primero y más frecuente se refiere a los contenidos no personalizados que se ubican en la página de inicio. Entre ellos se encuentra, por un lado, la pestaña de tendencias, que incluye novedades o fenómenos noticiosos. Los consultados la vinculan con intereses comerciales y publicitarios de las plataformas. Por el otro, expresan haber encontrado videos ofensivos o de moral cuestionable. El segundo aspecto se centra en la poca flexibilidad de las recomendaciones automatizadas frente al dinamismo de las búsquedas de los usuarios. Los sistemas de recomendación son vistos como rígidos, poco dinámicos y diversos. El hecho de que un usuario haga una sola búsqueda y mire uno o dos videos sobre un tema lleva a que aparezcan varias recomendaciones en la página de inicio que no son de interés o que lo fueron de modo transitorio. El tercer aspecto es la baja calidad y desconfianza hacia contenidos recomendados en la página de inicio: “Hay mucho contenido vacío que no te va a ayudar en nada en realidad, y a veces puedes caer ese tipo de trampa y perder horas viendo contenido que en realidad no te aporta nada”. Por último, se recogieron referencias a la privacidad de los datos recolectados por otras plataformas, como WhatsApp, Facebook o Instagram. Esta dimensión de vigilancia se acompaña por una teoría intuitiva que personifica a las plataformas y que se materializa en enunciados como “Mi teléfono me escucha”, “No sé bien cómo, pero ellos saben lo que te gusta”. Estos cuatro aspectos tornan poco confiables a los sistemas automatizados y los relativizan como recurso para ampliar intereses.

Nota. Elaboración propia a partir del análisis de palabras coocurrentes en el registro directo de los consultados con tidytext, paquete de minería de textos en R (^{Silge & Robinson, 2016}).

Fig. 3: Términos asociados a la gobernanza algorítmica y su frecuencia en el discurso de los entrevistados 

Los funcionamientos algorítmicos más estudiados por la literatura crítica, como las burbujas de filtro y la amplificación algorítmica, así como la desinformación, son referidos con mayor frecuencia por los usuarios interesados en cuestiones políticas y sociales, pero menos por aquellos que usan YouTube como entretenimiento o como herramienta para el aprendizaje. Por ejemplo, usuarios interesados en resolución de crímenes han encontrado apología de asesinatos, o en discusiones sobre religión, posturas antisemitas y supremacistas blancas. Dicen haber llegado a ellos con relativa facilidad, y ponen en juego algunas tácticas -que se describen más adelante- para intentar compensar la amplificación de este tipo de contenidos en sus perfiles.

Existe una distinción entre produsuarios y consumidores respecto de la gobernanza algorítmica. Los primeros identifican acciones de desmonetización, eliminación de videos, reclamos por derechos de autor y demás decisiones tomadas por las plataformas sin previo aviso a los productores de contenido. También tienen en cuenta cómo la venta de espacios publicitarios modela los contenidos de los videos en función de lo que es socialmente aceptable y familiarmente visible, y cómo la orientación y el humor de los conductores cambia para orientarse a estos requerimientos. Estas afirmaciones son consistentes con las teorías intuitivas de los usuarios: quienes identifican la mediación de las reacciones de los usuarios y los intereses comerciales de las plataformas, entienden que las recomendaciones automáticas se encuentran mediadas por dichos elementos. Por el contrario, para quienes asocian las recomendaciones directamente con sus búsquedas, la gobernanza algorítmica es percibida en menor medida. El próximo apartado retoma el proceso de búsqueda como elemento de agenciamiento.

Agencia

La mayoría de los consultados, un 80 % en la encuesta suministrada, dice sentirse cómodo con las recomendaciones de la plataforma, y se detiene en ellas muy frecuentemente. La cantidad de consultados que dice haber encontrado frecuentemente desinformación en su perfil es muy baja, menos del 10 %, pero más de la mitad afirma haber encontrado información falsa alguna vez.

El tema del video es el elemento que inicia el proceso de búsqueda. Decidido este, se despliegan diferentes acciones. La más habitual es el uso del buscador de la plataforma. A continuación, el procedimiento más usual es detenerse en el productor del video: si es conocido, si parece experto o si es un canal al que se está suscrito. Criterios secundarios al productor del canal son las imágenes de presentación, la cantidad de vistas, las recomendaciones y las notificaciones, en ese orden de frecuencia (véase la figura 4).

Las decisiones que conllevan mayor agenciamiento son las que se toman al inicio del proceso, en la decisión del tema, la ejecución de la búsqueda y la decisión de qué video seleccionar. Luego del primer video, pueden dejarse llevar por las sugerencias asociadas. En oposición a las recomendaciones en la página de inicio, que son vistas como elementos de gobernanza, el buscador se percibe como un elemento de agenciamiento donde se ejerce la libertad de elección: “Yo uso YouTube nada más para meterme a buscar lo que quiero y de ahí las sugerencias que salen como en la barrita del lado derecho. Esas las llego a utilizar, pero las de la página inicial casi nunca”.

Nota. Elaboración propia a partir del análisis de palabras coocurrentes en el registro directo de los consultados con tidytext, paquete de minería de textos en R (^{Silge & Robinson, 2016}).

Fig. 4 Términos asociados a los elementos más usados para elegir videos y su frecuencia en el discurso de los entrevistados 

Al algoritmo de búsqueda se le otorga el criterio de pertinencia, pero no siempre el de relevancia. Recibidas las recomendaciones, los usuarios aplican sus propios criterios de selección. Elementos como el canal o el productor que publica el video, las suscripciones o la cantidad de visualizaciones ayudan a decidir qué video ver.

Los produsuarios son más selectivos en función de los videos que consumen: tienen en cuenta tanto la fuente de procedencia del video como su título y la miniatura de la imagen. Saben discriminar entre títulos informativos y aquellos que solo buscan aumentar la cantidad de vistas. Confían más en las miniaturas de imagen donde se ven personas que en las que no se ven.

En general, se reconoce también que de entre la gran cantidad de resultados que puede arrojar una búsqueda, finalmente, se eligen los que más vistas poseen. Los consultados reconocen que esta práctica va en detrimento de videos que pueden tener buena calidad, pero menos vistas. Sin embargo, siguen el criterio cuantitativo para tomar la decisión.

Tácticas frente a la gobernanza algorítmica

^{Treré (2019)} denomina tácticas a las acciones que, en una relación de fuerzas, permiten a los más débiles negociar, experimentar y adaptarse frente a las estrategias del poder. En este apartado, llamamos tácticas a las acciones que los usuarios ejercen para resistir la gobernanza, al intentar la reorientación de los algoritmos de recomendación hacia sus propios intereses.

Se identificaron tres tácticas llevadas a cabo por los usuarios para resistir la gobernanza algorítmica. La primera consiste en mirar más videos publicados por canales a los que están suscritos si la página de inicio sugiere recomendaciones que no coinciden con los intereses permanentes de los usuarios. La segunda consiste en abstenerse de buscar intereses pasajeros, porque los sistemas automatizados cambian rápidamente las páginas de inicio según las nuevas búsquedas. La tercera resulta la única táctica que parece funcionar sin subordinación a la gobernanza, ya que directamente ignora las recomendaciones insistentes de la plataforma:

Hay, por ejemplo, videos que se vuelven muy virales sobre gente de derecha. Un tipo llega, se sienta a la mesa y pide que debatan con él. Me metí a ver de qué iba y me frustré rápidamente. Después de un tiempo me di cuenta de que con estas personas no se puede discutir bien. Y no me gustó el contenido. Pero a partir de que es eso, es como que el algoritmo se agarra de ahí y entonces te empieza a intentar meter ese contenido constantemente. Y es algo que tienes que evitar, por un buen rato. Pues yo he llegado a solo evitar esos videos. O sea, no, ni por curiosidad llegar a meterme. Porque no quiero que me estén recomendando eso constantemente.

Se identificaron también algunas resignificaciones lúdicas de la vigilancia de datos ejercida por las plataformas. Una consultada, luego de explicar su sensación de ser escuchada por su teléfono, afirma: “Pues ya lo uso a mi favor, ya empezamos a decir propaganda, marketing, Querétaro y así le empiezas a decir, pues ya te sale como que juegas con el algoritmo también”.

Además, existe la confianza en poder “entrenar” al algoritmo si se usa la plataforma lo suficiente, de modo que responda a los intereses del usuario:

Creo que justo cuando no te metes mucho a YouTube, el algoritmo no está entrenado o no te puede entender, entonces te da como recomendaciones las tendencias, entonces tú entras, pero a mí no me interesa el maquillaje. Pero es justo porque el algoritmo no ha visto todavía o no ha analizado lo que te gusta.

Ante la consulta acerca de propuestas para mejorar la interacción con la plataforma y los contenidos ofrecidos, existe un reconocimiento de la necesidad de mayor alfabetización crítica para deslindar la información confiable de la falsa, ambigua u ofensiva.

De acuerdo con lo señalado por ^{Rieder et al. (2018)}, los sistemas de recomendación son sensibles a la novedad y la contingencia. Las recomendaciones cambian apenas se realizan nuevas búsquedas. Pero de los dichos de los consultados, puede deducirse que no se instala un equilibrio entre lo estable y lo contingente. Si bien mediante estas tácticas los usuarios pueden lograr que las recomendaciones automatizadas se alineen con sus intereses, también los lleva a pasar más tiempo en la plataforma en algunos casos, a abstenerse de buscar información novedosa, o a quedarse en la propia burbuja de contenidos. Son tácticas que juegan a favor de los usuarios, pero que no llegan a resistir la gobernanza porque siguen la lógica de funcionamiento del algoritmo: menor diversidad de contenido, poca introducción de novedades y mayor tiempo dentro de la plataforma.