El algoritmo en la plataforma, que cada vez es más figurativo a la hora de discriminar los contenidos que la gente sube, representaría un riesgo para la libertad de expresión en aquellos discursos que no siempre son políticamente incorrectos, sino que la inteligencia artificial considera merecido ser eliminados.

¿Cuáles son los parámetros que la inteligencia artificial de Google toma en cuenta a la hora de eliminar contenidos? ¿Cómo saber lo que una maquina quiere? La discusión sobre la censura en redes sociales no es nada nuevo, y mucho menos en la plataforma más famosa de contenido audiovisual que existe en el mundo, es decir, YouTube.

Desde su fundación en el año 2005, el sitio web estadounidense ha ido paulatinamente mejorando sus herramientas técnicas, en este caso, el desarrollo de una inteligencia artificial para optimizar los intereses de los usuarios según sus gustos. Y es que el crecimiento de la plataforma ha sido tan grande, que hasta la fecha tiene alrededor de unos 2.000 millones de personas conectadas mensualmente, lo que equivale a 1/3 de internet.

Los algoritmos: ¿un problema social?

Siendo este el panorama, no es de extrañar que la empresa adquirida por Google esté complejizando cada vez más la inteligencia de sus máquinas, así como otras redes sociales populares en la actualidad. En el caso de YouTube, el mejoramiento de estas tecnologías ha resultado en un algoritmo impulsivo que toma decisiones “practicas” al momento de discriminar los materiales que se suben por parte de los creadores que sustentan el sitio.

Esta practicidad va desde lo más común, como el uso indebido de material con derechos de autor o copyright —lo cual es apropiado para el resguardo de la propiedad intelectual ajena— sin embargo, la evolución de la IA ha avanzado un poco más allá.

Este algoritmo censura todo lo que considera políticamente incorrecto: puede ser una palabra indebida, contenido polémico del momento o hard news comentadas, un simple desnudo de una obra de arte famosa, temas relacionados con las ciencias sociales, hasta materiales que incomodan a ciertos gobiernos.

Aunque hay que decir que algunos tópicos sí merecen ser tratados con riguridad, llegando incluso a estar de acuerdo con la alternativa de la censura en ciertos casos, hay canales que no lo merecen para nada. Es aquí donde cabe preguntarse: ¿Es acaso este problema moderno el comienzo de una nueva forma para limitar la libertad de expresión y el modo en cómo nos desenvolvemos en espacios de interacción social en la red, limitando así, el conocimiento de todo tipo?

Canales que incomodan a la IA

Para profundizar en este fenómeno es preciso recurrir a la base humana que hace posible la subsistencia del sitio. Los youtubers o creadores de contenido. Y es que el éxito que representan estos últimos es de vital importancia a la hora de hablar de la sobrevivencia de las redes sociales en la actualidad.

Son cercanos con su audiencia, por lo que la conexión que se establece entre creador y consumidor es estrecha (lo que permite una retroalimentación rápida y así establecer cambios futuros según los gustos de su audiencia), son un punto clave para la plataforma en cuanto que son un puente directo hacia otros productos audiovisuales y, por supuesto, son el principal foco de diversión y ocio.

Aun así, los canales de YouTube están siendo duramente golpeados por la censura y la autocensura. 

“Comencé a subir videos en YouTube desde el 1 de enero de 2011, hace ya más de 11 años. En ese entonces tenia 12 años de edad y mi contenido era muy diferente al actual, centrándome en parodias loquendo (software de voces sintéticas) con videojuegos que nunca pegaron mucho. Un año después de haber iniciado comencé a subir creepypastas en un formato no tan explotado, subiendo historias que poca gente conociese, y a partir de ese momento gané algunos suscriptores”, explica Diefuan, desde su cuenta oficial de Instagram.

Durante los largos años que Diefuan ha trabajado en el sitio, su contenido ha cambiado según las necesidades y retos de la situación. Así, hasta la fecha, desde el año 2015 el youtuber mexicano sube reseñas de películas, particularmente de terror. Desde ese instante, en palabras del creador: “comencé a tener una media de visualizaciones más atractiva, llevando al canal a lo que es hoy: un espacio dedicado al cine, tanto de películas que me encantan como de otras que voy descubriendo con las recomendaciones de la gente, o de buscar mucho por las madrugadas algo que ver”.

A pesar de que Diefuan no produce contenido “extremadamente” polémico, limitándose solo a reseñar el séptimo arte, ya desde el año 2014 el algoritmo de la censura comenzó a causar una mella en su contenido: “a partir de que ciertos videos no debieron nunca monetizarse, y sí lo estaban, desde allí comenzó la revisión de videos antes de subirlos: se aplicaron más reglas, y todo se volvió más restrictivo; un simple desnudo artístico o malas palabras. Y como la IA se trata de un proceso automatizado, —y no muy pulido realmente—, muchos canales terminaron perdiendo videos ya antiguos”, dice el mexicano.

Hay que tener en cuenta que con las nuevas reglas de monetización que tienen los canales, la autocensura es ya una realidad dentro del trabajo de un youtuber, puesto que el sitio web incluso recomienda etiquetas de restricción, a cambio de seguir manteniendo el trabajo, y claro, al algoritmo contento.

Así lo expresa Diefuan: “llega un punto en donde el producto tiene que censurarse tanto, esconderse tanto, que se pierde la libertad de expresión que antes había en la plataforma. Ya no puedes hablar de cierto modo, ya no puedes tratar ciertos temas, no se puede comentar películas o historias, ni poner imágenes en edición. Ya te da miedo de lo que estás haciendo porque no sabes si el video que estás editando hoy el día de mañana no va estar. Se vive con un estrés constante”.

Por otro lado, el Feo —así le gusta que le llamen, sin más— autor del canal La Filmoteca Maldita, que se dedica a divulgar el cine desde un enfoque crítico, organizar encuentros fílmicos amateur en español y fomentar el arte, así como también de comentar realidades sociales desde el estudio de la antropología, y que cuenta con 229.000 suscriptores hasta la fecha, desde España comenta que a todos les cuenta un rollo distinto cuando le preguntan por qué decidió iniciar en YouTube: “a algunos les cuento que tuve una novia actriz (…) a otros que sentía un gran vacío en internet a la hora de hablar de temas cinematográficos desde un punto de vista social, y a otros que me moría de hambre y que trabajaba en Aliexpress…”.

Con su carismática irreverencia de siempre, el Feo comenta que lleva cuatro años en la plataforma con sus altos y bajos. Durante el ultimo tiempo, su canal a sido duramente golpeado por la censura; le han bajado videos solo por un segundo de frame, por comentar una película “indiscreta”, hasta han eliminado su canal, que luego ha tenido que recuperar, comunicándose eso sí, con un humano.

“¿Que como me ha ido con la censura?, pues mal. El algoritmo de YouTube es útil para la propia plataforma porque hace dinero con él y porque el objetivo de este es tener a la gente enganchada y para que estén más rato en el sitio (…) sucede pues que muchas veces lo que busca es darte contenido vacío del todo, y al final la gente acaba cansándose. Yo reconozco que YouTube se me ha hecho un lugar muy ameno y muy divertido, pero a largo plazo me comienzo aburrir de él, porque todo lo que me ofrece es mierda”, asevera La Filmoteca Maldita.

Con un tono marcadamente más crítico, el español comenta que en YouTube hay diferentes tipos de censura: “hay una censura que tiene una naturaleza más económica, que sirve para proteger grandes capitales, y otro con un discurso más tradicional, que le ayuda al sitio a mantener una línea oficialista. Por ejemplo, a raíz de la pandemia quedó claro que hay temas que no se pueden tratar, y si los tratas, te pueden cerrar”.

También a los pequeños y a la comunidad

Aunque quedó claro que el algoritmo censura a canales que tienen una monetización de por medio y una buena cantidad de suscriptores, los youtubers emergentes —aquellos que no ganan nada con la plataforma, sino que suben videos por diversión y probar suerte— también se han visto asediados por la IA.

HazardPyscho es un canal chileno dedicado al gameplay. No cuenta con un gran numero de seguidores aun, ni tampoco monetiza el contenido. Sube videos casi todos los días por gusto y, sin embargo, según explica su creador: “cuando empezó todo lo del covid-19 se nos advirtió por la miniatura de un video, o por el solo hecho de mencionar el virus como a comienzos de la pandemia, por lo que tuvimos que cambiar unas cosas (…) también en Facebook, ya que según la advertencia que nos mandaba era para evitar fake news, cuando tan solo era un gameplay de Resident Evil”.

A pesar de ser un canal pequeño, los creadores tienen claro cómo funciona el internet de hoy: “técnicamente el internet se ha estado transformando en una especie de televisora, cortando la libertad de expresión y dejando solo lo que encaje con sus políticas (…) y no olvidar que contrariamente de que haya inteligencia artificial que se encargue de “limpiar” lo que no encaje, hay gente que ve que algo no le agrada y lo denuncia, lo que notifica a la IA o al equipo encargado de la IA (o si es que existen equipos dedicados a revisar lo que se comparte en redes) y toma cartas en el asunto”.

Por otro lado, los consumidores regulares de la plataforma roja no se quedan apartados de la problemática del algoritmo. Según Cristian Sepúlveda, cibernauta que disfruta a diario del contenido multimedia, ha percibido en los últimos días que las recomendaciones que realiza la IA, así como la publicidad que le muestra a comenzado a parecerle incomodo.

“De repente comienzo a navegar por mis canales favoritos, pero me doy cuenta que YouTube me está recomendado ciertos contenidos que nunca he visto y tampoco quiero ver. Son noticias referentes a la franja del rechazo por el plebiscito; personas hablando sobre el tema, incitándome a votar en contra, e incluso la publicidad que me lanza el sitio tiene que ver con lo último, pero siempre con connotaciones negativas. Y me parece raro, siendo que mis movimientos en las redes sociales son todo lo contrario, pero el algoritmo prefiere mostrarme lo otro”, afirma el usuario.

Esto, lejos de ser un fenómeno que no despierta la curiosidad en los expertos, la contrariedad del algoritmo en redes sociales se vuelve un foco de atención para los especialistas en el tema.

Tal es el caso de Ana María Castillo, periodista, profesora de la Universidad de Chile, experta en las Prácticas con Tecnologías y Medios, Ética y Gobernanza de la IA, Economía Digital, entre otros, y que en la actualidad es directora de IA+SIC, Núcleo Inteligencia Artificial y Sociedad (FCEI), organización que trabaja en pro de la buena gobernanza de la inteligencia artificial centrada en los derechos humanos y la justicia social.

Para la académica, los algoritmos en las redes sociales están representando un serio escenario para la libertad de expresión.

Técnicamente, Castillo menciona que: “los algoritmos de personalización son diversos y funcionan, también, de manera diferente dependiendo de la plataforma o red con la que estemos interactuando. Los términos y condiciones de las redes determinan hasta dónde dichos sistemas de personalización y de moderación actúan. En algunas oportunidades la moderación no puede ser manipulada por humanos y nos quedamos a merced del algoritmo, que unilateralmente decidirá que contenidos son apropiados y cuáles deben ser censurados. Esto es un problema para la libertad de expresión porque damos poder de decisión sobre la información que usamos para tomar decisiones relevantes”.  

En definitiva, y con todo lo anteriormente expuesto, queda claro que la regulación de internet mediante la inteligencia artificial es un traspié que la sociedad moderna debe afrontar a medida que las nuevas tecnologías se complejizan. Por ahora, son los youtubers o los influencers quienes están subyugados a este control con observancia, sin embargo, es preciso estar atento a todas las inclinaciones que hace la IA sobre nuestros movimientos e interacciones sociales en el ciberespacio, en una era en donde la dependencia a las RR.SS., es cada vez mayor.