Las niñas, niños y adolescentes en toda América Latina, incluida Costa Rica, pueden estar expuestos a un riesgo en línea mucho mayor de lo que las plataformas admiten públicamente, según revela una nueva investigación publicada por 5Rights Foundation, Revealing Reality y el Instituto Nacional de Salud Pública de México.

El estudio, que utilizó avatares infantiles diseñados para reflejar los comportamientos en línea de adolescentes reales, y encontró que TikTok, Instagram y X dirigieron rápidamente las cuentas hacia contenido violento, sexualizado y emocionalmente dañino en cuestión de minutos.

Los avatares estuvieron activos solo durante 60 minutos a lo largo de un período de 12 días, un promedio de 5 minutos diarios.  

Sin embargo, dentro de ese poco tiempo, el diseño de lasplataformas condujo a las cuentas simuladas a contenido relacionado con la depresión y el suicidio, ejecuciones gráficas y material sexualmente explícito que cosificaba a mujeres y niñas y normalizaba la violencia contra ellas.

De acuerdo con Marie-Eve Nadeau, jefa de Asuntos Internacionales de 5Rights Foundation: “Esta investigación demuestra que el
contenido dañino no es un accidente, sino que está siendo amplificado activamente por diseño, y que, a pesar de las afirmaciones públicas de las empresas tecnológicas, estas no han logrado realizar cambios significativos en sus sistemas, que son la causa raíz de los daños”.

IMPACTO
EN COSTA RICA

Para Mariam Carpio, cofundadora de Fundación ColibrIA (www.colibria.net), organización aliada de 5 Rights en Costa Rica: “Este estudio nos recuerda que la conversación no puede centrarse únicamente en cómo educamos a niñas, niños y adolescentes para usar la tecnología, sino también en cómo se diseñan las tecnologías que utilizan cada día. Cuando una plataforma amplifica contenido violento, sexualizado o emocionalmente dañino en cuestión de minutos, estamos frente a un desafío que trasciende las decisiones individuales y exige una responsabilidad compartida entre empresas tecnológicas, familias, sistemas educativos y Estados”.

No obstante, la especialista costarricense agregó que: “La buena noticia es que existe una alternativa. Podemos construir entornos digitales más seguros si avanzamos hacia tecnologías diseñadas con enfoque de derechos, fortalecemos el pensamiento crítico y la ciudadanía digital, y acompañamos a las familias para que pasen de la prohibición al acuerdo. El
bienestar digital no consiste en alejar a niñas, niños y adolescentes de la tecnología, sino en garantizar que puedan crecer, aprender y desarrollarse en espacios digitales que respeten su dignidad, su seguridad y su potencial”.

Señala que los resultados deberían constituir una llamada de atención para Costa Rica en un momento en que el país debate importantes iniciativas legislativas orientadas a la protección de niñas, niños y adolescentes en los entornos digitales.

Entre ellas destaca el expediente legislativo N.° 25.336, que busca regular el acceso y uso de plataformas digitales por parte de
personas menores de edad, incluyendo restricciones para menores de 14 años.

Asimismo, se encuentra en discusión el expediente N.° 25.153, que propone restringir el uso de teléfonos celulares y tabletas en
centros educativos. Sin embargo, los hallazgos sugieren que las restricciones, por sí solas, difícilmente resolverán los desafíos asociados al bienestar digital.

Por su parte Nadeau enfatizó: “Estos hallazgos dejan claro que la responsabilidad no puede recaer en la niñez ni en sus padres y madres para gestionar riesgos que no pueden ver o que están fuera de su control, y que es evidente que las plataformas deben rendir cuentas para garantizar que sus productos y servicios sean seguros desde el diseño y por defecto”.

HALLAZGOS DEL ESTUDIO

1.      
Los algoritmos intensificaron el
contenido dañino en cuestión de minutos

Después de que un avatar dio “me gusta” a un pequeño número
de publicaciones relacionadas con tristeza, el sistema de recomendaciones de
TikTok transformó el contenido mostrado. En menos de 40 minutos, al avatar se
le mostró un video que normalizaba el suicidio sin advertencias ni recursos de
apoyo. En X, otro avatar encontró imágenes sin censura de la ejecución de una
celebridad en menos de 15 minutos de navegación e interacción.

2.      
Las funciones de búsqueda amplificaron la
exposición a la violencia y al contenido sexualizado

En aparente contradicción con sus propias normas
comunitarias, TikTok mostró videos cada vez más sexualizados y actos sexuales
simulados después de que los avatares buscaron términos comunes y neutrales
como “bikini” y “belleza”.

En “X”, las búsquedas de términos como “Sinaloa” y
“enfrentamientos” inundaron rápidamente los contenidos con interrogatorios
gráficos, decapitaciones y videos que mostraban a adolescentes de hasta 15 años
presuntamente siendo reclutados para participar en actividades violentas de
narcotraficantes.

3.      
El diseño de las plataformas recompensó
la interacción prolongada

Las investigadoras encontraron que las funciones de
ludificación incentivaban el consumo prolongado incluso junto a contenido
emocionalmente perturbador. A un avatar de TikTok se le mostraron funciones de
recompensas basadas en monedas mientras simultáneamente se le recomendaban
videos centrados en la ansiedad, la tristeza y la pérdida.

4.      
Los controles de edad siguen siendo
ineficaces

Pese a que todas las plataformas exigen que sus usuarios
tengan al menos 13 años, todos los avatares accedieron a los servicios
simplemente ingresando una fecha de nacimiento falsa, sin que las plataformas
realizaran una verificación significativa. Esto incluyó a TikTok e Instagram,
ambas plataformas que afirman públicamente utilizar tecnologías para
identificar a usuarios menores de edad y aplicar protecciones adicionales.