La seguridad de los usuarios debería ser un límite innegociable para cualquier plataforma digital, pero una investigación de Bloomberg Businessweek volvió a poner a TikTok contra las cuerdas. La publicación expone un documento confidencial de 2023 que muestra cómo TikTok habría mantenido desactivada deliberadamente una función de seguridad para millones de personas mientras analizaba si esa protección podía afectar sus métricas de participación.

El hallazgo provocó la reacción de los senadores estadounidenses Marsha Blackburn y Richard Blumenthal, quienes exigieron a la compañía una explicación por sus acciones. El caso resulta todavía más grave porque entre los usuarios que quedaron fuera de la protección estaba Chase Nasca, un adolescente de 16 años que murió por suicidio después de que su cuenta recibiera una gran cantidad de contenidos relacionados con tristeza, desesperanza y suicidio. Para los legisladores, el episodio cuestiona directamente las reiteradas promesas de TikTok de colocar el bienestar de los menores por encima de sus ganancias.

El experimento de TikTok: cuando la seguridad se convirtió en una variable de negocio

Para comprender la gravedad del experimento de TikTok, es necesario remontarse a 2021, cuando la plataforma modificó su algoritmo de recomendación para reducir las llamadas burbujas de contenido. El objetivo de esta medida era evitar que una persona que consumiera repetidamente determinado material terminara atrapada en un ciclo de recomendaciones cada vez más similares, particularmente cuando se trataba de contenidos potencialmente dañinos relacionados con autolesiones, depresión o suicidio.

La compañía desarrolló una versión más segura de su sistema, pero decidió no implementarla para todos sus usuarios. En su lugar, creó un grupo de control equivalente a 10% de los usuarios estadounidenses, aproximadamente 15 millones de personas en aquel momento, que permanecieron con la versión anterior del algoritmo. La razón, de acuerdo con el documento interno analizado por Bloomberg, era medir si la modificación de seguridad tenía algún efecto sobre la participación y las principales métricas de la plataforma.

Es decir, la seguridad no fue evaluada únicamente como una obligación inherente al producto, sino como una variable cuyo impacto en el comportamiento de los usuarios podía medirse frente a otros indicadores de negocio. El propio documento describió la decisión como un equilibrio entre la seguridad y la posibilidad de medir su impacto sobre los usuarios activos diarios y otras métricas. Ahí se encuentra uno de los principales cuestionamientos desde la responsabilidad social empresarial: cuando una salvaguarda está diseñada para reducir la exposición a contenido potencialmente dañino, ¿es éticamente aceptable retirarla de millones de personas para comprobar si hace que permanezcan más tiempo en la plataforma?

El caso de Chase Nasca vuelve esta pregunta particularmente difícil de ignorar. El adolescente, residente de Bayport, Nueva York, fue seleccionado aleatoriamente para formar parte del grupo de control el 25 de enero de 2022. De acuerdo con el documento interno, las estrategias de TikTok para evitar que los usuarios quedaran atrapados en una burbuja de contenido no funcionaron en su cuenta “por diseño”. Durante las semanas siguientes, su perfil recibió miles de videos relacionados con tristeza, soledad, desesperanza y suicidio. Chase murió aproximadamente un mes después, en febrero de 2022, a los 16 años.

La investigación de Bloomberg no establece por sí misma una relación causal simple entre el algoritmo y la muerte del adolescente. Sin embargo, el hecho de que su cuenta estuviera dentro del grupo al que deliberadamente no se aplicó la protección y que posteriormente recibiera una avalancha de contenido de esa naturaleza convierte el caso en una cuestión de enorme relevancia ética, corporativa y legal.

Más aún, el problema no parece limitarse a un error técnico aislado. El Congreso estadounidense ya había expresado preocupación desde 2021 por la manera en que el algoritmo de TikTok podía conducir a usuarios jóvenes hacia contenido dañino. Por ello, que la empresa conociera los riesgos de sus sistemas de recomendación y, posteriormente, mantuviera a millones de personas fuera de una protección algorítmica para medir el efecto sobre la participación plantea interrogantes mucho más profundos sobre su gobernanza y sus mecanismos de supervisión.

Senadores califican de “depravado” al experimento de TikTok

Las revelaciones llevaron a Blackburn y Blumenthal a enviar una carta de cuatro páginas a Shou Chew, director ejecutivo de TikTok, y Adam Presser, responsable de la filial estadounidense. Ambos legisladores sostienen que la decisión contradice las declaraciones públicas de la compañía sobre su compromiso con la seguridad y el bienestar de los jóvenes.

Para Blackburn, el experimento de TikTok representa un ejemplo particularmente preocupante de lo que ocurre cuando una plataforma coloca la atención y las ganancias por encima de la seguridad. La senadora sostuvo que resulta inconcebible que los usuarios fueran utilizados como “conejillos de indias” y afirmó que el caso demuestra que, cuando los menores navegan en estas plataformas, terminan convirtiéndose en el producto.

La crítica toca uno de los cuestionamientos centrales al modelo de negocio de las redes sociales: la atención del usuario es un activo económico. Pero cuando para incrementar, conservar o medir esa atención se toman decisiones que implican reducir deliberadamente una protección diseñada para evitar contenidos dañinos, el problema deja de ser exclusivamente tecnológico. Se convierte en un asunto de responsabilidad corporativa.

Los senadores solicitaron a TikTok respuestas a 13 preguntas. Entre ellas, quieren conocer quiénes fueron los empleados informados sobre la prueba, por qué se permitió que menores participaran, cuándo tuvieron conocimiento los ejecutivos y cuál fue la justificación para mantener la medida de seguridad desactivada.

También exigieron una versión completa y sin censura del documento analizado por Bloomberg, además de información sobre todos los experimentos algorítmicos realizados en Estados Unidos en los que TikTok haya retenido, deshabilitado, retrasado o reducido una función de seguridad. La compañía deberá indicar cuántos usuarios estuvieron involucrados y cuántos eran menores. El plazo establecido por los legisladores para responder es el 1 de septiembre.

El representante republicano Gus Bilirakis también calificó las revelaciones como profundamente inquietantes y advirtió sobre las consecuencias de privilegiar las métricas de participación y las ganancias corporativas sobre la seguridad y el bienestar infantil. Su postura no es nueva: durante una audiencia de marzo de 2023 cuestionó directamente a Chew por el caso de Chase y le advirtió que la tecnología de la compañía estaba provocando muertes.

En este contexto, el experimento de TikTok funciona como un caso paradigmático de una discusión que las empresas digitales ya no pueden esquivar: si conocen que determinadas dinámicas de sus productos pueden generar daños, ¿qué responsabilidad tienen cuando deciden no corregirlas o incluso las mantienen deliberadamente para obtener información comercial?

¿Qué responde TikTok ante las acusaciones?

TikTok no respondió directamente a la carta de los senadores al momento de la publicación de esta información. Sin embargo, frente a las preguntas de Bloomberg Businessweek, un portavoz de la compañía afirmó que TikTok está “profundamente comprometido” con la seguridad y el bienestar de sus usuarios, especialmente los adolescentes.

La empresa también expresó solidaridad con las familias que han sufrido pérdidas y señaló que continúa invirtiendo en sus equipos de Confianza y Seguridad, así como en sistemas de detección y mecanismos destinados a retirar de manera proactiva contenidos que infringen sus normas comunitarias.

El argumento, sin embargo, deja una pregunta pendiente: ¿es suficiente invertir en mecanismos de seguridad después de que una plataforma ha decidido deliberadamente limitar una protección para medir su efecto sobre el engagement? Desde una perspectiva de RSE, la seguridad no debería funcionar como una capa adicional que se activa cuando un problema ya se hizo público. Tendría que formar parte de las decisiones de diseño desde el principio.

Esto es especialmente relevante cuando los usuarios involucrados son menores. La responsabilidad empresarial en este terreno no puede reducirse a publicar políticas de uso, contar con equipos de moderación o reaccionar ante contenido denunciado. También implica evaluar los riesgos de los sistemas algorítmicos, establecer controles independientes y garantizar que los incentivos económicos no entren en conflicto con la protección de las personas.

La respuesta legal: KOSA busca convertir la seguridad infantil en una obligación

El caso también llega en un momento en que Estados Unidos intenta definir con mayor claridad las responsabilidades legales de las plataformas frente a los daños que pueden provocar sus productos. Blackburn y Blumenthal han impulsado la Kids Online Safety Act (KOSA), una iniciativa que busca obligar a las plataformas tecnológicas a priorizar la seguridad infantil.

La propuesta original incluía un deber de diligencia para que las empresas adoptaran medidas razonables destinadas a prevenir determinados daños a la salud mental de los menores, entre ellos ansiedad, depresión y uso compulsivo de las redes sociales. Sin embargo, esa disposición fue retirada de la versión aprobada por la Cámara de Representantes en junio debido a preocupaciones relacionadas con la Primera Enmienda.

El 5 de agosto, un día después de que Bloomberg publicara su investigación, el Comité de Comercio, Ciencia y Transporte del Senado votó para avanzar con la versión original de KOSA, incluida la cláusula de deber de diligencia. Para Blackburn, una obligación de este tipo podría impedir que las plataformas realicen en el futuro pruebas similares al experimento de TikTok, al exigirles colocar la seguridad en el centro del diseño de sus productos, especialmente cuando involucran a adolescentes.

Mientras tanto, el caso de Chase forma parte de un escenario legal más amplio. Su familia ha demandado a TikTok y los documentos internos relacionados con su cuenta se han convertido en evidencia dentro de litigios contra las plataformas sociales. La relevancia jurídica del caso, por tanto, no está únicamente en determinar qué ocurrió con un adolescente, sino en establecer qué sabía la compañía, qué decisiones tomó y qué obligaciones tenía para prevenir riesgos que ya conocía.

La RSE no puede aceptar que las ganancias estén por encima de la seguridad

Para las empresas tecnológicas, hablar de responsabilidad social empresarial no puede limitarse a programas de voluntariado, reportes ESG o inversiones en iniciativas sociales. También implica asumir responsabilidad por el impacto directo que tienen sus productos sobre las personas.

El caso de TikTok expone precisamente esa contradicción. Una compañía puede afirmar que invierte millones en seguridad y bienestar, pero esas declaraciones pierden credibilidad si al mismo tiempo sus decisiones internas consideran la seguridad como una variable que puede sacrificarse temporalmente para medir si afecta las métricas de participación.

El experimento de TikTok obliga a cuestionar, además, una idea profundamente arraigada en la economía digital: que todo puede probarse mediante experimentos con usuarios. Las pruebas A/B pueden ser una herramienta legítima para evaluar interfaces, funciones o experiencias, pero no todas las variables tienen el mismo peso ético. Experimentar con el color de un botón no equivale a experimentar con una salvaguarda diseñada para reducir la exposición a contenidos potencialmente peligrosos.

La responsabilidad corporativa exige reconocer esa diferencia antes de lanzar una prueba, no después de conocer sus consecuencias. Y cuando existen menores entre los usuarios, el estándar debería ser todavía más alto.

Lo ocurrido no debería convertirse únicamente en una discusión sobre TikTok. Es una advertencia para toda la industria tecnológica: la seguridad de los usuarios no puede competir con el engagement en una hoja de cálculo. Si una empresa necesita decidir entre proteger a sus usuarios o comprobar si esa protección reduce sus ganancias, la respuesta responsable no debería depender de los resultados del experimento.

Porque cuando una plataforma convierte la seguridad en una variable de negocio, deja de preguntarse cómo evitar el daño y comienza a preguntarse cuánto daño puede asumir sin afectar sus métricas. Y desde la perspectiva de la RSE, ese es precisamente el límite que ninguna empresa que coloque a las personas en el centro debería estar dispuesta a cruzar.