(NATASHA SINGER. THE NEW YORK TIMES)
El CEO y su equipo impulsaron los esfuerzos de Meta para captar usuarios jóvenes y engañaron al público sobre los riesgos, según demandas de los fiscales generales estatales.
En abril de 2019, David Ginsberg, un ejecutivo de Meta, envió un correo electrónico a su jefe, Mark Zuckerberg, con una propuesta para investigar y reducir la soledad y el uso compulsivo en Instagram y Facebook.
En el correo electrónico, Ginsberg señaló que la empresa enfrentaba un escrutinio por los impactos de sus productos “especialmente en áreas de uso problemático/adicción y adolescentes”. Le pidió a Zuckerberg 24 ingenieros, investigadores y otro personal, diciendo que Instagram tenía un “déficit” en esos temas.
Una semana después, Susan Li, ahora directora financiera de la empresa, informó a Ginsberg que el proyecto “no estaba financiado” debido a limitaciones de personal. Adam Mosseri, director de Instagram, finalmente también se negó a financiar el proyecto.
Los intercambios de correos electrónicos son sólo una parte de la evidencia citada entre más de una docena de demandas presentadas desde el año pasado por los fiscales generales de 45 estados y el Distrito de Columbia. Los estados acusan a Meta de engañar injustamente a adolescentes y niños en Instagram y Facebook mientras engañan al público sobre los peligros. Utilizando un enfoque legal coordinado que recuerda a la persecución gubernamental de las grandes tabacaleras en la década de 1990, los fiscales generales buscan obligar a Meta a reforzar la protección de los menores.
Un análisis del New York Times de los expedientes judiciales de los estados (que incluyen aproximadamente 1.400 páginas de documentos de la empresa y correspondencia presentada como prueba por el estado de Tennessee) muestra cómo Zuckerberg y otros líderes de Meta promovieron repetidamente la seguridad de las plataformas de la empresa, minimizando riesgos para los jóvenes, incluso cuando rechazaron las peticiones de los empleados para reforzar las barreras juveniles y contratar personal adicional.
En entrevistas, los fiscales generales de varios estados que demandaron a Meta dijeron que Zuckerberg había llevado a su empresa a impulsar la participación de los usuarios a expensas del bienestar infantil.
“Muchas de estas decisiones finalmente terminaron en el escritorio del señor Zuckerberg”, dijo Raúl Torrez, fiscal general de Nuevo México. “Se le debe pedir explícitamente y responsabilizarlo explícitamente por las decisiones que ha tomado”.
Las demandas estatales contra Meta reflejan la creciente preocupación de que los adolescentes y niños en las redes sociales puedan ser solicitados sexualmente, acosados, intimidados, avergonzados e inducidos algorítmicamente a un uso compulsivo en línea. El lunes pasado, el Dr. Vivek H. Murthy, cirujano general de Estados Unidos, pidió que se colocaran etiquetas de advertencia en las redes sociales, diciendo que las plataformas presentan un riesgo para la salud pública de los jóvenes.
Su advertencia podría impulsar el impulso en el Congreso para aprobar la Ley de Seguridad Infantil en Línea, un proyecto de ley que requeriría que las empresas de redes sociales desactiven funciones para menores, como bombardearlos con notificaciones telefónicas, que podrían conducir a comportamientos “similares a las adicciones”. (Los críticos dicen que el proyecto de ley podría obstaculizar el acceso de los menores a información importante. News/Media Alliance, un grupo comercial que incluye a The Times, ayudó a obtener una exención en el proyecto de ley para sitios de noticias y aplicaciones que producen videos de noticias).
En mayo, Nuevo México arrestó a tres hombres acusados de atacar a niños con fines sexuales después, dijo Torrez, de solicitar investigadores estatales que se habían hecho pasar por niños en Instagram y Facebook. Torrez, ex fiscal de delitos sexuales infantiles, dijo que los algoritmos de Meta permitieron a los depredadores adultos identificar a niños que no habrían encontrado por sí solos.
Meta disputó los reclamos de los estados y presentó mociones para desestimar sus demandas.
En un comunicado, Liza Crenshaw, portavoz de Meta, dijo que la compañía estaba comprometida con el bienestar de los jóvenes y contaba con muchos equipos y especialistas dedicados a las experiencias de los jóvenes. Añadió que Meta había desarrollado más de 50 herramientas y funciones de seguridad para jóvenes, incluida la limitación de contenido inapropiado para su edad y la restricción de que los adolescentes menores de 16 años reciban mensajes directos de personas a las que no seguían.
“Queremos asegurarles a todos los padres que tenemos en cuenta sus intereses en el trabajo que estamos haciendo para ayudar a brindarles a los adolescentes experiencias seguras en línea”, dijo la Sra. Crenshaw. Las quejas legales de los estados, añadió, “caracterizan erróneamente nuestro trabajo utilizando citas selectivas y documentos cuidadosamente seleccionados”.
Pero los padres que dicen que sus hijos murieron como resultado de daños en línea desafiaron las garantías de seguridad de Meta.
“Predican que tienen protecciones de seguridad, pero no las adecuadas”, dijo Mary Rodee, maestra de escuela primaria en Canton, Nueva York, cuyo hijo de 15 años, Riley Basford, fue extorsionado sexualmente en Facebook en 2021 por un extraño. haciéndose pasar por una adolescente. Riley se suicidó varias horas después.
Rodee, quien demandó a la compañía en marzo, dijo que Meta nunca había respondido a los informes que envió a través de canales automatizados en el sitio sobre la muerte de su hijo.
“Es bastante insondable”, dijo.
El impulso para ganar a los adolescentes
Meta ha luchado durante mucho tiempo por cómo atraer y retener a los adolescentes, que son una parte fundamental de la estrategia de crecimiento de la empresa, según muestran documentos internos de la empresa .
Los adolescentes se convirtieron en un foco importante para Zuckerberg ya en 2016, según la denuncia de Tennessee, cuando la compañía todavía era conocida como Facebook y poseía aplicaciones como Instagram y WhatsApp. Esa primavera, una encuesta anual entre jóvenes realizada por el banco de inversión Piper Jaffray informó que Snapchat, una aplicación de mensajes que desaparecen, había superado a Instagram en popularidad.
Más tarde ese año, Instagram introdujo una función similar para compartir fotos y videos que desapareció, Instagram Stories. Zuckerberg ordenó a los ejecutivos que se concentraran en lograr que los adolescentes pasaran más tiempo en las plataformas de la compañía, según la denuncia de Tennessee.
El “objetivo general de la empresa es que los adolescentes pasen todo el tiempo”, escribió un empleado, cuyo nombre está redactado, en un correo electrónico a los ejecutivos en noviembre de 2016, según la correspondencia interna entre las pruebas del caso de Tennessee. Los equipos participantes deberían aumentar el número de empleados dedicados a proyectos para adolescentes en al menos un 50 por ciento, añade el correo electrónico, señalando que Meta ya contaba con más de una docena de investigadores analizando el mercado juvenil.
CORREO ELECTRÓNICO SOBRE LOS OBJETIVOS DE ZUCKERBERG
Mark ha decidido que la principal prioridad de la empresa en 2017 son los adolescentes.
En abril de 2017, Kevin Systrom, director ejecutivo de Instagram, le envió un correo electrónico a Zuckerberg pidiendo más personal para trabajar en la mitigación de los daños a los usuarios, según la denuncia de Nuevo México.
Zuckerberg respondió que incluiría a Instagram en un plan para contratar más personal, pero dijo que Facebook enfrentaba “problemas más extremos”. En aquel momento, los legisladores criticaron a la empresa por no haber obstaculizado la desinformación durante la campaña presidencial estadounidense de 2016.
Systrom pidió a sus colegas ejemplos que mostraran la urgente necesidad de más salvaguardias. Pronto volvió a enviar un correo electrónico a Zuckerberg, diciendo que los usuarios de Instagram estaban publicando videos que implicaban un “peligro inminente”, incluido un niño que se pegó un tiro en Instagram Live, según la denuncia.
Dos meses después, la compañía anunció que la función Instagram Stories había alcanzado los 250 millones de usuarios diarios , eclipsando a Snapchat. Systrom, quien dejó la empresa en 2018, no respondió a una solicitud de comentarios.
Meta dijo que un equipo de Instagram desarrolló e introdujo medidas y experiencias de seguridad para usuarios jóvenes. La compañía no respondió a una pregunta sobre si Zuckerberg había proporcionado personal adicional.
‘Millones’ de usuarios menores de edad
En enero de 2018, Zuckerberg recibió un informe que estimaba que cuatro millones de niños menores de 13 años estaban en Instagram, según una demanda presentada ante un tribunal federal por 33 estados.
Los términos de uso de Facebook e Instagram prohíben a los usuarios menores de 13 años. Pero el proceso de registro de la compañía para nuevas cuentas permitió a los niños mentir fácilmente sobre su edad, según la denuncia. Las prácticas de Meta violaron una ley federal de privacidad infantil en línea que exige que ciertos servicios en línea obtengan el consentimiento de los padres antes de recopilar datos personales, como información de contacto, de niños menores de 13 años, alegan los estados.
En marzo de 2018, The Times informó que Cambridge Analytica, una empresa de elaboración de perfiles de votantes, había recopilado de forma encubierta datos personales de millones de usuarios de Facebook. Eso provocó un mayor escrutinio de las prácticas de privacidad de la empresa, incluidas aquellas que involucran a menores.
Zuckerberg testificó el mes siguiente en una audiencia en el Senado: “No permitimos que personas menores de 13 años utilicen Facebook”.
Los fiscales generales de decenas de estados no están de acuerdo.
DENUNCIA DE PROCURADORES GENERALES DEL ESTADO
Dentro de la empresa, el conocimiento real de Meta de que millones de usuarios de Instagram tienen menos de 13 años es un secreto a voces que se documenta de forma rutinaria, se analiza y confirma rigurosamente y se protege celosamente para que no se revele al público.
A finales de 2021, Frances Haugen, una ex empleada de Facebook, reveló miles de páginas de documentos internos que, según ella, mostraban que la empresa valoraba “las ganancias por encima de la seguridad”. Los legisladores celebraron una audiencia y la interrogaron sobre por qué tantos niños tenían cuentas.
Mientras tanto, los ejecutivos de la empresa sabían que el uso de Instagram por parte de niños menores de 13 años era “el status quo”, según la denuncia federal conjunta presentada por los estados. En un chat interno en noviembre de 2021, Mosseri reconoció a esos usuarios menores de edad y dijo que el plan de la compañía de “adaptar la experiencia a su edad” estaba en suspenso, según la denuncia.
EL MENSAJE DE MOSSERI
Los preadolescentes quieren acceder a Instagram y mienten sobre su edad para conseguirlo ahora.
En su comunicado, Meta dijo que Instagram tenía medidas para eliminar cuentas de menores cuando la compañía las identificaba. Meta ha dicho que ha eliminado periódicamente cientos de miles de cuentas que no podían demostrar que cumplían con los requisitos de edad de la empresa.
Luchando por los filtros de belleza
Un debate empresarial sobre los filtros de belleza en Instagram resumió las tensiones internas sobre la salud mental de los adolescentes y, en última instancia, prevaleció el deseo de involucrar a más jóvenes.
Comenzó en 2017 después de que Instagram introdujera efectos de cámara que permitían a los usuarios alterar sus rasgos faciales para hacerlos lucir divertidos o “lindos/bonitos”, según correos electrónicos internos y documentos presentados como evidencia en el caso de Tennessee. La medida se tomó para impulsar el compromiso entre los jóvenes. Snapchat ya tenía filtros faciales populares, decían los correos electrónicos.
Pero en el otoño de 2019 se produjo una reacción violenta después de que Instagram introdujera un filtro que altera la apariencia, Fix Me, que imitaba las líneas de pellizco que los cirujanos estéticos dibujan en los rostros de los pacientes. Algunos expertos en salud mental advirtieron que los efectos de la cámara, similares a los de una cirugía, podrían normalizar estándares de belleza poco realistas para las mujeres jóvenes, exacerbando los trastornos de la imagen corporal .
Como resultado, en octubre de 2019, Instagram prohibió temporalmente los efectos de cámara que realizaban alteraciones faciales dramáticas y de aspecto quirúrgico, al tiempo que permitía filtros obviamente fantásticos, como caras de animales tontas. El mes siguiente, ejecutivos preocupados propusieron una prohibición permanente, según documentos judiciales de Tennessee.
Otros ejecutivos argumentaron que una prohibición perjudicaría la capacidad de la empresa para competir. Un alto ejecutivo envió un correo electrónico diciendo que a Zuckerberg le preocupaba si los datos mostraban un daño real.
A principios de 2020, antes de una reunión en abril con Zuckerberg para discutir el tema, los empleados prepararon un documento informativo sobre la prohibición, según los documentos judiciales de Tennessee. Un correo electrónico interno señaló que los empleados habían hablado con 18 expertos en salud mental, cada uno de los cuales expresó su preocupación de que los filtros de cirugía estética pudieran “causar daños duraderos, especialmente a los jóvenes”.
Pero la reunión con Zuckerberg fue cancelada. En cambio, el director ejecutivo dijo a los líderes de la empresa que estaba a favor de levantar la prohibición de los filtros de belleza, según un correo electrónico que envió y que se incluyó en los documentos judiciales.
EL CORREO ELECTRÓNICO DE ZUCKERBERG A LOS EJECUTIVOS
Siempre me ha parecido paternalista que hayamos limitado la capacidad de las personas para presentarse de esta manera, especialmente cuando no he visto datos que sugieran que hacerlo sea útil o que no hacerlo sea perjudicial.
Varias semanas después, Margaret Gould Stewart, entonces vicepresidenta de diseño de productos e innovación responsable de Facebook, se acercó a Zuckerberg, según un correo electrónico incluido entre las exhibiciones. En el correo electrónico, señaló que, como madre de hijas adolescentes, sabía que las redes sociales ejercían una presión “intensa” sobre las niñas “con respecto a la imagen corporal”.
EL CORREO ELECTRÓNICO DE STEWART A ZUCKERBERG
Esperaba que pudiéramos mantener una postura moderadamente protectora dado el riesgo para los menores. … Sólo espero que dentro de unos años miremos hacia atrás y nos sintamos bien con la decisión que tomamos aquí.
La Sra. Stewart, quien posteriormente dejó Meta, no respondió a un correo electrónico en busca de comentarios.
Al final, Meta dijo que prohibió los filtros “que promuevan directamente la cirugía estética, cambios en el color de la piel o pérdida extrema de peso” e indicó claramente cuándo se estaban usando.
Prioridades y seguridad juvenil
En 2021, Meta comenzó a planificar una nueva aplicación social. Iba a estar dirigido específicamente a niños y se llamaría Instagram Kids. En respuesta, 44 fiscales generales escribieron una carta a May instando a Zuckerberg a “abandonar estos planes”.
“Facebook históricamente no ha logrado proteger el bienestar de los niños en sus plataformas”, decía la carta.
Posteriormente, Meta detuvo los planes para una aplicación Instagram Kids.
En agosto, los esfuerzos de la empresa para proteger el bienestar de los usuarios se habían vuelto “cada vez más urgentes” para Meta, según otro correo electrónico dirigido a Zuckerberg presentado como prueba en el caso de Tennessee. Nick Clegg, ahora jefe de asuntos globales de Meta, advirtió a su jefe sobre las crecientes preocupaciones de los reguladores sobre el impacto de la compañía en la salud mental de los adolescentes, incluidas “posibles acciones legales por parte de los AG estatales”.
Al describir los esfuerzos de bienestar juvenil de Meta como “faltos de personal y fragmentados”, el Sr. Clegg solicitó financiación para 45 empleados, incluidos 20 ingenieros.
EL CORREO ELECTRÓNICO DE CLEGG A ZUCKERBERG
Necesitamos hacer más y nos vemos frenados por la falta de inversión en el lado de los productos, lo que significa que no podemos realizar cambios e innovaciones al ritmo necesario para responder a las preocupaciones de los formuladores de políticas.
En septiembre de 2021, The Wall Street Journal publicó un artículo en el que decía que Instagram sabía que era “ tóxico para las adolescentes ”, lo que aumentó la preocupación del público.
Un artículo en The Times ese mismo mes mencionaba un vídeo que Zuckerberg había publicado en el que aparecía cruzando un lago en una “tabla de surf eléctrica”. Internamente, Zuckerberg se opuso a esa descripción, diciendo que en realidad estaba montando un hidroala que bombeaba con las piernas y quería publicar una corrección en Facebook, según los mensajes de los empleados presentados ante el tribunal.
Clegg encontró la idea de una publicación en hidroala “bastante sorda dada la gravedad” de las acusaciones recientes de que los productos de Meta causaron daños a la salud mental de los adolescentes, dijo en un mensaje de texto con ejecutivos de comunicaciones incluido en los documentos judiciales.
MENSAJE DE TEXTO DE CLEGG AL PERSONAL DE COMUNICACIONES SOBRE ZUCKERBERG
Si yo fuera él, no me gustaría que me preguntaran “mientras acusaban a su empresa de ayudar e incitar al suicidio de adolescentes, ¿por qué su único pronunciamiento público fue una publicación sobre el surf?”
Zuckerberg siguió adelante con la corrección.
En noviembre de 2021, Clegg, que no había recibido respuesta de Zuckerberg sobre su solicitud de más personal, envió un correo electrónico de seguimiento con una propuesta reducida, según documentos judiciales de Tennessee. Pidió 32 empleados, ninguno de ellos ingenieros.
EL CORREO ELECTRÓNICO DE CLEGG A ZUCKERBERG
Esta inversión es importante para garantizar que tengamos las hojas de ruta de productos necesarias para respaldar nuestra narrativa externa de bienestar en nuestras aplicaciones.
Li, la ejecutiva financiera, respondió unos días después, diciendo que cedería ante Zuckerberg y sugirió que la financiación era poco probable, según un correo electrónico interno presentado en el caso de Tennessee. Meta no respondió a una pregunta sobre si la solicitud había sido concedida.
Unos meses más tarde, Meta dijo que aunque sus ingresos para 2021 habían aumentado un 37 por ciento a casi 118 mil millones de dólares respecto al año anterior, las ganancias del cuarto trimestre se desplomaron debido a una inversión de 10 mil millones de dólares en el desarrollo de productos de realidad virtual para reinos inmersivos, conocidos como el metaverso.
Vídeos explícitos que involucran a niños
El otoño pasado, Match Group, propietario de aplicaciones de citas como Tinder y OKCupid, descubrió que los anuncios que la compañía había colocado en las plataformas de Meta se publicaban junto a contenido violento y sexualizado “altamente perturbador”, algunos de los cuales involucraban a niños, según New Mexico. queja. Meta eliminó algunas de las publicaciones marcadas por Match y le dijo al gigante de las citas que “el contenido infractor puede no ser detectado en un pequeño porcentaje de las veces”, decía la denuncia.
Insatisfecho con la respuesta de Meta, Bernard Kim, director ejecutivo de Match Group, se acercó a Zuckerberg por correo electrónico para advertirle que su empresa no podía “hacer la vista gorda”, según la denuncia.
EL CORREO ELECTRÓNICO DE KIM A ZUCKERBERG
Meta está colocando anuncios junto a contenido ofensivo, obsceno y potencialmente ilegal, incluida la sexualización de menores y la violencia de género.
Zuckerberg no respondió a Kim, según la denuncia.
Meta dijo que la empresa había pasado años desarrollando tecnología para combatir la explotación infantil.
El mes pasado, un juez denegó la moción de Meta para desestimar la demanda de Nuevo México. Pero el tribunal accedió a una solicitud relativa a Zuckerberg, que había sido designado como acusado, para que lo retirara del caso.Seguridad infantil en línea.
Natasha Singer escribe sobre tecnología, negocios y sociedad. Actualmente informa sobre las formas de gran alcance en que las empresas tecnológicas y sus herramientas están remodelando las escuelas públicas, la educación superior y las oportunidades laborales.
