El testimonio de los denunciantes de Facebook genera impulso para leyes tecnológicas más estrictas
La ex empleada Frances Haugen, quien fue fuente de documentos internos, testificó ante el panel de protección al consumidor del Senado
Frances Haugen, quien denunció a Facebook Inc. Testificó ante el Congreso el martes sobre documentos internos que muestran los daños de los productos de la compañía, desde problemas de salud mental de los adolescentes hasta debates políticos envenenados, agregando combustible a los esfuerzos para aprobar regulaciones más estrictas sobre las grandes tecnologías.
Los documentos recopilados por Haugen, que sirvieron de base para la serie Archivos de Facebook de The Wall Street Journal, muestran cómo las reglas de moderación de la empresa favorecen a las élites; cómo sus algoritmos fomentan la discordia; y cómo los carteles de la droga y los traficantes de personas utilizan sus servicios abiertamente.
“Vi a Facebook enfrentarse repetidamente a conflictos entre su propio beneficio y nuestra seguridad. Facebook resolvió consistentemente estos conflictos a favor de sus propias ganancias”, dijo Haugen a un subcomité de protección al consumidor del Senado. “Mientras Facebook esté operando en las sombras, ocultando su investigación del escrutinio público, es irresponsable. Hasta que cambien los incentivos, Facebook no cambiará “.
Haugen señaló al fundador de Facebook, Mark Zuckerberg, por sus críticas, citando su control sobre la empresa. Zuckerberg controla alrededor del 58% de las acciones con derecho a voto en Facebook, según una presentación regulatoria de abril.
“En la actualidad, no hay nadie que responsabilice a Mark excepto él mismo”, dijo. Facebook, bajo la dirección de Zuckerberg, toma decisiones en función de cómo afectarán las mediciones de la participación del usuario, en lugar de sus posibles desventajas para el público, dijo.
“Mark ha construido una organización que se basa en gran medida en las métricas”, dijo. “Las métricas toman la decisión. Desafortunadamente, eso en sí mismo es una decisión”.
El senador Richard Blumenthal (D., Connecticut), presidente del subcomité que conduce la audiencia del martes, pidió Zuckerberg que comparezca ante el Congreso para testificar, calificando a la empresa de “moralmente en bancarrota”.
Facebook señaló que Zuckerberg ha testificado siete veces en los últimos cuatro años y sus ejecutivos han testificado 30 veces en total. La empresa dijo que ha tomado numerosas acciones que han afectado su rentabilidad para proteger la seguridad y privacidad de sus usuarios.
“Hemos invertido mucho en personas y tecnología para mantener segura nuestra plataforma, y hemos hecho de la lucha contra la desinformación y la provisión de información autorizada una prioridad”, dijo la compañía. “Si alguna investigación hubiera identificado una solución exacta a estos complejos desafíos, la industria tecnológica, los gobiernos y la sociedad los habrían resuelto hace mucho tiempo”.
La compañía ha cuestionado previamente la caracterización de los documentos en el Journal, así como por Blumenthal y otros miembros de su comité, quienes preguntaron a la ejecutiva de Facebook Antigone Davis sobre los documentos la semana pasada.
En una declaración posterior a la audiencia, Facebook cuestionó el conocimiento de Haugen sobre las cuestiones planteadas en los documentos que reveló, y la calificó como una empleada de bajo nivel que no estaba al tanto del proceso de toma de decisiones por parte de los altos ejecutivos.
“Estamos de acuerdo en una cosa; es hora de crear reglas estándar para Internet”, dice el comunicado. “En lugar de esperar que la industria tome decisiones sociales que pertenecen a los legisladores, es hora de que el Congreso actúe”.
Facebook ha dicho que planea continuar haciendo investigaciones internas y está trabajando en formas de hacer que ese trabajo esté disponible para otros. La compañía ha luchado recientemente con algunos investigadores académicos por el acceso a sus datos, pero Facebook dice que trabaja en cooperación con muchos otros.
Los legisladores republicanos y demócratas en la audiencia renovaron sus peticiones de regulación, como el fortalecimiento de las leyes de privacidad y competencia y las protecciones especiales en línea para los niños, así como el endurecimiento de la responsabilidad de las plataformas. Una idea que recibió un impulso particular fue requerir más visibilidad de los datos de las redes sociales, así como de los algoritmos que dan forma a las experiencias de los usuarios.
“Creo que ha llegado el momento de actuar y usted es el catalizador de esa acción”, dijo la senadora Amy Klobuchar (D., Minnesota).
La Sra. Haugen, una exgerente de productos de Facebook que renunció en abril, dijo que los legisladores deben ir más allá de algunos de los recursos legislativos que se están considerando.
“La gravedad de esta crisis exige que rompamos con los marcos regulatorios anteriores”, dijo. “Los ajustes a las protecciones de privacidad obsoletas (…) no serán suficientes”.
Un buen punto de partida, agregó, sería “el acceso total a los datos para investigaciones no dirigidas por Facebook. Sobre esta base, podemos construir reglas y estándares razonables para abordar los daños al consumidor, el contenido ilegal, la protección de datos, las prácticas anticompetitivas, los sistemas algorítmicos y más”.
En una declaración anterior, Facebook dijo: “No es exacto que una investigación interna filtrada demuestre que Instagram es ‘tóxico’ para las adolescentes”.
“La investigación en realidad demostró que muchos adolescentes de los que escuchamos sienten que usar Instagram les ayuda cuando están luchando con el tipo de momentos difíciles y problemas que los adolescentes siempre han enfrentado”, dijo.
The Journal ha defendido su serie, diciendo que Facebook no ha identificado ningún error fáctico.
Durante la audiencia del martes, Haugen también planteó preocupaciones de seguridad nacional sobre Facebook, citando la vigilancia extranjera en la plataforma, por ejemplo, el monitoreo chino de las poblaciones uigures, y lo que denominó la “falta constante de personal” de Facebook de sus equipos de contrainteligencia.
Dijo que está “hablando con otras partes del Congreso sobre eso”. La embajada china no respondió de inmediato a una solicitud de comentarios. El Sr. Blumenthal dijo que su comité puede buscar más información de la Sra. Haugen sobre las preocupaciones de seguridad.
El director de política de seguridad de Facebook, Nathaniel Gleicher, respondió a las preocupaciones de seguridad con publicaciones en Twitter.
“Una de las razones por las que el público conoce el alcance de esfuerzos como este de China, Irán y otros es porque los hemos eliminado e informado públicamente sobre ellos”, escribió. “Sabemos que los actores de amenazas atacarán todas las plataformas públicas. Es esencial que * todos * tomemos esta amenaza en serio y trabajemos para contrarrestar a estos actores”.
Haugen propuso cambios en las políticas para abordar sus preocupaciones percibidas. En productos como automóviles y cigarrillos, dijo, los investigadores independientes pueden evaluar los efectos sobre la salud, pero “el público no puede hacer lo mismo con Facebook”.
“Esta incapacidad para ver en los sistemas reales de Facebook y confirmar que funcionan como se comunican es como si el Departamento de Transporte regulara los automóviles con solo verlos conducir por la carretera“, dijo, abogando por una agencia gubernamental independiente que empleara a expertos para auditar el impacto de las redes sociales.
Dijo que, si el Congreso se mueve para cambiar la Sección 230, una ley federal de responsabilidad que protege a Facebook y a otras empresas de la responsabilidad por el contenido generado por el usuario, debería distinguir entre ese tipo de contenido y las decisiones que toman las empresas sobre qué tipo de contenido promover.
“Facebook no debería dejar pasar las decisiones que toma para priorizar la viralidad, el crecimiento y la reactividad sobre la seguridad pública”, dijo.
La Sra. Haugen fue contratada por Facebook hace dos años para ayudar a protegerse contra la interferencia electoral en Facebook. Dijo que actuó porque estaba frustrada por lo que consideraba la falta de apertura de Facebook sobre el potencial de daño de la plataforma y su falta de voluntad para abordar sus fallas.
Lo que nos enseñan los Super Bowls sobre el capitalismo
Haugen ha presentado una denuncia de irregularidades a la Comisión de Bolsa y Valores, informando a los reguladores sobre posibles violaciones de las leyes de protección del inversor y haciéndola elegible para recibir una parte de las multas cobradas en cualquier acción de ejecución futura. También está interesada en cooperar con los fiscales generales estatales y los reguladores europeos.
Varios legisladores también expresaron un renovado interés en las medidas de transparencia que brindarían al público y a los responsables políticos una mayor comprensión de cómo funcionan los algoritmos para sugerir contenido a los usuarios.
“Yo simplemente diría, pongámonos a trabajar”, dijo el Senador John Thune (R., SD), quien ha patrocinado varias medidas sobre la transparencia de los algoritmos. “Tenemos algunas cosas que podemos hacer aquí”.
Otras sugerencias de los legisladores el martes incluyeron la elaboración de protecciones de privacidad integrales para los consumidores estadounidenses y nuevas reglas de competencia para la era de Internet. Algunos senadores también presionaron para recortar la inmunidad de responsabilidad que el Congreso otorgó hace mucho tiempo a las plataformas en línea por las acciones de sus usuarios.
Pero varios legisladores reconocieron que algunos esfuerzos para regular las grandes tecnologías ya habían atraído una intensa oposición de algunas empresas importantes. “Hay cabilderos en cada rincón de este edificio que han sido contratados por la industria tecnológica”, dijo la Sra. Klobuchar. “Facebook y las otras grandes empresas tecnológicas están tirando un montón de dinero en esta ciudad y la gente los está escuchando”.
Facebook ha pedido públicamente que el gobierno actúe para regular mejor el entorno en línea.
“Siempre hay motivos para el escepticismo” acerca de que el Congreso llegue a un consenso sobre la legislación, dijo Blumenthal después de la audiencia. Pero agregó que, “hay momentos en que la dinámica es tan poderosa que realmente se hace algo (…) Rara vez, si es que alguna vez, he visto el tipo de unanimidad que se exhibe hoy”.
—Deepa Seetharaman contribuyó a este artículo.
Escriba a John D. McKinnon a john.mckinnon@wsj.com y Ryan Tracy a ryan.tracy@wsj.com
Este contenido fue traducido del inglés por Noris Argotte Soto para República.
El testimonio de los denunciantes de Facebook genera impulso para leyes tecnológicas más estrictas
La ex empleada Frances Haugen, quien fue fuente de documentos internos, testificó ante el panel de protección al consumidor del Senado
Frances Haugen, quien denunció a Facebook Inc. Testificó ante el Congreso el martes sobre documentos internos que muestran los daños de los productos de la compañía, desde problemas de salud mental de los adolescentes hasta debates políticos envenenados, agregando combustible a los esfuerzos para aprobar regulaciones más estrictas sobre las grandes tecnologías.
Los documentos recopilados por Haugen, que sirvieron de base para la serie Archivos de Facebook de The Wall Street Journal, muestran cómo las reglas de moderación de la empresa favorecen a las élites; cómo sus algoritmos fomentan la discordia; y cómo los carteles de la droga y los traficantes de personas utilizan sus servicios abiertamente.
“Vi a Facebook enfrentarse repetidamente a conflictos entre su propio beneficio y nuestra seguridad. Facebook resolvió consistentemente estos conflictos a favor de sus propias ganancias”, dijo Haugen a un subcomité de protección al consumidor del Senado. “Mientras Facebook esté operando en las sombras, ocultando su investigación del escrutinio público, es irresponsable. Hasta que cambien los incentivos, Facebook no cambiará “.
Haugen señaló al fundador de Facebook, Mark Zuckerberg, por sus críticas, citando su control sobre la empresa. Zuckerberg controla alrededor del 58% de las acciones con derecho a voto en Facebook, según una presentación regulatoria de abril.
“En la actualidad, no hay nadie que responsabilice a Mark excepto él mismo”, dijo. Facebook, bajo la dirección de Zuckerberg, toma decisiones en función de cómo afectarán las mediciones de la participación del usuario, en lugar de sus posibles desventajas para el público, dijo.
“Mark ha construido una organización que se basa en gran medida en las métricas”, dijo. “Las métricas toman la decisión. Desafortunadamente, eso en sí mismo es una decisión”.
El senador Richard Blumenthal (D., Connecticut), presidente del subcomité que conduce la audiencia del martes, pidió Zuckerberg que comparezca ante el Congreso para testificar, calificando a la empresa de “moralmente en bancarrota”.
Facebook señaló que Zuckerberg ha testificado siete veces en los últimos cuatro años y sus ejecutivos han testificado 30 veces en total. La empresa dijo que ha tomado numerosas acciones que han afectado su rentabilidad para proteger la seguridad y privacidad de sus usuarios.
“Hemos invertido mucho en personas y tecnología para mantener segura nuestra plataforma, y hemos hecho de la lucha contra la desinformación y la provisión de información autorizada una prioridad”, dijo la compañía. “Si alguna investigación hubiera identificado una solución exacta a estos complejos desafíos, la industria tecnológica, los gobiernos y la sociedad los habrían resuelto hace mucho tiempo”.
La compañía ha cuestionado previamente la caracterización de los documentos en el Journal, así como por Blumenthal y otros miembros de su comité, quienes preguntaron a la ejecutiva de Facebook Antigone Davis sobre los documentos la semana pasada.
En una declaración posterior a la audiencia, Facebook cuestionó el conocimiento de Haugen sobre las cuestiones planteadas en los documentos que reveló, y la calificó como una empleada de bajo nivel que no estaba al tanto del proceso de toma de decisiones por parte de los altos ejecutivos.
“Estamos de acuerdo en una cosa; es hora de crear reglas estándar para Internet”, dice el comunicado. “En lugar de esperar que la industria tome decisiones sociales que pertenecen a los legisladores, es hora de que el Congreso actúe”.
Facebook ha dicho que planea continuar haciendo investigaciones internas y está trabajando en formas de hacer que ese trabajo esté disponible para otros. La compañía ha luchado recientemente con algunos investigadores académicos por el acceso a sus datos, pero Facebook dice que trabaja en cooperación con muchos otros.
Los legisladores republicanos y demócratas en la audiencia renovaron sus peticiones de regulación, como el fortalecimiento de las leyes de privacidad y competencia y las protecciones especiales en línea para los niños, así como el endurecimiento de la responsabilidad de las plataformas. Una idea que recibió un impulso particular fue requerir más visibilidad de los datos de las redes sociales, así como de los algoritmos que dan forma a las experiencias de los usuarios.
“Creo que ha llegado el momento de actuar y usted es el catalizador de esa acción”, dijo la senadora Amy Klobuchar (D., Minnesota).
La Sra. Haugen, una exgerente de productos de Facebook que renunció en abril, dijo que los legisladores deben ir más allá de algunos de los recursos legislativos que se están considerando.
“La gravedad de esta crisis exige que rompamos con los marcos regulatorios anteriores”, dijo. “Los ajustes a las protecciones de privacidad obsoletas (…) no serán suficientes”.
Un buen punto de partida, agregó, sería “el acceso total a los datos para investigaciones no dirigidas por Facebook. Sobre esta base, podemos construir reglas y estándares razonables para abordar los daños al consumidor, el contenido ilegal, la protección de datos, las prácticas anticompetitivas, los sistemas algorítmicos y más”.
En una declaración anterior, Facebook dijo: “No es exacto que una investigación interna filtrada demuestre que Instagram es ‘tóxico’ para las adolescentes”.
“La investigación en realidad demostró que muchos adolescentes de los que escuchamos sienten que usar Instagram les ayuda cuando están luchando con el tipo de momentos difíciles y problemas que los adolescentes siempre han enfrentado”, dijo.
The Journal ha defendido su serie, diciendo que Facebook no ha identificado ningún error fáctico.
Durante la audiencia del martes, Haugen también planteó preocupaciones de seguridad nacional sobre Facebook, citando la vigilancia extranjera en la plataforma, por ejemplo, el monitoreo chino de las poblaciones uigures, y lo que denominó la “falta constante de personal” de Facebook de sus equipos de contrainteligencia.
Dijo que está “hablando con otras partes del Congreso sobre eso”. La embajada china no respondió de inmediato a una solicitud de comentarios. El Sr. Blumenthal dijo que su comité puede buscar más información de la Sra. Haugen sobre las preocupaciones de seguridad.
El director de política de seguridad de Facebook, Nathaniel Gleicher, respondió a las preocupaciones de seguridad con publicaciones en Twitter.
“Una de las razones por las que el público conoce el alcance de esfuerzos como este de China, Irán y otros es porque los hemos eliminado e informado públicamente sobre ellos”, escribió. “Sabemos que los actores de amenazas atacarán todas las plataformas públicas. Es esencial que * todos * tomemos esta amenaza en serio y trabajemos para contrarrestar a estos actores”.
Haugen propuso cambios en las políticas para abordar sus preocupaciones percibidas. En productos como automóviles y cigarrillos, dijo, los investigadores independientes pueden evaluar los efectos sobre la salud, pero “el público no puede hacer lo mismo con Facebook”.
“Esta incapacidad para ver en los sistemas reales de Facebook y confirmar que funcionan como se comunican es como si el Departamento de Transporte regulara los automóviles con solo verlos conducir por la carretera“, dijo, abogando por una agencia gubernamental independiente que empleara a expertos para auditar el impacto de las redes sociales.
Dijo que, si el Congreso se mueve para cambiar la Sección 230, una ley federal de responsabilidad que protege a Facebook y a otras empresas de la responsabilidad por el contenido generado por el usuario, debería distinguir entre ese tipo de contenido y las decisiones que toman las empresas sobre qué tipo de contenido promover.
“Facebook no debería dejar pasar las decisiones que toma para priorizar la viralidad, el crecimiento y la reactividad sobre la seguridad pública”, dijo.
La Sra. Haugen fue contratada por Facebook hace dos años para ayudar a protegerse contra la interferencia electoral en Facebook. Dijo que actuó porque estaba frustrada por lo que consideraba la falta de apertura de Facebook sobre el potencial de daño de la plataforma y su falta de voluntad para abordar sus fallas.
Lo que nos enseñan los Super Bowls sobre el capitalismo
Haugen ha presentado una denuncia de irregularidades a la Comisión de Bolsa y Valores, informando a los reguladores sobre posibles violaciones de las leyes de protección del inversor y haciéndola elegible para recibir una parte de las multas cobradas en cualquier acción de ejecución futura. También está interesada en cooperar con los fiscales generales estatales y los reguladores europeos.
Varios legisladores también expresaron un renovado interés en las medidas de transparencia que brindarían al público y a los responsables políticos una mayor comprensión de cómo funcionan los algoritmos para sugerir contenido a los usuarios.
“Yo simplemente diría, pongámonos a trabajar”, dijo el Senador John Thune (R., SD), quien ha patrocinado varias medidas sobre la transparencia de los algoritmos. “Tenemos algunas cosas que podemos hacer aquí”.
Otras sugerencias de los legisladores el martes incluyeron la elaboración de protecciones de privacidad integrales para los consumidores estadounidenses y nuevas reglas de competencia para la era de Internet. Algunos senadores también presionaron para recortar la inmunidad de responsabilidad que el Congreso otorgó hace mucho tiempo a las plataformas en línea por las acciones de sus usuarios.
Pero varios legisladores reconocieron que algunos esfuerzos para regular las grandes tecnologías ya habían atraído una intensa oposición de algunas empresas importantes. “Hay cabilderos en cada rincón de este edificio que han sido contratados por la industria tecnológica”, dijo la Sra. Klobuchar. “Facebook y las otras grandes empresas tecnológicas están tirando un montón de dinero en esta ciudad y la gente los está escuchando”.
Facebook ha pedido públicamente que el gobierno actúe para regular mejor el entorno en línea.
“Siempre hay motivos para el escepticismo” acerca de que el Congreso llegue a un consenso sobre la legislación, dijo Blumenthal después de la audiencia. Pero agregó que, “hay momentos en que la dinámica es tan poderosa que realmente se hace algo (…) Rara vez, si es que alguna vez, he visto el tipo de unanimidad que se exhibe hoy”.
—Deepa Seetharaman contribuyó a este artículo.
Escriba a John D. McKinnon a john.mckinnon@wsj.com y Ryan Tracy a ryan.tracy@wsj.com
Este contenido fue traducido del inglés por Noris Argotte Soto para República.