Senadores de EE. UU.: las redes sociales dejan que los algoritmos hagan lo que quieran

Un panel del Senado de EE. UU. cuestionó el martes cómo las principales compañías de medios sociales como Facebook Inc y la unidad de Google de Alphabet Inc. utilizan algoritmos e inteligencia artificial para ofrecer contenido nuevo y mantener a los usuarios.

El subcomité de Comunicaciones, Tecnología e Innovación de Comercio del Senado escuchó a investigadores que criticaron el uso de inteligencia artificial para seleccionar contenido para los usuarios. Los senadores dijeron que gran parte de ese contenido son teorías de conspiración, puntos de vista partidistas e información engañosa en YouTube, Facebook y otros lugares de Google.

El Congreso ha pasado meses debatiendo nuevas protecciones de privacidad para los usuarios en línea que podrían restringir la capacidad de las empresas de medios sociales para usar datos personales para hacer recomendaciones de contenido y cuestionarse si las empresas de medios sociales protegen adecuadamente a los niños.

El senador Brian Schatz, el principal demócrata en el subcomité de Comercio del Senado, dijo que las compañías de medios sociales usan "algoritmos que nos alimentan con un flujo constante de contenido cada vez más extremo e inflamatorio", y deben ser más transparentes y responsables.

Dijo que el problema es la falta de juicio humano.

"Si los empleados de YouTube, Facebook o Twitter, en lugar de las computadoras, hicieran las recomendaciones, ¿habrían recomendado estos videos horribles en primer lugar", dijo Schatz. "Las empresas están dejando que los algoritmos se vuelvan locos y solo usan humanos para limpiar el desorden ... Los algoritmos son amorales".

El senador Richard Blumenthal, un demócrata, estuvo de acuerdo con Schatz.

Blumenthal y la senadora Marsha Blackburn escribieron a la directora ejecutiva de YouTube este mes, expresando preocupación por el hecho de que el "mecanismo de recomendación de YouTube continúe promoviendo de manera activa y automática videos confidenciales que involucran a niños". Varios senadores de ambas partes están trabajando en la legislación para comisionar un programa nacional de cinco años por valor de $ 95 millones. La iniciativa de investigación del Instituto de Salud para investigar el impacto de la tecnología en los niños, dijo el senador Ed Markey.

Maggie Stanphill, directora de usuarios de Google Experience, dijo que la compañía ha escuchado las preocupaciones de los senadores sobre su sistema de recomendaciones de YouTube.

YouTube ha reducido las recomendaciones de contenido que difunden "información errónea dañina" y, como resultado, el "número de visitas que este tipo de contenido obtiene de las recomendaciones se ha reducido en más del 50% en los EE. UU."

El senador John Thune, un republicano que preside el panel, dijo que los "mecanismos poderosos detrás de estas plataformas para mejorar el compromiso también tienen la capacidad, o al menos el potencial, de influir en los pensamientos y comportamientos de literalmente miles de millones de personas".

Tristan Harris, cofundador y director ejecutivo del Centro para la Tecnología Humana y ex ético de diseño de Google, dijo que las compañías de medios sociales tienen demasiado poder y usan herramientas similares a las máquinas tragamonedas para mantener a las personas involucradas.

"Tienes una supercomputadora apuntando a tu cerebro", dijo Harris. "Es una carrera entre la muñeca vudú de Facebook, donde pasas el dedo y ellos predicen qué mostrarte a continuación, y la muñeca vudú de Google". Harris sentenció que las redes sociales crearon un "Frankenstein digital que es realmente difícil de controlar".