El denunciante de Facebook testificó que el algoritmo de la compañía es peligroso: por eso

El siguiente artículo se reproduce con permiso. diálogo, Una publicación en línea sobre las últimas investigaciones.

La exgerente de productos de Facebook Frances Haugen testificó ante el Senado de los Estados Unidos el 5 de octubre de 2021 que la plataforma de redes sociales de la compañía "Herir a los niños, causar división y debilitar nuestra democracia. "

Hoogen es una fuente importante Presencia en el Wall Street Journal En la compañia. Al describir el algoritmo de Facebook como peligroso, dijo que los ejecutivos de Facebook estaban al tanto de la amenaza, pero presentaron ganancias a la gente y le pidieron al Congreso que supervisara la empresa.

Las plataformas de redes sociales dependen en gran medida del comportamiento de las personas para determinar lo que ves. Prestan especial atención al contenido al que las personas reaccionan dándole me gusta, comentando y compartiendo o en el que “participan”. Granja de trolls, Organizaciones que difunden contenido provocativo copiando contenido muy interesante y Publica como tuyoque les ayuda a llegar a una amplia audiencia.

Como un Científico de la computación Quién ha estudiado la forma en que un gran número de personas usa la tecnología para interactuar, comprende la lógica del uso de la tecnología La sabiduría de la multitud Con estos algoritmos. También he visto fallas importantes en la práctica de las empresas de redes sociales en la práctica.

De leones en la pradera a me gusta en Facebook

El concepto de sabiduría grupal asume que el uso de señales del comportamiento, opiniones y preferencias de los demás como guía conducirá a decisiones correctas. Por ejemplo, Predicción colectiva Suele ser más preciso que el individuo. Sabiduría colectiva para hacer predicciones Mercados financieros, deportes, elección e incluso Brote de la enfermedad.

A lo largo de millones de años de evolución, estos principios se han codificado en el cerebro humano en forma de distorsiones cognitivas cuyos nombres son similares. familiaridad, Exposición pura y Sigue el ejemploSi todo el mundo empieza a correr, deberías empezar a correr, tal vez alguien pueda ver un león venir y correr puede salvar tu vida. Puede que no sepa por qué, pero es más prudente hacer preguntas más tarde.

Su cerebro toma señales de su entorno, incluidos sus colegas, y las usa Reglas simples Convierta rápidamente estas señales en decisiones: camine con el ganador, siga a la mayoría y emule a sus vecinos. Estas reglas son muy efectivas en situaciones típicas porque se basan en suposiciones razonables. Por ejemplo, asumen que las personas a menudo actúan de forma racional, que muchas personas están equivocadas, que el pasado predice el futuro, etc.

La tecnología permite a las personas recibir señales de más personas, la mayoría de las cuales no lo saben. Las aplicaciones de inteligencia artificial hacen un uso extensivo de estas señales de popularidad o "participación", desde seleccionar resultados de motores de búsqueda hasta recomendar música y videos, desde recomendar amigos hasta clasificar publicaciones en fuentes de noticias.

No todos los virus lo merecen

Nuestra investigación muestra que casi todas las plataformas de tecnología de redes, como las redes sociales y los sistemas de recomendación de noticias, son poderosas Prejuicios popularesCuando las aplicaciones están impulsadas por señales como la participación en lugar de consultas explícitas en los motores de búsqueda, el sesgo de la población puede generar consecuencias no deseadas nocivas.

Las redes sociales como Facebook, Instagram, Twitter, YouTube y TikTok dependen en gran medida de los algoritmos de inteligencia artificial para calificar y recomendar contenido. Estos algoritmos toman como entrada lo que le gusta, comenta y comparte, en otras palabras, lo que sea a lo que se une. El objetivo del algoritmo es maximizar el compromiso descubriendo lo que le gusta a la gente y clasificándolo en la parte superior de su feed.

Empezando con el algoritmo de Facebook.

En la superficie, esto parece razonable. Si a las personas les gustan las noticias creíbles, las opiniones de expertos y los videos interesantes, estos algoritmos deberían poder identificar este contenido de alta calidad. Pero la sabiduría de las masas hace una suposición importante aquí: recomendar contenido popular ayudará a que el contenido de calidad "fluya".

clima Probado esta hipótesis Algoritmos para clasificar artículos investigando su calidad de uso y popularidad. Descubrimos que el sesgo general de la audiencia en general tiende a afectar la calidad general del contenido. La razón de esto es que la participación no es un indicador de calidad confiable si solo unas pocas personas han entrado en contacto con un proyecto. En estos casos, la participación crea una señal de ruido y el algoritmo puede amplificar este ruido inicial. Una vez que la popularidad de un artículo de baja calidad sea lo suficientemente grande, se ampliará aún más.

Los algoritmos no son lo único que se ve afectado por el sesgo de participación, también afecta a las personas. Hay evidencia de que la información se está filtrando "Infección complejaEso significa que cuantas más personas entran en contacto con una idea en línea, más probabilidades hay de que la adopten y la vuelvan a publicar. Cuando las redes sociales les dicen a las personas que un artículo es popular, sus sesgos cognitivos comienzan y se convierten en "El impulso irresistible de seguir "traduce y partes.

Gente no tan inteligente

Usamos recientemente Una aplicación de alfabetización de mensajería llamada FakeyEste es un juego desarrollado por nuestro laboratorio que simula fuentes de noticias como Facebook y Twitter. Los jugadores pueden ver los últimos artículos de noticias falsas, ciencia basura, fuentes ultrapartidistas y conspirativas, así como fuentes convencionales. Ganan puntos al compartir o dar me gusta a noticias de fuentes confiables y marcar artículos con poca credibilidad para verificar los hechos.

Notamos que el jugador Es más probable que le guste o comparta, es menos probable que lo etiqueten Cuando los jugadores ven que muchos otros usuarios han participado en estos artículos, están eligiendo artículos de fuentes con poca confianza. Por tanto, la exposición a los indicadores de participación puede crear lagunas.

La sabiduría de las masas ha fracasado porque se basa en la falsa suposición de que las masas están compuestas por fuentes independientes y dispares. Este no es el caso y puede haber varias razones.

Primero, sus comunidades en línea no son muy diferentes ya que las personas tienden a conectarse con personas similares. Los usuarios de las redes sociales pueden fácilmente estar en desacuerdo con los demás, empujando a las personas hacia comunidades homogéneas, a menudo llamadas. están designados Cámara de eco.

En segundo lugar, debido a que los amigos de muchas personas son amigos entre sí, se influirán mutuamente; uno Experimento famoso Demuestra que saber qué conciertos les gustan a tus amigos afecta tus propias preferencias. Tu indulgente deseo social distorsiona tu juicio independiente.

En tercer lugar, puedes jugar con señales de popularidad. A lo largo de los años, los motores de búsqueda han desarrollado técnicas sofisticadas para encontrar los llamados "Granja de enlaces“Y otros esquemas para manipular algoritmos de búsqueda. Por otro lado, las plataformas de redes sociales apenas están comenzando. Brechas.

Las personas que pretendían manipular el mercado de la información crearon Cuenta falsa, como trolls y Robot social, y Organizado Red falsa. Ellos tienen La red se inundó Crea un look Teoría de la conspiración o Candidato politico Es muy popular y engaña a los algoritmos de la plataforma y a los prejuicios cognitivos de las personas, incluso a usted. La estructura de lo social Las redes cambiaron Crear Ilusión de opinión mayoritaria.

Disminuir la participación

¿Qué tengo que hacer? La plataforma tecnológica está actualmente a la defensiva; obtienes provocación Durante la elección Eliminar cuentas falsas y desinformación dañinaPero estos esfuerzos son como un juego hámster.

Otro método de prevención es agregar fricciónEn otras palabras, ralentice el proceso de difusión de información. Los comportamientos de alta frecuencia, como los me gusta y los compartidos automáticos, se pueden suprimir de las siguientes maneras Código de verificación Pruebas que requieren respuesta manual o tarifas. Esto no solo reduce la probabilidad de manipulación, sino que a medida que disminuye la información, permite que las personas presten más atención a lo que ven. Dejará menos margen para que los sesgos de participación influyan en la toma de decisiones de las personas.

También sería útil que las empresas de redes sociales modifiquen sus algoritmos para reducir su dependencia de las señales de participación y dependan más de las señales de calidad para determinar el contenido que le ofrecen. Quizás la denuncia del denunciante le dé el impulso necesario.

Este artículo fue publicado originalmente en diálogo. leer Artículo fuente.