Instagram atribuye algunos problemas de moderación a revisores humanos, no a IA

Instagram atribuye algunos problemas de moderación a revisores humanos, no a IA

En una publicación en Threads, Adam Mosseri abordó los problemas de moderación que llevaron a los usuarios de Instagram y Threads a perder acceso a sus cuentas, ver desaparecer sus publicaciones y más, diciendo que la empresa «encontró errores» que atribuye a moderadores humanos. La empresa no culpó inicialmente a los sistemas de IA defectuosos, como muchos creían que sería el caso.

Mosseri abordó el problema que ha estado afectando a las plataformas sociales en los últimos días, añadiendo que los errores encontrados hasta ahora se debieron a revisores de contenido, personas, no sistemas automatizados, «tomando decisiones sin que se les proporcionara el contexto de cómo se desarrollaron las conversaciones, lo que fue un error».

El ejecutivo dijo que Instagram estaba corrigiendo los problemas para que los revisores pudieran tomar decisiones mejores y cometer menos errores.

En respuesta a un comentario en el hilo, también aclaró que, por supuesto, Instagram sabía que los revisores necesitaban contexto y que «una de las herramientas que construimos falló, por lo que no les mostraba suficiente contexto».

«Eso es cosa nuestra», dijo.

Esta explicación no parece dar cuenta totalmente de la variedad de problemas que estaban experimentando los usuarios, ya que algunos encontraron que sus cuentas eran etiquetadas erróneamente como pertenecientes a un usuario menor de 13 años, para luego ser desactivadas. No está claro cómo un moderador humano habría hecho esta suposición. Además, según un informe de The Verge, incluso después de que un usuario presentara su identificación para verificar su edad, su cuenta aún seguía desactivada.

Al ser contactado para hacer comentarios, Instagram dijo a TechCrunch que no todos los problemas que habían encontrado los usuarios de Instagram estaban relacionados con moderadores humanos y sus errores. La empresa también mencionó la ruptura de la herramienta y dijo que los problemas relacionados con cosas como etiquetar a usuarios como menores de edad aún se estaban investigando.

Instagram no sabe si alguna vez ofrecerá una explicación detallada para todos los problemas, entendemos, ya que puede haber varias cosas en juego.

Además de las cuentas desactivadas, otros vieron que sus publicaciones eran relegadas o marcadas como spam, incluso cuando eran una persona de reputación o alguien con muchos seguidores, no un spammer.

Por ejemplo, el ex columnista de tecnología del Wall Street Journal, Walt Mossberg, señaló que su interacción en Threads había caído rápidamente a cero. En vez de recibir entre 100 y 1,000 «me gusta» en sus publicaciones, eso cayó a 0-20 en 24 horas, dijo en Threads.

El estratega de redes sociales Matt Navarra también señaló que, además de tener problemas de moderación él mismo, los usuarios reportaban que la tasa de crecimiento de seguidores y la interacción estaban «cayendo en picado».

Bluesky, una startup de redes sociales que compite con X (anteriormente Twitter) y Threads, aprovechó la interrupción en el sitio para atraer a los usuarios frustrados a su plataforma creando una cuenta en Threads y compartiendo sus características y actualizaciones.

«Estamos tratando de proporcionar una experiencia más segura y necesitamos mejorar», dijo Mosseri. Concluyó su publicación con un mensaje que sugiere que el problema puede no haberse resuelto por completo, añadiendo: «Gracias por su paciencia y sigan enviando comentarios.»