La IA no es suficiente para proteger las comunidades en redes sociales de la IA

AI isn’t enough to protect social media communities from AI

En un mundo donde la inteligencia artificial (IA) se ha convertido en una herramienta omnipresente, las redes sociales enfrentan un desafío paradójico: protegerse de los problemas que la misma IA genera. Aunque las plataformas han implementado sistemas de moderación basados en IA para combatir contenido dañino y spam, estas soluciones a menudo agravan el problema en lugar de resolverlo.

Un caso emblemático es el de la comunidad de Reddit r/AskHistorians, donde los moderadores vieron cómo decenas de comentarios y publicaciones, algunas con más de una década de antigüedad, fueron eliminados automáticamente. Según Ars Technica, estas eliminaciones erróneas fueron atribuidas a las herramientas de moderación de IA recientemente actualizadas de Reddit. Los moderadores creen que el sistema etiquetó erróneamente un sitio web de fotos históricas raras como spam, lo que resultó en la eliminación de contenido valioso.

Reddit ha afirmado que su IA ha incrementado las acciones de cumplimiento sobre contenido de odio y violencia en más de un 200% y ha reducido la exposición a contenido potencialmente dañino en más del 40%. Sin embargo, como ilustra el caso de AskHistorians, más acciones de cumplimiento no necesariamente equivalen a una mejor moderación.

El crecimiento de la IA generativa ha complicado aún más la detección de spam. Los modelos de lenguaje grande (LLM) han hecho que los spambots sean más difíciles de identificar, ya que imitan voces humanas reales. Además, empresas de marketing están utilizando contenido en redes sociales para que sus marcas sean citadas por chatbots de IA generativa.

Discord, por su parte, admitió que su sistema de moderación de IA prohibió erróneamente unas 8,400 cuentas entre mayo y julio debido a un fallo que permitió a la IA eludir la revisión humana. Este incidente subraya la importancia de mantener la supervisión humana en la moderación de contenido.

Desde 2025, usuarios de Facebook e Instagram han reportado prohibiciones masivas que atribuyen a la moderación por IA, lo que ha generado frustración debido a la falta de contacto humano para resolver estos problemas. Aunque Meta no ha confirmado si la IA es la causa, la dependencia creciente de la moderación basada en IA generativa ha sido objeto de críticas.

Fuente: https://arstechnica.com/gadgets/2026/08/ai-isnt-enough-to-protect-social-media-communities-from-ai/