🌐 Google presenta Agile Deliberation para mejorar la colaboración humano-IA
Agile Deliberation: Com la IA ajuda els humans a definir les àrees grises
El desenvolupament de models d'aprenentatge automàtic es basa en exemples etiquetats per humans, assumint que aquests tenen una definició clara i estable de les categories abans de començar. No obstant això, en el món real, les aplicacions sovint requereixen que els sistemes de visió naveguin per les "àrees grises" subjectives de l'experiència humana. Aquí és on entra en joc Agile Deliberation, un marc que transforma la creació de classificadors d'IA subjectius en una conversa iterativa.
En lloc de tractar els humans com a etiquetadors de dades estàtics, Agile Deliberation converteix el sistema d'IA en un soci col·laboratiu que ajuda els usuaris a "deliberar" i afinar les seves pròpies definicions. Aquest enfocament permet construir sistemes d'IA més efectius, robustos i alineats. Per donar suport a la comunitat de recerca, Google Research ha publicat el codi i els algorismes subjacents a GitHub.
Una característica distintiva d'aquest treball és el seu enfocament en l'experiència de l'usuari en directe. En avaluar Agile Deliberation en 18 sessions en directe d'1,5 hores amb participants humans, es va observar com la intenció d'una persona evoluciona dinàmicament quan es combina amb un sistema intel·ligent. Aquest procés va reduir dràsticament la fatiga i ansietat de l'usuari, reemplaçant l'enginyeria de prompts manuals amb retroalimentació directa sobre imatges frontereres, cosa que va resultar en models d'IA més consistents i de millor rendiment.
El procés de Agile Deliberation es divideix en dues etapes: concept scoping i iteration. En la primera, el sistema guia l'usuari per descompondre un concepte ampli en una jerarquia estructurada de sub-conceptes i exclusions explícites. En la segona etapa, es passa de la planificació estàtica a la prova activa, utilitzant models de visió-llenguatge per exposar imatges frontereres semàntiques que desafien les definicions textuals actuals. Aquest enfocament porta els usuaris a reflexionar sobre les seves pròpies suposicions ocultes, clarificar la seva veritable intenció i actualitzar les regles de política en conseqüència.
Font: https://research.google/blog/agile-deliberation-how-ai-helps-humans-define-the-gray-areas/
Agile Deliberation: How AI helps humans define the gray areas
El desarrollo de modelos de aprendizaje automático se basa en ejemplos etiquetados por humanos, asumiendo que estos tienen una definición clara y estable de las categorías antes de comenzar. Sin embargo, en el mundo real, las aplicaciones a menudo requieren que los sistemas de visión naveguen por las «áreas grises» subjetivas de la experiencia humana. Aquí es donde entra en juego Agile Deliberation, un marco que transforma la creación de clasificadores de IA subjetivos en una conversación iterativa.
En lugar de tratar a los humanos como etiquetadores de datos estáticos, Agile Deliberation convierte al sistema de IA en un socio colaborativo que ayuda a los usuarios a «deliberar» y afinar sus propias definiciones. Este enfoque permite construir sistemas de IA más efectivos, robustos y alineados. Para apoyar a la comunidad de investigación, Google Research ha publicado el código y los algoritmos subyacentes en GitHub.
Una característica distintiva de este trabajo es su enfoque en la experiencia del usuario en vivo. Al evaluar Agile Deliberation en 18 sesiones en vivo de 1,5 horas con participantes humanos, se observó cómo la intención de una persona evoluciona dinámicamente cuando se empareja con un sistema inteligente. Este proceso redujo drásticamente la fatiga y ansiedad del usuario, reemplazando la ingeniería de prompts manuales con retroalimentación directa sobre imágenes fronterizas, lo que resultó en modelos de IA más consistentes y de mejor rendimiento.
El proceso de Agile Deliberation se divide en dos etapas: concept scoping e iteration. En la primera, el sistema guía al usuario para descomponer un concepto amplio en una jerarquía estructurada de sub-conceptos y exclusiones explícitas. En la segunda etapa, se pasa de la planificación estática a la prueba activa, utilizando modelos de visión-lenguaje para exponer imágenes fronterizas semánticas que desafían las definiciones textuales actuales. Este enfoque lleva a los usuarios a reflexionar sobre sus propias suposiciones ocultas, clarificar su verdadera intención y actualizar las reglas de política en consecuencia.
Fuente: https://research.google/blog/agile-deliberation-how-ai-helps-humans-define-the-gray-areas/
Agile Deliberation: How AI helps humans define the gray areas
The development of machine learning models relies on examples labelled by humans, assuming that they have a clear and stable definition of categories before starting. However, in the real world, applications often require vision systems to navigate the subjective "gray areas" of human experience. This is where Agile Deliberation comes into play, a framework that transforms the creation of subjective AI classifiers into an iterative conversation.
Instead of treating humans as static data labellers, Agile Deliberation turns the AI system into a collaborative partner that helps users "deliberate" and refine their own definitions. This approach allows for the construction of more effective, robust, and aligned AI systems. To support the research community, Google Research has released the underlying code and algorithms on GitHub.
A distinctive feature of this work is its focus on live user experience. By evaluating Agile Deliberation in 18 live sessions of 1.5 hours with human participants, it was observed how a person's intent evolves dynamically when paired with an intelligent system. This process drastically reduced user fatigue and anxiety, replacing manual prompt engineering with direct feedback on borderline images, resulting in more consistent and better-performing AI models.
The Agile Deliberation process is divided into two stages: concept scoping and iteration. In the first, the system guides the user to break down a broad concept into a structured hierarchy of sub-concepts and explicit exclusions. In the second stage, it moves from static planning to active testing, using vision-language models to expose semantic borderline images that challenge current textual definitions. This approach leads users to reflect on their own hidden assumptions, clarify their true intent, and update policy rules accordingly.
Source: https://research.google/blog/agile-deliberation-how-ai-helps-humans-define-the-gray-areas/
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →