¿Es sano un batido? La IA de Google Research te obliga a decidir

Cuando la categoría no tiene bordes claros

Ese supuesto funciona con categorías objetivas, como una señal de stop o un golden retriever, cuyos límites están claros y se reconocen en todas partes.

El problema llega con las zonas grises. Google Research sostiene que en conceptos como «comida sana» o «arte inspirador» los límites cambian con el contexto cultural o las convicciones personales, y que la gente rara vez los tiene claros de antemano: los descubre al toparse con ejemplos reales.

Agile Deliberation, firmado por los investigadores Otilia Stretcu y Leijie Wang, convierte al sistema de IA en un compañero que ayuda a la persona a afinar su propia definición antes de construir el clasificador, según Google Research.

Primer paso: acotar el concepto

La primera etapa, la delimitación del concepto (concept scoping), consiste en desglosar la idea general en una jerarquía de subcategorías y exclusiones explícitas, según Google Research.

Según Google Research, en su ejemplo «comida sana» se divide en ensaladas, bowls de cereales y proteínas magras, y deja fuera los alimentos procesados y los ingredientes crudos sin preparar. Esa estructura sirve de base inicial para el modelo.

Segundo paso: buscar los casos dudosos

El aprendizaje automático tradicional trata a quien etiqueta como un «oráculo» que ya tiene en mente todas las reglas. Google Research afirma que Agile Deliberation rompe esa premisa y apuesta por refinarlas en colaboración.

La segunda etapa, la iteración del concepto (concept iteration), se inspira en el aprendizaje activo, pero según Google Research no elige ejemplos solo para reducir la incertidumbre de la máquina: busca los que ponen a prueba la definición escrita por el usuario.

El batido que obliga a decidir

Según Google Research, el sistema puede mostrar un batido de fruta frente al concepto de «dieta sana» y obligar a decidir: ¿es una bebida saludable porque lleva fruta cruda o un alimento procesado excluido por su alto contenido en azúcar?

Google Research sostiene que estos dilemas llevan a revisar supuestos ocultos, aclarar la intención real y actualizar las reglas. La respuesta humana entra en un bucle automático de optimización del prompt, de modo que los límites de clasificación del modelo se mueven a la vez que la definición.

Un estudio con personas, no con benchmarks

Según Google Research, los benchmarks estáticos no captan conceptos subjetivos y no existe una verdad objetiva con la que medir. Por eso el equipo hizo 18 sesiones en vivo de 1,5 horas en las que los participantes usaron el sistema y las alternativas en orden aleatorio, para evitar sesgos de aprendizaje.

Se eligieron dos dominios muy subjetivos: «comida sana» y «Pay-to-Play», imágenes gancho de ocio en línea o videojuegos que prometen recompensas económicas o digitales engañosas, un caso real de moderación de contenidos. Agile Deliberation se comparó con tres alternativas, según Google Research.

Más coherencia y menos estrés

Según Google Research, quienes pasaron por la deliberación estructurada etiquetaron con una coherencia significativamente mayor y construyeron clasificadores que superaron a todas las alternativas, sobre todo en las imágenes subjetivas más difíciles. Las ganancias sobre el zero-shot se repitieron en los dos dominios, mientras que la deliberación manual a menudo no mejoraba o incluso empeoraba la precisión.

Google Research afirma que la ingeniería de prompts manual agotaba a los participantes y les generaba ansiedad, porque corregir un error podía estropear lo ya arreglado. Con Agile Deliberation declararon menos esfuerzo, estrés y frustración, y todos lo prefirieron a los métodos manuales.

Queda un límite de fondo. Según Google Research, en estos conceptos no hay una verdad objetiva y estática: el método busca que el clasificador refleje la intención explícita y matizada de quien lo define, no una frontera universal.