Bordado de Verdades: un método en herramientas de aprendizaje automática para exploración y explicación de predicciones
En el corazón del desarrollo de herramientas de aprendizaje automático (AI), la capacidad de explicar y explorar las predicciones de sistemas inteligentes constituye un añadido valioso para la esfera de confianza y responsabilidad en la adopción de este tipo de tecnologías. Entre estas herramientas se encuentra el método del Bordado de Verdades (Truth Bubbling up), un concepto propuesto anteriormente, que busca abordar tanto la explicación de predicciones como la exploración de correlaciones clave en los modelos enfocándolos a través de los datos que conforman los casos de entrenamiento. Esta abordada se analiza en detalle en este artículo.
Introducción a Bordado de Verdades
Bordado de Verdades es una herramienta de exploración de modelos de aprendizaje automático que se inspira en el proceso de buscar “buenas razones” o explicaciones de una predicción en la estructura profunda de un modelo. En términos generales, el método busca visualizar y explorar la importancia de las características (variables explicativas) para el comportamiento predecir de un modelo, mediante un proceso iterativo de escalado y selección de estas variables.
Cómo funciona
El método comienza explicando una o más predicciones específicas de un modelo de regresión o clasificación. Para ello, se identifican los datos parecidos (neighbors) más cercanos al caso de la predicción que queremos explicar, en base a la similitud de sus características. Luego, el método busca en las predicciones de los vecinos “de alta similitud” y “fallas de predicción” (predicciones con rasgos de errores) que sean más claras o evidentes, analizando cómo la ausencia de estas características en el caso de la predicción original “contribuye” a la falla. El proceso sigue iterando esta idea subiendo a escala más amplia incluyendo “neighbors” más lejanos, hasta que las explicaciones no cambian significativamente dando lugar a un “burbujas” (bubble) de justificación más amplia, pero fundamentalmente consistente.
Aplicaciones de Bordado de Verdades
El método se encuentra enfocado principalmente en aplicaciones clínicas, financieras y sobre todo en el área de AI aplicadas a grandes datos, donde la necesidad de traducir “cierto” y “lo que puede pasar” en razones “buenas” y “practicas” para los usuarios finales es fundamental. Bordado de Verdades ofrece una vía explícita para el usuario final de entender por qué un modelo está prediciendo lo que predice, lo que facilita la adopción en sistemas de decisiones y en el uso práctico o de investigación.
Constriñantes y Criticas
A pesar de su aplicación prometedora, el método presenta sus propias limitaciones. El análisis de “verdades” a menudo requiere procesos de segmentación de variables complexos y complejos, afectando tanto al potencial de generar justificaciones consistentes como a la eficiencia en la implementación en sistemas de producción. Además, el aprendizaje profundo que está a la base de este método puede presentar una elevada complejidad técnica para aquellos sin experiencia en esta área.
Conclusión
El bordado de verdades se ha mostrado como una herramienta prometedora para explorar y explicar las predicciones de modelos de aprendizaje automático, facilitando una interacción más íntima con los datos y las conexiones entre este. Sin embargo, para que sea una herramienta útil y sustentable, se encuentran miles de desafíos para más avance en la tecnología y las prácticas de implementación. Aquí, tanto los investigadores como los académicos, los profesionales de la industria y los usuarios finales deberán colaborar conjuntamente para superar estas barreras.
Así, como se puede ver, bordado de verdades constituye una poderosa herramienta para los investigadores y los profesionales en el ámbito de la investigación en la explicación de predicciones de modelos de aprendizaje automático, y esperamos que se vea ampliamente empleada para la mejora de nuestros sistemas de inteligencia artificial de forma responsable y basada en pruebas.
WordCloudStudio
WordCloudStudio: Crea impresionantes nubes de palabras con facilidad. Perfecto para profesionales de marketing, educadores, entusiastas de los datos, creativos, empresarios, planificadores de eventos y más.
WordCloudMaster
Descubre posibilidades creativas con WordCloudMaster. Dondequiera que estés, puedes crear impresionantes nubes de palabras desde tu iPhone, iPad o Mac.
Ya seas un analista de datos, un creativo, un amante de las palabras o un entusiasta de las nubes de palabras, esta aplicación es tu compañera creativa definitiva. ¡Descárgala ahora y libera tu imaginación para crear obras de arte únicas de nubes de palabras!
Editor de nubes de palabras en línea
