¿Qué es el sesgo de automatización?
La tendencia humana a favorecer las sugerencias de los sistemas automatizados mientras ignora la información contradictoria, con el riesgo de depender excesivamente de la IA sin una evaluación crítica.
Summary
- Se manifiesta cuando los usuarios aceptan acríticamente los resultados de la IA, asumen que los algoritmos son siempre más precisos que el juicio humano o no verifican las recomendaciones incluso con evidencia contradictoria.
- Especialmente problemático en ámbitos de alto riesgo como el diagnóstico médico, la conducción autónoma, la contratación y los préstamos, donde el sesgo de automatización puede perpetuar los sesgos de los datos de entrenamiento y la discriminación sistémica.
- Se mitiga mediante interfaces de IA explicables, validación con intervención humana, registros de auditoría, evaluaciones periódicas del rendimiento y capacitación que prioriza la evaluación crítica sobre la confianza pasiva.
¿Qué es el sesgo de automatización?
El sesgo de automatización es una dependencia excesiva de las ayudas automatizadas y los sistemas de apoyo de decisiones. A medida que aumenta la disponibilidad de ayudas automatizadas para la toma de decisiones, cada vez es más común que se incorporen estas tomas de decisiones en contextos críticos, como en las unidades de cuidados intensivos o las cabinas de piloto de los aviones. Es una tendencia humana elegir el camino que requiere menor esfuerzo cognitivo, que es lo que nos inclina hacia el "sesgo de automatización". El mismo concepto puede traducirse a la forma fundamental en que funcionan la IA y la automatización, que se basa principalmente en aprender a partir de grandes conjuntos de datos. Este tipo de computación asume que las cosas no serán radicalmente diferentes en el futuro. Otro aspecto a considerar es el riesgo de usar datos de entrenamiento defectuosos, ya que en ese caso, el aprendizaje también resultará ser defectuoso.
Gartner®: Databricks, líder en bases de datos en la nube
¿Qué es el sesgo de automatización?
El sesgo de automatización se refiere a las maneras en que los algoritmos muestran el sesgo del algoritmo que se usa o de los datos de entrada. Hoy en día, la inteligencia artificial (IA) nos ayuda a descubrir nuevos conocimientos a partir de los datos y a mejorar la toma de decisiones humanas. Un ejemplo de esto es la función de reconocimiento facial que utilizamos para iniciar sesión en nuestros teléfonos inteligentes. El sesgo no intencionado puede tener muchas causas (Wikipedia enumera 184), pero los tres principales impulsores son:
- Muestras de datos incompletas.
- Conjuntos de datos incorrectos.
- Aprendizaje sesgado que ocurre a través de interacciones a lo largo del tiempo, también conocido como sesgo de interacción.
Podemos evitar el sesgo de datos al utilizar un conjunto de datos amplio y completo, que refleje todos los posibles casos de uso extremos. Cuanto m ás completo sea el conjunto de datos, más precisas serán las predicciones de la IA. Veamos varios puntos que debes tener en cuenta al trabajar con tu IA. Elige el modelo de aprendizaje adecuado para el problema. Probablemente no exista un modelo único que puedas seguir para evitar por completo los sesgos, pero hay parámetros que pueden servirle de guía a tu equipo mientras se va formando. Tendrás que identificar el mejor modelo para una situación determinada, así como resolver los problemas que puedan surgir antes de comprometerte. Elige un conjunto de datos de entrenamiento representativo. Asegúrate de utilizar datos de entrenamiento que sean diversos e incluyan diferentes grupos. Monitorea el rendimiento con datos reales. Al crear algoritmos, se deben simular aplicaciones del mundo real tanto como sea posible.