Sesgo de automatización

¿Qué es el sesgo de automatización?

El sesgo de automatización es una dependencia excesiva de las ayudas automatizadas y los sistemas de apoyo de decisiones. A medida que aumenta la disponibilidad de ayudas automatizadas para la toma de decisiones, cada vez es más común que se incorporen estas tomas de decisiones en contextos críticos, como en las unidades de cuidados intensivos o las cabinas de piloto de los aviones. Es una tendencia humana elegir el camino que requiere menor esfuerzo cognitivo, que es lo que nos inclina hacia el "sesgo de automatización". El mismo concepto puede traducirse a la forma fundamental en que funcionan la IA y la automatización, que se basa principalmente en aprender a partir de grandes conjuntos de datos. Este tipo de computación asume que las cosas no serán radicalmente diferentes en el futuro. Otro aspecto a considerar es el riesgo de usar datos de entrenamiento defectuosos, ya que en ese caso, el aprendizaje también resultará ser defectuoso.

¿Qué es el sesgo de automatización?

El sesgo de automatización se refiere a las maneras en que los algoritmos muestran el sesgo del algoritmo que se usa o de los datos de entrada. Hoy en día, la inteligencia artificial (IA) nos ayuda a descubrir nuevos conocimientos a partir de los datos y a mejorar la toma de decisiones humanas. Un ejemplo de esto es la función de reconocimiento facial que utilizamos para iniciar sesión en nuestros teléfonos inteligentes. El sesgo no intencionado puede tener muchas causas (Wikipedia enumera 184), pero los tres principales impulsores son:

• Muestras de datos incompletas.
• Conjuntos de datos incorrectos.
• Aprendizaje sesgado que ocurre a través de interacciones a lo largo del tiempo, también conocido como sesgo de interacción.

Podemos evitar el sesgo de datos al utilizar un conjunto de datos amplio y completo, que refleje todos los posibles casos de uso extremos. Cuanto más completo sea el conjunto de datos, más precisas serán las predicciones de la IA. Veamos varios puntos que debes tener en cuenta al trabajar con tu IA. Elige el modelo de aprendizaje adecuado para el problema. Probablemente no exista un modelo único que puedas seguir para evitar por completo los sesgos, pero hay parámetros que pueden servirle de guía a tu equipo mientras se va formando. Tendrás que identificar el mejor modelo para una situación determinada, así como resolver los problemas que puedan surgir antes de comprometerte. Elige un conjunto de datos de entrenamiento representativo. Asegúrate de utilizar datos de entrenamiento que sean diversos e incluyan diferentes grupos. Monitorea el rendimiento con datos reales. Al crear algoritmos, se deben simular aplicaciones del mundo real tanto como sea posible.