O que é viés de automação?
A tendência humana de favorecer sugestões de sistemas automatizados, ignorando informações contraditórias, acarreta o risco de uma dependência excessiva da IA sem avaliação crítica.
Summary
- Manifesta-se quando os usuários aceitam acriticamente os resultados da IA, presumem que os algoritmos são sempre mais precisos do que o julgamento humano ou deixam de verificar as recomendações mesmo com evidências contraditórias.
- Especialmente problemático em áreas de alto risco, como diagnóstico médico, direção autônoma, recrutamento e empréstimos, onde o viés da automação pode perpetuar vieses nos dados de treinamento e discriminação sistêmica.
- Mitigado por meio de interfaces de IA explicáveis, validação com intervenção humana, trilhas de auditoria, avaliações de desempenho regulares e treinamento que enfatiza a avaliação crítica em vez da confiança passiva.
O que é viés de automação?
Viés de automação é uma dependência excessiva de auxílios automatizados e sistemas de suporte à decisão. À medida que aumenta a disponibilidade de auxílios de decisão automatizados, adições a contextos críticos de tomada de decisão, como unidades de terapia intensiva ou cockpits de aeronaves, estão se tornando mais comuns. É uma tendência humana usar o caminho do menor esforço cognitivo enquanto se inclina para o "viés de automação". O mesmo conceito pode ser traduzido para a maneira fundamental como a IA e a automação funcionam, que se baseia principalmente no aprendizado de grandes conjuntos de dados. Esse tipo de computação pressupõe que nada será radicalmente diferente no futuro. Outro aspecto que deve ser considerado é o risco de usar dados de treinamento falhos, que causará problemas com o aprendizado.
Gartner®: Databricks, líder em banco de dados em nuvem
O que é viés de máquina?
O viés de máquina refere-se às maneiras pelas quais os algoritmos exibem o viés do algoritmo usado ou dos dados de entrada. Hoje, a inteligência artificial (IA) ajuda a descobrir novos entendimentos a partir de dados e a aprimorar a tomada de decisões humanas. Um exemplo é o recurso de reconhecimento facial usado para acessar smartphones. O viés não intencional pode vir de muitas causas (a Wikipédia lista 184), mas os três principais fatores são:
- amostras de dados incompletas
- conjuntos de dados incorretos.
- aprendizagem distorcida que acontece por meio de interações ao longo do tempo, também conhecida como viés de interação
Podemos evitar viés de dados usando um conjunto de dados abrangente e amplo, refletindo todos os possíveis casos de uso de borda; quanto mais abrangente o conjunto de dados, mais precisas serão as previsões de IA. Vejamos vários pontos que você deve levar em consideração ao trabalhar com sua IA. Escolha o modelo de aprendizagem certo para o problema. Talvez não exista um modelo único que você possa seguir para evitar completamente o viés, mas alguns parâmetros podem informar sua equipe durante o processo. Você terá que identificar o melhor modelo para uma determinada situação, bem como solucionar problemas nas ideias antes de se comprometer com elas. Escolha um conjunto de dados de treinamento representativo. Certifique-se de usar dados de treinamento diversos e que incluam grupos diferentes. Monitore o desempenho usando dados reais. Você deve simular aplicações do mundo real o máximo possível ao criar algoritmos.