A polémica começou depois de um grupo de investigadores da Universidade de Harrisburg, nos EUA, ter publicado acerca de um algoritmo de inteligência artificial capaz de identificar potenciais criminosos com uma taxa de sucesso de 80%.
Este trabalho iria sair num livro publicado pela Springer Nature, mas cerca de 1000 especialistas, das mais diversas áreas, interpuseram-se para impedir esta publicação. De acordo com os especialistas, não é possível usar dados antigos de condenações e práticas de crimes como base para um modelo preditivo de criminalidade. Segundo eles, não é possível prever se alguém é criminoso com base na imagem do seu rosto. Trata-se de algo altamente tendencioso e racista.
Os críticos, em carta aberta, afirmam que os autores do estudo partem de uma suposição falsa de que dados sobre prisões e condenações criminais antigas são indicadores neutros e confiáveis da atividade criminosa futura. Vão mais longe e enumeram ainda diversos estudos onde se salienta que as pessoas de cor são tratados com mais severidade perante a justiça do que pessoas brancas. Logo aqui, é possível identificar uma potencial falha do sistema judicial que compromete toda a fidelidade do software desenvolvido.
Consequentemente, todas as tentativas de construção de um sistema para identificar criminosos com base na sua aparência serão sempre carregadas de preconceito acerca da aparência de um criminoso. Terminam ainda, pedindo à Springer Nature que condene o uso de estatísticas da justiça criminal para prever a criminalidade.
Em declaração, a Universidade de Harrisburg demarca-se dizendo que investigação realizada na Universidade não reflete necessariamente as suas visões e objetivos. Adianta ainda que os responsáveis pela publicação estão a atualizar o documento para ratificar as preocupações levantadas.
Fonte: IFLScience
Imagem: Pixabay