A IA tem sofrido melhorias em R&S, já os vieses humanos não podemos dizer o mesmo.

A IA usada em diversas ferramentas, inclusive Recrutamento e Seleção, têm sofrido melhorias constantes com base no uso e nas críticas recebidas, mas podemos dizer o mesmo com os vieses humanos?

Apesar de corrermos um risco de recebermos críticas por este artigo, elas são válidas e leremos todas com carinho. Este artigo é continuação deste anterior.  Meu nome é Marcelo Marques e sou um dos fundadores da Rankdone.

Não faltam exemplos de melhorias em IA…

Não faltam exemplos de ferramentas de IA que sofrem melhorias com o tempo e seu uso. Não usamos mais o Waze da mesma forma como há alguns anos. Hoje é possível fazer uma previsão de como estará o trânsito na sua cidade daqui há algumas horas com uma previsão muito melhor do que no passado.

Quem tem em casa um assistente virtual como Alexa, Siri ou Google Assistente recebe quase que diariamente suas melhorias de perguntas novas que você pode fazer.  Desenvolvi um método para minha filha estudar com a Alexa e o Khan Academy juntos. Merece outro artigo isso.

Os correios eletrônicos hoje estão muito melhores nas classificações do que é ou não SPAM. É perfeito? Não é, mas as melhorias os tornaram muito melhores que no passado e essas melhorias não vão parar, inclusive acompanhando técnicas pró-spam de distribuidores de SPAM.

Os teclados inteligentes estão completando nossos textos, apontando correções gramaticais, melhorando nossa ortografia.

Plataformas de Streaming, Reconhecimento Facial, Segurança Digital, Chatbots de bancos, etc. Tudo está sendo melhorado com o uso da IA.

Tudo são flores? Não…

Mas claro que tudo não são flores. Um caso que todos gostam de contar é sobre a Amazon que lançou uma plataforma de Recrutamento e Seleção. A IA dela não dava muitas estrelas para mulheres.

Esse caso foi emblemático porque saiu em diversas mídias. Tiveram inúmeras críticas.  Muitos usuários da própria plataforma postando as vezes inverdades em redes sociais.

Quando a Reuters lançou a matéria com uma análise mais aprofundada do problema , ela começou a colocar luz em um item anterior. O viés humano já existente dentro da Amazon que a IA apenas reproduziu.

A matéria da Reuters apontava a quantidade de homens na área de tecnologia dentro da Amazon (e outras bigtechs) e como a IA favorecia e pontuava com mais estrelas aqueles currículos que continham verbos específicos que a maioria dos homens usam. Em inglês, alguns destes verbos são como “executed” and “captured”.

Plataformas de IA estão escancarando e diminuindo vieses humanos…

A Reuters é uma das empresas de mídia que tem alta credibilidade no mercado. A partir da matéria que ela publicou, diversos outros jornais começaram a aprofundar a discussão sobre o assunto lançando luz sobre as falhas das IAs.

Nenhum CEO quer ver sua plataforma ser criticada em um jornal ou mídia que tenha baixa repercussão, muito menos de grande repercussão como um Financial Times, Routers ou The Economist.

O que se viu a partir da matéria da Reuters foram trabalhos e direcionamentos para que as plataformas não tivessem falhas similares à da Amazon, que foi descontinuada. Muitos começaram a questionar os próprios RHs para eles alimentarem a IA com dados com a maior diversidade possível. Muitos RHs não tinham esses dados com essa diversidade. Eles tiveram que buscá-los.

A Rankdone está avançando forte com IA, ela já consegue, via IA, gerar testes como inspiração para todo gestor de vaga, seja qualquer área, qualquer tipo de vaga, qualquer assunto. No entanto a Rankdone recentemente recusou o trabalho de um RH que tinha currículos apenas de homens para ser utilizado como fonte de aprendizado (autorizado por esse RH) para ranquear, via sua inteligência artificial currículos, e criar automaticamente testes para uma vaga de vendas na área de serviços em TI.

A preocupação dos CEOs deste tipo de plataforma foi além, não apenas do gênero masculino ou feminino, mas também de CEPs residenciais, universidades, certificações, etc. Quanto maior a diversidade (que muitas vezes não se encontra dentro das empresas e fica apenas no discurso), melhor a IA, melhor para o candidato e o próprio RH.

Mas e os vieses humanos? Como diminuí-los?

Hoje vê-se algumas críticas por parte de candidatos, que se tornam virais em redes sociais. Críticas legítimas de questionamento e melhoria. Esses candidatos, no entanto, conhecem pouco da história de como, apesar de não ser perfeita, a IA têm ajudado eles a evitar vieses humanos.

Hoje qualquer candidato que se candidata a uma vaga, em que a empresa não utiliza um ATS (applicant tracking system) profissional, corre muito mais risco de sofrer viés do que por uma empresa que utiliza um ATS que usa uma Inteligência Artificial testada no mercado.

Viés humano ou cognitivo é uma forma de pensar que foge do racional em situações particulares, como um gatilho não percebido. Segundo Daniel Kahneman, que venceu o prêmio nobel de economia (em 2002, junto com Amos Tversky) , também autor do livro “Rápido Devagar – Duas formas de pensar”, existem diversos vieses humanos, parte deles Kahneman classificou como Heurística. Uma explicação mais completa você encontra em inglês aqui, ainda não traduzido.

Apenas como ilustração, vale analisar o teste aplicado por Kahneman e Tversky em os participantes erraram o número de celebridades masculinas pela heurística disponibilidade.

Kahneman foi um dos precursores da Economia Comportamental. Em 2017 outro a ganhar o prêmio Nobel nessa linha de economia foi Richard Thaler, autor do delicioso livro “Nudge: Como tomar melhores decisões sobre saúde, dinheiro e felicidade”. Entre diversas ações, Thaler ajudou a formar um melhor direcionamento para pessoas doarem órgãos após a morte.

Ora, como confiar nos nossos julgamentos? Não por acaso, Kahneman foi até hoje o único psicólogo a ter ganho um prêmio Nobel de economia. Segundo Kahneman, não é possível confiar em nossas intuições. É preciso sempre ter à mão métodos e estatísticas para uma melhor decisão.

Kahneman aponta no seu livro Rápido Devagar métodos e conceitos para diminuirmos nossos vieses, mas muitos leitores não se lembram nem das heurísticas apontadas… Como vão se lembrar dos métodos de identificá-las e eliminá-las?

O assunto é complexo e precisaria de mais atenção, no entanto é pouco discutido e debatido no ambiente corporativo, apesar de diversas evidências destes problemas, como apontado pela Nature (uma das revistas científicas mais sérias do mundo), no artigo “Let ‘s think about cognitive bias”.

Alguns podem estar batendo no carteiro, mensageiro…

Ainda que imperfeita, ainda que tratando de maneira indireta apenas uma ou duas das diversas heurísticas, a inteligência artificial tem dado cara à tapa com uma transparência maior do que o viés humano, usado em reuniões fechadas para decisão de quem é contratado e quem não é, que todos temos e usamos em nossas decisões muitas vezes preconceituosas, sem nos darmos conta.

A IA em RH, ainda que imperfeita para os padrões de um mundo perfeito, já se mostra melhor que humanos ao menos na tratativa da quantidade de currículos de candidatos inscritos  para uma vaga, pois usa métodos e estatísticas (que podem ser sempre melhorados) que nós humanos jamais teríamos condições de executar com a mesma destreza sem nossas falhas cognitivas (heurísticas).

É importante lembrar que  nenhuma IA para Recrutamento e Seleção foi desenvolvida com a intenção de prejudicar qualquer candidato ou profissional da área de Recursos Humanos.

Conforme apontada pela revista Nature, “One enemy of robust science is our humanity — our appetite for being right, and our tendency to find patterns in noise, to see supporting evidence for what we already believe is true, and to ignore the facts that do not fit.” “Um inimigo da ciência robusta é nossa humanidade – nosso apetite por estarmos certos e nossa tendência de encontrarmos padrões nos ruídos, de vermos evidências de apoio para o que já acreditamos ser verdade e de ignorar os fatos que não se encaixam.”

Entre em contato com um de nossos consultores através de nosso site ou Whatsapp e saiba mais sobre a Rankdone!

Rankdone: Plataforma de testes online, recrutamento e seleção para um RH ágil e moderno.

Selecione o melhor entre os melhores com a nossa plataforma de Recrutamento e Seleção.