Dia Internacional da Mulher: Eliminando o preconceito de gênero nas finanças

Sharon Lee, 19 de Março de 2021

A interrupção causada pela pandemia levou a uma grande mudança para as plataformas online e digitais. Nosso mundo já estava se tornando cada vez mais interconectado, mas no ano passado essa mudança foi dramaticamente acelerada, criando grandes quantidades de dados em torno de nossos hábitos bancários diários. Inteligência Artificial (IA) e Aprendizado de Máquina (ML) deram a bancos e instituições financeiras recursos essenciais para agir instantaneamente no acelerado mundo digital de hoje. Não muito tempo atrás, teria parecido incompreensível para muitas pessoas que essas ferramentas digitais seriam capazes de detectar atividades suspeitas e potencialmente fraudulentas em uma enorme quantidade de dados em tempo real.

No entanto, embora essas ferramentas sejam excepcionais para o reconhecimento de padrões em big data e para automatizar a tomada de decisões, como detectar atividades fraudulentas e, posteriormente, implementar medidas de segurança adicionais, outras tarefas que utilizam as tecnologias geraram preocupações. Por exemplo, em 2019 O cartão de crédito da Apple foi rotulado como 'sexista' quando foi revelado que os algoritmos usados para determinar os limites de crédito tendiam contra as mulheres. Em um caso, Steve Wozniak, cofundador da Apple, recebeu uma oferta quase dez vezes maior do que sua esposa.

Isso demonstra que, embora as ferramentas de IA e ML possam ser econômicas e aumentar muito a eficiência operacional, ainda há mais trabalho a ser feito para garantir que a tecnologia não discrimine certos grupos minoritários, como as mulheres. Para começar a entender como podemos melhorar o uso de IA e ML nas finanças, devemos aprender com os exemplos anteriores no setor e na sociedade em geral.

Instâncias de tecnologia tendenciosa na sociedade

A tecnologia de IA e ML já desempenha papéis importantes nos negócios, bem como na sociedade em geral, e prevê-se que seu uso continue crescendo na próxima década. À medida que a adoção aumenta, é necessário um foco maior em minimizar o risco de discriminação e preconceito da forma mais eficaz possível.

O problema agora é que os modelos de IA e ML são alimentados com dados massivos que podem ser tendenciosos em primeiro lugar, porque os dados podem não ser uma amostra representativa do mundo real ou simplesmente capturam vieses em nossa sociedade. Os modelos de ML são capazes de reconhecer padrões nos dados, incluindo preconceitos e, portanto, discriminar um grupo específico de pessoas por causa de seu gênero. Isso também se aplica a fatores como idade, origem econômica e raça. Por exemplo, as universidades que usam a tecnologia de IA para a triagem de candidatos podem selecionar adversamente possíveis alunos com base em suas informações pessoais, como raça, cidade natal, renda familiar. Vieses algorítmicos semelhantes também podem estar presentes em aplicativos de trabalho de processamento.

Os algoritmos de IA e ML não entendem o que é discriminação, então as organizações precisam estar cientes dos possíveis vieses da IA e desenvolver uma estratégia para detectar e mitigar sua capacidade de fazer isso, ou para entender melhor por que tomam certas decisões com base em dados. Obter esse entendimento permitirá que bancos e instituições financeiras criem modelos melhores, mais capazes de eliminar vieses nas tecnologias de IA e ML.

Melhorando as tecnologias de IA para moldar um futuro igual

Para começar a criar um futuro justo e igual usando tecnologias de IA e ML, precisamos estabelecer uma compreensão de por que uma ferramenta de IA toma uma determinada decisão. Por que o algoritmo de cartão de crédito da Apple ofereceu menos crédito a uma mulher do que a um homem, mesmo quando seus ativos e histórico de crédito eram os mesmos? As organizações que automatizam suas operações usando essas tecnologias exigem uma maneira transparente e responsável de garantir que os casos de vieses de IA que podem potencialmente levar à discriminação sejam rapidamente identificados e tratados.

O trabalho começou em modelos de AI explicáveis (XAI) para ajudar a lançar luz sobre os processos de tomada de decisão de tais algoritmos. Algumas organizações já estão trabalhando com esse tipo de tecnologia. Em finanças, obter esse entendimento permitirá que bancos e instituições financeiras identifiquem possíveis causas de discriminação, como preconceito de gênero. As tecnologias de IA e ML certamente podem cortar custos e aumentar a eficiência operacional, mas ainda precisa haver um elemento humano nesses processos para garantir que ninguém fique em desvantagem por causa de seu gênero ou qualquer outra característica identificável.

Os reguladores tendem a ficar para trás na emissão de legislação para essas tecnologias inovadoras, mas está rapidamente se tornando aparente que uma estrutura legal é necessária para orientar a aplicação real das tecnologias de IA e ML. Como eles já estão sendo amplamente usados em diferentes setores, é provável que seja algo com o qual veremos governos e órgãos da indústria lidarem em um futuro previsível. Enquanto isso, como indústria, será importante continuar a colaborar com organizações do setor público e privado para criar um mercado transparente e uma sociedade justa para todos.

Análise de risco para prevenção de fraude: principais casos de uso em bancos
Relatório branco

Análise de risco para prevenção de fraude: principais casos de uso em bancos

Para ajudar os executivos do setor bancário a entender melhor o valor de um sistema de análise de risco impulsionado pelo aprendizado de máquina, este white paper explica o monitoramento contínuo de fraude e a avaliação dinâmica de risco no contexto dos principais casos de uso bancário.

Baixar Agora

Este blog, escrito por Sharon Lee, gerente de pesquisa e inovação, Cambridge Innovation Center, OneSpan, foi publicado pela primeira vez em GlobalBankingandFinance.com em 8 de março de 2021.

Sharon é gerente de pesquisa e inovação no OneSpan Innovation Centre, Cambridge, Reino Unido. Sharon recebeu seu PhD em engenharia na Universidade de Cambridge e M.Phil e B.Eng em engenharia eletrônica na Chinese University of Hong Kong.