国際女性の日:金融におけるジェンダーバイアスの排除

Sharon Lee, 2021年3月19日

パンデミックによって引き起こされた混乱は、オンラインおよびデジタルプラットフォームへの大きなシフトを引き起こしました。 私たちの世界はすでにますます相互接続されてきましたが、この1年間でこの変化は劇的に加速し、私たちの日常の銀行業務に関する膨大な量のデータを作成しました。 人工知能(AI)と機械学習(ML)銀行や金融機関に、今日のペースの速いデジタル世界で即座に行動するための重要な機能を提供しています。 それほど昔のことではありませんが、これらのデジタルツールが膨大な量のデータから疑わしい、潜在的に不正な活動をリアルタイムで検出できることは、多くの人にとって気が遠くなるようなことでした。

ただし、これらのツールは、ビッグデータでのパターン認識や、不正行為の検出やその後の追加のセキュリティ対策の実装などの意思決定の自動化には優れていますが、テクノロジーを利用する他のタスクでは懸念が生じています。 たとえば、2019年にAppleのクレジットカードには「性差別主義者」というラベルが付けられていました与信限度額を決定するために使用されるアルゴリズムが女性に対して偏っていたことが明らかになったとき。 あるケースでは、Appleの共同創設者であるSteve Wozniakが、妻のほぼ10倍の金額を提供されました。

これは、AIおよびMLツールは費用効果が高く、運用効率を大幅に向上させることができますが、テクノロジーが女性などの特定のマイノリティグループを差別しないようにするために行うべき作業がまだまだあることを示しています。 金融におけるAIとMLの使用を改善する方法を理解し始めるには、業界およびより広い社会における過去の例から学ぶ必要があります。

社会におけるバイアス技術の事例

AIとMLテクノロジーは、ビジネスだけでなくより広い社会でもすでに主要な役割を果たしており、それらの使用は今後10年間にわたって成長し続けると予測されています。 採用が増えるにつれ、差別や偏見のリスクを可能な限り効果的に最小限に抑えることにさらに焦点を当てる必要があります。

現在の問題は、AIモデルとMLモデルに大量のデータが供給され、データが現実世界の代表的なサンプルではないか、単に社会のバイアスを捉えているため、そもそもバイアスがかかる可能性があることです。 MLモデルは、バイアスを含むデータのパターンを認識できるため、性別によって特定のグループの人々を区別できます。 これは、年齢、経済的背景、人種などの要因にも当てはまります。 たとえば、候補者のスクリーニングにAIテクノロジーを使用している大学は、人種、出身地、世帯収入などの個人情報に基づいて、入学希望者を不利に選択する可能性があります。 同様のアルゴリズムのバイアスは、求人応募の処理にも存在する可能性があります。

AIとMLのアルゴリズムは差別とは何かを理解していないため、組織は潜在的なAIバイアスを認識し、それを検出して軽減する戦略を開発するか、データに基づいて特定の決定を行う理由をよりよく理解する必要があります。 この理解を得ると、銀行とFIは、AIおよびMLテクノロジーのバイアスを排除できるより優れたモデルを作成できるようになります。

平等な未来を形作るためのAI技術の改善

AIとMLテクノロジーを使用して公平で平等な未来を作り始めるには、AIツールが特定の決定を下す理由を理解する必要があります。 資産と信用履歴の両方が同じであるにもかかわらず、Appleのクレジットカードアルゴリズムが女性に男性よりも少ないクレジットを提供するのはなぜですか? これらのテクノロジーを使用して運用を自動化する組織は、差別につながる可能性のあるAIバイアスのケースを迅速に特定して対処できるようにするための透明で説明責任のある方法を必要としています。

そのようなアルゴリズムの意思決定プロセスに光を当てるのに役立つ説明可能なAI(XAI)モデルの作業が開始されました。 一部の組織は、すでにこのタイプのテクノロジーに取り組んでいます。 金融では、この理解を得ることで、銀行やFIは、性差別などの差別の潜在的な原因を特定できるようになります。 AIとMLテクノロジーは確かにコストを削減し、運用効率を高めることができますが、性別やその他の識別可能な特性のために誰も不利にならないようにするために、これらのプロセスには人的要素が必要です。

規制当局は、このような革新的なテクノロジーの法案の発行に遅れをとる傾向がありますが、AIおよびMLテクノロジーの実際のアプリケーションを導くために法的枠組みが必要であることがすぐに明らかになりつつあります。 それらはすでにさまざまなセクターで広く使用されているため、近い将来、政府や業界団体が対処するものになる可能性があります。 その間、業界として、透明性のある市場とすべての人にとって公正な社会を構築するために、民間部門と公共部門の両方の組織と協力し続けることが重要です。

不正防止のためのリスク分析:銀行業務の主な使用例
Whitepaper

詐欺防止のためのリスク分析: 銀行業務における主なユースケース

このホワイトペーパーでは、銀行幹部が機械学習によるリスク分析システムの価値をより深く理解できるように、継続的な不正監視と動的なリスク評価について銀行業務における主なユースケースの観点からご説明します。

今すぐダウンロード

OneSpanのCambridgeInnovationCentreのリサーチおよびイノベーションマネージャーであるSharonLeeによって書かれたこのブログは、最初に公開されました。 GlobalBankingandFinance.com 2021年3月8日。

Sharonは、英国ケンブリッジのOneSpanイノベーションセンターのリサーチ&イノベーションマネージャーです。 シャロンはケンブリッジ大学で工学の博士号を取得し、香港中文大学で電子工学のM.PhilとB.Engの学位を取得しました。