機械学習のリスクを理解する

Galvanize

今や機械学習は、会社組織が構造化/非構造化データを分析したり、新興リスクを特定したり、設定されたトリガ条件に合致する手作業タスクを自動化したり、データ主導型の意思決定を下したりするうえで非常に重要な役割を果たしています。 機械学習を取り入れることによって、多大な労力がかかる手作業を自動化に置き換えられ、リスクの評価や監視、軽減により効果的な意思決定を下せる知識を提供できることが、最も望ましい戦略です。

しかし、機械学習はリスクマネジメント ツールである一方、同時に多くのリスクをもたらすおそれもあります。 49% の企業が機械学習の利用を検討または計画していますが、機械学習に伴うさまざまなリスクを認識しているのはごく一部の企業だけです。 マッキンゼーが実施したグローバル調査によると、機械学習のリスクを包括的に特定し、優先度を決定することができると回答したのはわずか 41% でした。

そういう訳で、機械学習関連のリスクとその適切な評価・管理方法についていくつか紹介したいと思います。

機械学習のリスクとは?

低品質のデータ
機械学習モデルは、実行するタスクのコンテキストを把握できません。 機械学習が機能するには、人間が入力した学習データが必要です。(この問題では、よく「Garbage in, garbage out(ゴミを入れたらゴミが出てくる)」という表現が使われます。) たとえば、いわゆる「汚れたデータ」には、データに含まれる誤りや、異常値(ほかの数字群と著しく異なり、平均を大きく乱す数字)や、モデルで適切に解釈できない非構造化データ(「ノイズ」)があります。

過剰適合
過剰適合状態にあると、学習データが必要以上に完璧にモデルと適合してしまい、アルゴリズムの学習に必要とする変動が足りません。 その結果、実際のデータを検証する際に一般化できなくなってしまいます。

データの偏り
データに偏りがあると、データセットに人的バイアスが紛れ込み、結果の有意性が失われます。 自撮り写真を編集できる人気アプリの FaceApp を例に挙げると、初めの頃は、肌のトーンを明るくして、顔を「魅力的」に見せるよう学習していました。明るい肌トーンの人の顔写真が非常に多く取り込まれていたから起きたことです。 ダイバーシティやインクルージョンが当初の学習データに考慮されていなかったとしたら、検証結果に偏見が表れていることでしょう。

そのほかの機械学習リスク

学習データセットが適切でないというアルゴリズムの問題以外にも、多くの会社組織が機械学習技術の導入で様々な問題に直面しています。 具体的には次のような問題です。

  • 戦略や経験の不足
    新しい技術を導入するときには、常に学習曲線に直面することになります。 しかし、機械学習では、最大のリスクの 1 つはユーザーの経験または経験不足です。 幅広い業界に携わる 2,000 人を対象とした調査では、明確な戦略の欠如(43%)、スキルセットを備えた人材の欠如(42%)が機械学習導入にとっての最大の障壁であることがわかりました。 戦略や適切なスキルセットがなければ、効果があるかないかわからないソリューションで時間やリソースを浪費することになります。組織に損害を引き起こす可能性さえ否定できません。
  • セキュリティの脆弱性
    古いデータソースがモデルに含まれていると、質の低いインテリジェンスにより組織にセキュリティの脆弱性を運び入れてしまうおそれがあります。
  • 規制の問題
    組織のチームがアルゴリズムによる意思決定の仕組みを正しく理解していなければ、知識不足により、規制当局に対して決定内容の根拠を示すことができないかもしれません。
  • サードパーティ リスク
    契約する取引業者が機械学習ソリューションを適切に管理できないと、データ侵害を招くおそれがあります。

機械学習のリスクの評価方法

しかし、こうしたリスクがあるからといって、機械学習を組織に取り入れることが愚かだということではありません。 何が言いたいのかというと、組織として秩序をもってこうした技術を導入し、組織全体で運用されるそのソリューションを管理するフレームワークを確実に設けることが重要だということです。

そこで、機械学習ソリューションを導入することで組織が直面するかもしれないリスクを評価し管理するため、次の対策を取りましょう。

  • 機械学習に特化したリスクマネジメント フレームワークを導入する。実際に直面する状況まで網羅できないかもしれない標準のリスクマネジメント フレームワークに頼らない。
  • 機械学習における効果的なリスクマネジメントの進め方について、組織全体に教育を行う
  • 評価条件を設けて、企業全体でフォーカスすべきリスクの優先順位をつける
  • 会社組織全体の関係者から寄せられるフィードバックに基づき、リスク プロファイルとリスク選好度を定期的に再評価する

確かな手順を導入して適切な人材、戦略、スキルを整えることで、機械学習のリスクを特定して優先順位を設け、この素晴らしい技術を最大限に活用できるようになるでしょう。

詳細表示

機械学習は会社組織に数えきれない可能性をもたらしてくれますが、その導入と管理には慎重を期し、新興リスクが入り込まないようにしっかりと統制する必要があります。 機械学習のリスクを適切に管理し、そして低減する方法について詳しくは、Galvanize が発行している eBook をご覧ください。

eBook:

機械学習を使用するためのリスクに基づくアプローチ

機械学習におけるリスクの特定、評価、管理の役割、そして次の方法を明らかにします。

  • 一般的な機械学習リスクを特定、評価、管理する
  • 機械学習を活用してリスク評価をサポートする
  • 機械学習を活用して不正を暴く

eBook をダウンロード

関連記事

lang="en-US"