高リスク分野のための機械学習 責任あるAI構築のための実践アプローチ

高リスクな分野での安全なAI運用を実現する！
本書は、機械学習が雇用、融資、保釈、セキュリティなどといった高リスクな意思決定の分野において活用されるなか、説明責任・公平性・プライバシーなどの課題にどう取り組むかを明らかにします。アルゴリズムによる差別やデータ漏洩といった実例を踏まえつつ、機械学習の失敗を未然に防ぐための実践的フレームワークを提示します。Pythonの実装例も充実しており、責任あるAIの構築を目指す読者に不可欠な1冊です。

【著者紹介】
パトリック・ホール : ＢＮＨ．ＡＩの主任科学者であり、フォーチュン５００企業および最先端のスタートアップ企業に対してＡＩリスクに関する助言を行っている。また、ＮＩＳＴのＡＩリスクマネジメント・フレームワーク（ＡＩ　ＲＭＦ）を支援する研究にも従事している。さらに、ジョージ・ワシントン大学ビジネススクール意思決定科学学部の客員教員として、データ倫理、ビジネス分析、機械学習の授業を担当している。ＢＮＨ．ＡＩを共同創設する以前は、Ｈ２Ｏ．ａｉにおいて責任あるＡＩの取り組みを主導し、機械学習における説明可能性およびバイアス軽減を目的とした、世界初の商用アプリケーションの１つを開発した。また、ＳＡＳ　Ｉｎｓｔｉｔｕｔｅにおいては、グローバルな顧客対応および研究開発の職務を歴任した。学歴としては、イリノイ大学にて計算化学を学び、ノースカロライナ州立大学のＩｎｓｔｉｔｕｔｅ　ｆｏｒ　Ａｄｖａｎｃｅｄ　Ａｎａｌｙｔｉｃｓを修了している

ジェームズ・カーティス : Ｓｏｌｅａ　Ｅｎｅｒｇｙにおける定量的研究者であり、統計的予測を活用して米国の電力網の脱炭素化を推進することに注力している。以前は、金融サービス機関、保険会社、規制当局、医療提供者に対するコンサルタントとして、より公平なＡＩ・機械学習モデルの構築支援に従事していた。コロラド鉱山学校（Ｃｏｌｏｒａｄｏ　Ｓｃｈｏｏｌ　ｏｆ　Ｍｉｎｅｓ）にて数学の修士号を取得している

パルル・パンディ : 電気工学のバックグラウンドを持ち、現在はＨ２Ｏ．ａｉの主任データサイエンティストとして勤務している。それ以前は、Ｗｅｉｇｈｔｓ　＆　Ｂｉａｓｅｓ社において機械学習エンジニアとして従事していた。Ｋａｇｇｌｅのノートブック部門ではグランドマスターの称号を持ち、２０１９年にはＬｉｎｋｅｄＩｎにおいてソフトウェア開発分野のトップボイスの１人に選出された。また、データサイエンスおよびソフトウェア開発に関する記事を多数執筆しており、責任あるＡＩに関連するテーマで、指導、講演、ワークショップ講師としても幅広く活動している

高江洲勲 : 三井物産セキュアディレクション株式会社。シニアプロフェッショナル。情報処理安全確保支援士。ＣＩＳＳＰ。ＡＩセキュリティに着目し、機械学習アルゴリズムの脆弱性に関する研究や、機械学習を用いたセキュリティタスク自動化の研究を行っている。研究成果は、世界的に著名なハッカーカンファレンスであるＢｌａｃｋ　Ｈａｔ　Ａｒｓｅｎａｌ（ＡＳＩＡ、ＵＳＡ、ＥＵＲＯ）やＤＥＦＣＯＮ　Ｄｅｍｏ　Ｌａｂｓ／ＡＩ　Ｖｉｌｌａｇｅ、ＣＯＤＥ　ＢＬＵＥ、ＢＳｉｄｅｓ（Ｔｏｋｙｏ、Ｓｉｎｇａｐｏｒｅ）、ＡＶＴＯＫＹＯなどで発表している。近年はセキュリティ・キャンプ（２０１９年より講師、また２０２２年からは講師兼プロデューサーとして参画）に携わるなど、教育にも力を入れている

伊東道明 : 株式会社ＣｈｉｌｌＳｔａｃｋ代表取締役ＣＥＯ。長年ＡＩ×セキュリティ領域の研究に従事し、国際学会ＩＥＥＥ　ＣＳＰＡ２０１８にて最優秀論文賞、ＩＰＡセキュリティキャンプ・アワード２０１８最優秀賞を受賞している。自身が国際セキュリティコンテストでの優勝経験をもち、セキュリティ・キャンプにて講師として人材育成にも携わっている。さまざまな研究開発の経験を経て２０１８年にＣｈｉｌｌＳｔａｃｋを創業。Ｆｏｒｂｅｓ　３０　Ｕ３０　Ａｓｉａ　２０２５　ＡＩ部門に選出

園田道夫 : 情報通信研究機構など所属。サイバーセキュリティの人材育成に長年携わるが、育成されている側だという説もある。得意技はイベントからの育成事業企画。近年もう１つの得意技であるパターン認識と言語化を武器としてさまざまなセキュリティに関わる事象、人材育成に関わる事象の数理モデル化の研究を行っている

北條孝佳 : 西村あさひ法律事務所・外国法共同事業パートナー弁護士。元警察庁技官としての技術的バックグラウンドを持ち、弁護士として法務を含めた企業などのサイバーセキュリティ全般を取扱い、多数の事案に対応している。国立研究開発法人情報通信研究機構・招へい専門員、埼玉県警察・サーバー犯罪対策技術顧問、徳島県警察・サイバー犯罪対策テクニカルアドバイザー、ＮＰＯデジタル・フォレンジック研究会・理事など多数の委員等を務める

石川太一 : 新卒で総合商社に入社し、情報システム部門に配属。ＩＴセキュリティ担当者としてＤＸ案件のセキュリティ支援態勢構築を主導。その一環として、グローバル・グループにおける生成ＡＩガイドラインの作成の展開や、ＡＩ×セキュリティ領域のＲ＆Ｄに取り組む。商社入社的は、米国カーネギーメロン大学大学院でＩＴセキュリティを専攻し、ＡＩアルゴリズムの応用研究に従事（本データはこの書籍が刊行された当時に掲載されていたものです）