信頼に足るAI（Trustworthy AI） その2 Who, What, Why？ How!
前回のコラム「信頼に足るAI その1」から、ISO/IEC42001：2023 Information Technology-Artificial Intelligence-Management system（以下、AIMS）と関連する情報を提供せていただいております。
Who；あなたはだれですか？
日本の総務省、経済産業省から2024年4月19日に「AI事業者ガイドライン（以下、ガイドライン）」が発行されました。このガイドラインでは、AIの安全安心な活用が促進されるよう、日本におけるAIガバナンスの統一的な指針が示されています。
さて、ガイドラインのタイトルである「AI事業者」とは、Q：だれなのか？でありますが、A：それは、「AI開発者」、「AI提供者」、「AI利用者」この3つに大別され、この三者が「AI事業者」であると定義しています。
一方、ISO/IEC42001：2023 における箇条1 適用範囲では、”This documents is applicable to any organization, regardless of size, type and nature, that providers or uses products or services that utilize AI systems.”（ このISO規格書は、組織の規模・業種・性質に関係なく、AI システムを活用した製品の提供及び利用、またはサービスの提供及び利用するあらゆる組織に適用されます。）と規定しています。
このように、自分たちの組織がAIに対してどのように関わっているか、の立場を明確にすることが重要となりますす。
What；あなたの組織は何を提供していますか？
例えば、マルチモーダル学習を使用した「がんの内視鏡画像診断」のAIシステムを開発、実装するA社が、総合病院に提供しているとしましょう。このA社は、
- AIシステムを研究開発している＝AI開発者、
- そのAIシステムをアプリケーションまたは、システムに組み込みB総合病院に提供している＝AI提供者、となるでしょう。
このとき、B総合病院は、AI利用者となり、A社もB総合病院双方が、前述のAIMSの運用対象者となり得るということになります。
このAIシステム及びサービスの便益を享受するB総合病院の患者様は、業務外利用者となり、対象とはなりません。
また、臨床試験データを提供するデータ提供者は、システム開発段階におけるライフサイクルを通じた提携業者となり、提供されたデータ自体がAIMSの対象となる可能性が高いでしょう。
Why；何を目的としてこのマネジメントシステムを運用しますか？
上述の3つの事業者それぞれの役割と責任を示してみましょう。
AI開発者；
役割-AIモデルを直接、設計し、必要に応じ変更を加えることもできる役割を持っている。
責任-自身の開発したAIが、どのような影響を、社会や人に与える可能性があるのか？予測可能なリスクは、管理策を講じておくことが求められます。その中で、予期せぬインシデントが発生した場合、AI開発者としての説明責任を問われる可能性も出てきます。
AI提供者；
役割-AIシステム・サービスをAI利用者に提供する役割を担っています。
責任-AI開発者が意図している範囲で実装し、正常、適正な運用を継続する。人や社会に不利益等を生じさせないよう、安全安心なAIシステム・サービスを提供することが求められます。
AI利用者；
役割-AI提供者が意図した範囲内で適正利用を行うこと。
責任-社会または利害関係者から、AIの能力や出力結果に関して、説明を求められる場合、対応することが求められます。
それぞれの立場に応じた、AIシステムに関わる戦略的な目的や、ミッションがあり、その技術を進化させていくことと思います。
社会や人に与える影響は、イノベーションの機会創造への貢献度合いは大きいものが期待されると考えます。
How; AIシステムをどのように管理しますか？
それらの達成を効果的かつより確実に果たすためには、次のような管理が必須となるでしょう。
- AIに関するポリシーがあり、ポリシーを実践するためのガバナンス体制を構築する。
- AIの利用開始から終了までのライフサイクルにわたるリスクアセスメントを実施し、対応策を講じる。
- 実践のためのマニュアル、チェックシート等を作成し共有され、記録・データとしてその経過や実績を残す。
- 社内関係者の教育を行う。
- 影響評価を含めた有効性の情報収集、評価を行う。
- 自組織の自己チェックを行う、またはレビューを行う。
- インシデントが発生した場合の報告義務に対応する。そして、持続的に改善を行い、管理する。
上述の1、〜7、の管理は、継続的に実施されなければなりません。担当者が変わったり、組織自体に変更が生じたり、AIそのものの知識・技術が進化していきます。
それらに対応し整備するためにも、ガイドラインに沿った運用やISO/IEC42001を満たすマネジメントシステムの構築・運用することを推奨します。
このコラムを作成している現段階では、ISO/IEC42001:2023は、JIS Qが出版されていません。また、認定制度も確かな方向性が示されていません。
しかし、今後、AIMSは、加速的に組織に導入され実績が報告されていくものと考えられます。ご興味がありましたら、その点も含めて、今後、株式会社バリューアップジャパンでは、規格要求事項解釈を含めたセミナー及びコンサルテーションを実施してまいりますので、弊社WEB-Siteまたは、ご案内をチェックしていただけますようお願いいたします。
コラム 執筆 担当
コンサルタント
窪田 嘉代子 Kayoko Kubota
Who；私はバリューアップジャパンで、今後このAIMS構築を担当することになるコンサルタントの窪田です。コンサルタントまたはISOの審査員を20年しています。その中で、AIやデータサイエンスに興味を持ち、もともと文系でしたが、大学の専門課程の2年間を編入学し、IT総合学部を卒業しました。
卒業後は、独学で、G検定、E検定、AI検定を学習し、AIを理解したAIMSコンサルタントを担当しています。
今回のコラムでは、日本におけるAIを管理する制度とISO規格を照合し、記事を書かせていただきました。今後は、コラム読者の皆様と双方向の情報交換などさせていただければ、嬉しいと思っています。
参考文献/引用文献：
総務省 経済産業省 AI事業者ガイドライン（第1.0版）令和6年4月19日
総務省 経済産業省 AI事業者ガイドライン 別添（附属資料）令和6年4月19日
統合イノベーション戦略推進会議決定 人間中心のAI社会原則 平成31年3月29日
AIネットワーク社会推進会議 AI利活用ガイドライン 令和元年8月9日
ISO/IEC42001:2023(E) First edition 2023-12