前回のコラムではAIの安心安全に活用する際の基準の一つであるISO/IEC42001：2023(AIマネジメントシステム)を紹介しました。

今回は、AIの起源、用途、普及によるリスクについて見ていきたいと思います。

信頼に足るAI（Trustworthy AI）　その2　Who, What, Why？ How!

そもそもAIという用語は、1956年ダートマス会議と呼ばれる研究会議で初めて言葉として認知されました。「人工的に、知的なプログラムの開発を目指す」ことが当時の研究の礎を築きました。その後、AIの研究は進化を続け、機械学習、深層学習、自然言語処理、知識表現、パターン認識などの分野で、自動運転（日本における自動運転システムは、条件付き運転自動化）、音声認識（例：スマートフォンの音声入力）、画像認識（例：外観検査や画像の中の犬や猫の検出）、医療診断、金融や株の予測など私たちの日常生活に活かされています。また、近年では、深層学習（ディープラーニング）の技術により、AIが自動的に画像、音楽、映像などを生成する新たな応用分野に広がっています。

AIの応用が広がると同時に懸念も生じてきます。AIが人間の仕事をとって変われるのではないか？という懸念、活用する人々のプライバシーや倫理的な問題についての懸念です。

そのため、AIの開発、AIの利用には、社会的な責任を持つことが求められると同時に、開発、利用そのものの工程（プロセス）上におけるリスク管理が求められ、影響範囲の拡大と比例してその管理責任が重くなります。

深層学習を取り入れた対話型AI自然言語処理である「ChatGPT」（チャット形式の画面で文章生成により対話をする）は、突如、登場したように見えますが、「GPT」の研究は、2015年に開始されていました。その後、2018年に「GPT-1」、2019年に「GPT-2」、2020年に「GPT-3」、2022年「GPT-3.5」が発表され、これを基にした「ChatGPT」がリリースされました。多様な文章生成と対話能力を兼ね備えて、一般ユーザー間でリリースされフィードバックを収集しながら改善されてきました。2023年「GPT-4」さらに性能が向上したモデルが発表されています。

上記の懸念事項で示した倫理的な問題について、「GPT-4」では、『AIの幻覚（ハルシネーション）と呼ばれる現象で、AIが誤認や倫理の矛盾を含む事象や事実とは異なる情報を生成してしまう』現象率が「GPT-3.5」と比較して19％〜29％程度低くなっているものの、発生はしてしまうのが実情です。

ハルシネーションは、企業が生成AIを活用する際のリスクとして代表的なものでもあります。

しかしながら、OpenAIは、ハルシネーションのみならず、規制強化の必要性も課題とし、より安全で堅牢なモデル構築を支援するチーム「OpenAI Red Teaming Network」を立ち上げました。

モデルおよび製品のライフサイクルのさまざまな段階において、教育、経済、法律、言語、政治学、心理学など多様な学問の専門家にリスク評価と緩和戦略に必要な知見を提供してもらい安全性の高いモデルを展開するということです。

このような組織は、Google、Microsoft、他の大手テクノロジー企業も設置しています。

幅広くAIを利用する組織において、前回のコラムで紹介しているISO/IEC42001:2023に基づくAIマネジメントシステムを構築し、運用することがAIのリスク管理に寄与すると考えられます。

ISOの認証は、間接的には、社会的信用の向上による取引拡大、経営戦略につながり、直接的なベネフィットとして、一般に受け入れられているフレームワーク、他の国際標準、および組織自体の経験を組み合わせて、範囲内の特定の AI ユースケース、製品、またはサービスに適したリスク管理、ライフサイクル管理、データ品質管理などの重要なプロセスを実施できます。

ISO/IEC42001の引用規格には、ISO/IEC22989:2022(JIS X 22989:2023)情報技術-人工知能-人工知能の概念および用語、があり、AIユースケース、製品、またはサービスのAIの背景知識を技術的な面で運用する専門性も兼ねていると言えます。

今後、弊社または弊社コンサルタント登壇してのISO/IEC42001:2023解説セミナーも予定しています。AIに関するトレンドをキャッチする機会として、コラムと合わせて今後のセミナー情報を定期的にご確認ください。

コラム 執筆 担当