日本デジタルヘルス・アライアンスがヘルスケア領域に特化した生成AI活用のガイドラインを策定

2024年1月18日

～生成AIによるサービスを生活者が安心して利用できる基盤づくり～

株式会社テックドクター（代表取締役：湊

和修、本社：東京都中央区、以下：テックドクター）が参画する「日本デジタルヘルス・アライアンス」（以下「JaDHA」）は、「デジタルヘルスアプリの適切な選択と利活用を促す社会システムWG」にて、ヘルスケア事業者が生成AIを活用するためのガイドラインとして、「ヘルスケア事業者のための生成AI活用ガイド」（以下「本ガイドライン」）を策定したので公表します。

本WGにはベンチャー企業をはじめ、医薬品企業からIT企業とヘルスケア領域に関わる幅広い分野の企業11社が参画しています。（以下、本ガイドラインの策定に関する株式会社日本総合研究所ニュースリリースの引用：

■本ガイドライン策定の背景

ヘルスケア領域において、生成AI（Generative

AI）は、医学論文や高度な医学専門文書の要約のほか、患者への説明文案の生成など、医師の業務効率化をサポートするための利活用が急速に広がっています。また、患者と医師の会話における文脈を理解しながら診療記録を生成するAIや、対話を通じて利用者個々に最適な健康増進行動を提案する対話型AIなど、より高度なサービスについての開発も積極的に進められている状況です。

生成AIの利活用拡大が勢いを増す中で、生成AIがもたらす副作用についての指摘も多く聞かれるようになりました。例えば、一般的なデータで学習したモデルでは学術用語や専門用語などを正しく扱えず、生成されたアウトプットが不確かな情報である可能性があります。また、参照したデータに信頼性の低い情報を含んでしまった場合には、利用者の健康や生命を脅かす危険性さえ生じさせることになります。さらに、収集した個人情報が目的外で利用されたり、その過程で流出したりするリスクなども想定されます。

そうした中、生成AIを組織がスムーズに導入するための利用ガイドラインを策定する動きが現れるようになっています。内閣府のAI戦略会議でも、AIの安全安心な活用が促進されイノベーションの促進と連鎖リスクの緩和を両立する枠組みを共創することを目指し、「AI事業者ガイドライン案」を2023年12月21日に公表しています(注1)。

一方、ヘルスケア領域は、利用者の健康や生命に関わり、特に機微性の高い要配慮個人情報を取り扱います。そのため、一般的なガイドラインとは別に、業界固有の社会的責任やリスクを十分に考慮した取り組みが欠かせません。

■本ガイドラインの概要

JaDHAでは、ヘルスケアサービスを提供する事業者が、生成AIによる多様なサービスを創出し、利用者が安心してサービス選択できる環境を構築することを目的に、いち早く本ガイドラインを策定しました。生成AIを活用したサービスを設計・開発・提供する際に留意すべき事項について、大きく以下の4点を挙げてまとめています。

１.活用する基盤モデルの選定

生成AIの基盤モデルについては、現在、数十種類が利用可能とされており、クラウド型やローカル型、汎用型や専門特化型など多種多様な基盤モデルが開発されています。ただし、基盤モデルは学習データの内容が異なる、商用利用が制限される場合があるなど、各モデルによって特徴や用途・性能が異なります。そこで、本ガイドラインでは、基盤モデルの特徴や用途・利用可能範囲を事前に確認・判断し、適切なモデルを選定する方法について解説しています。

２.さまざまな場面での適切なデータの取り扱い

生成AIの設計・開発・提供においては、「追加学習させるためのデータ」「新たなタスクを学習させるための少量のサンプル・事例データ」「利用者が入力する質問データ」といった多様なデータの取り扱いが発生します。その際に必要な、要配慮個人情報や著作権の扱い、目的外利用を防ぐ対策などのさまざまな留意事項について解説しています。また、適切なデータの取り扱いのため、最新の規制・制度の情報収集を行うなど、データ保護に関する体制整備についても触れています。

３.アウトプットの信頼性確保や利用者への適切な説明

生成AIからは、事実と異なる内容が出力されるケースが存在することも事実です。そのため、この事実を所与としながら、技術面や仕組面でアウトプットの信頼性を確保するための制御を開発段階から行うなどの工夫について解説しています。また、利用者の理解度やリテラシーが十分でないことを前提に、適切な利用に向け、生成AIの性質や特徴をあらかじめ伝えるための丁寧な説明・表示の方法についても説明しています。

４.ヘルスケア領域での規制面

生成AIを活用した機能やサービスが、医療機器プログラムに該当するケースも存在します。その際に必要となる、適切な該当性判断と規制、また、適切な広告表現や表示を行うための規制について解説しています。また、規制について、開発・提供の段階から十分に注意を払うことについても注意喚起を行っています。

上記については、本ガイドライン（「概要版」および「全体版」）として取りまとめました。また、留意すべき点を簡便に確認できる「ヘルスケア事業者の生成AI活用時のチェックリスト」も策定しています。

・ヘルスケア事業者のための生成AI活用ガイド（概要版）・ヘルスケア事業者のための生成AI活用ガイド（全体版）・ヘルスケア事業者の生成AI活用時のチェックリスト

※ガイドラインおよびチェックリストの詳細は、株式会社日本総合研究所ニュースリリースをご参照ください。

https://www.jri.co.jp/company/release/2024/0118-02/

なお、本ガイドラインは、ヘルスケア領域で最も広く活用されていると考えられる文章（テキスト）生成AIを対象としています。また、ヘルスケアサービスのうち、原則として医療機器または医療機器プログラム以外での利活用を対象として策定しています。

■今後の予定

急速な新技術の進歩に伴い、生成AIの技術特性と活用方法、関連制度や規制内容なども変化や進化していくことが予想されます。JaDHAでは、本ガイドラインを適宜見直し、事業者がタイムリーに適正なサービスを提供できるように取り組んでいく予定です。

また、生成AIを活用したヘルスケアサービスが浸透し、疾患の早期発見や治療、未病の予防に寄与することで、生活者の健康意識を高め、国民の健康増進を促すことが期待されています。JaDHAでは、ヘルスケア業界全体での本ガイドラインの普及・浸透を推進すると共に、生成AIを活用したヘルスケアサービスが、安全・安心な状態で市場に提供されることを実現すべく、必要な規制改革の在り方などを検討してまいります。

■検討体制

本ガイドラインは、JaDHAの「デジタルヘルスアプリの適切な選択と利活用を促す社会システム

ワーキンググループ」(以下「本WG」)によって策定されました。本WGは、ベンチャー企業をはじめ、医薬品企業からIT企業とヘルスケア領域に関わる幅広い分野の企業で構成されています。

・Ubie株式会社（本WGリーダー企業、

https://ubie.life/）・株式会社Welby（

https://welby.jp/）・小野薬品工業株式会社（

https://www.ono-pharma.com/ja）・株式会社サイバーエージェント（

https://www.cyberagent.co.jp/）・シスメックス株式会社（

https://www.sysmex.co.jp/）・シミック株式会社（

https://www.cmicgroup.com/）・株式会社Save Medical（

https://savemedical.co.jp/）・タウンドクター株式会社（

https://npartner.jp/）・株式会社テックドクター（