生成AIの活用が医療・ヘルスケア領域にも広がるなかで、「便利さ」と同じくらい問われ始めているのが安全性の評価です。公益財団法人東京財団は2026年6月16日、オンラインウェビナー「AISIにおける『ヘルスケア領域におけるAIセーフティ評価観点ガイド』の策定とその意義」を開催しました。
テーマは、AIセーフティ・インスティテュートが取りまとめた、ヘルスケア領域に特化したAI安全評価ガイドです。医療AIの開発や導入に関わる人だけでなく、生成AIと医療の距離感を知りたい人にとっても、今後の論点を整理する機会となる内容です。
安全性の評価を、ガイド策定に関わった当事者が解説
今回のウェビナーは、Zoomで開催されました。登壇者は、Ubie株式会社アクセラレーター本部代表／政策渉外参事の井上真夢氏、同社Chief AI Officerの風間正弘氏、東京財団主席研究員の藤田卓仙氏です。
中心となったのは、AIセーフティ・インスティテュートが策定した「ヘルスケア領域におけるAIセーフティ評価観点ガイド」です。AISIは、複数の府省庁や関係機関が横断的に参画する政府関係機関で、AIの安全性をどう評価し、社会実装につなげていくかを扱っています。
ウェビナーでは、同ガイドの評価項目や策定の意図に加え、医療AIの開発・運用現場でどのように活用できるのかが議論されました。登壇者には、ガイド作成に関わったUbieの井上氏と風間氏、検討体制に参画した藤田氏が名を連ねており、制度の紹介にとどまらず、実装の現場から見た課題も扱う構成です。
医療AIのリスクは「間違った答え」だけではない
生成AIは、医師の業務効率化や患者とのコミュニケーション支援、問診、説明文の作成、情報整理、医療機関内の事務支援など、医療現場の負荷を下げる可能性を持っています。特に人手不足や業務過多が続く医療現場では、AIに期待される役割は小さくありません。
一方で、ヘルスケア領域ではAIの誤りが生活者の判断や健康状態に直結しやすいという難しさがあります。生成AIでよく指摘されるハルシネーション、つまり事実に基づかない情報の生成は、一般的な文章作成でも問題になりますが、医療では影響の重さが変わります。誤った症状理解や受診判断につながれば、単なる情報ミスでは済まない場合があるためです。
さらに、健康情報は個人情報のなかでも特に慎重な取り扱いが求められる領域です。プライバシー保護、データ管理、セキュリティ、説明責任、利用者への情報提示など、技術性能だけでは評価しきれない要素が多くあります。今回のガイドが「ヘルスケア領域」に特化している意味は、まさにこの点にあります。
医療機器規制だけでは拾いきれない利用場面が増えている
医療分野には、医療機器としての規制や臨床評価の考え方がすでにあります。ただ、生成AIを含むヘルスケアAIの広がりは、従来の枠組みだけでは整理しにくい部分も含んでいます。
たとえば、ソフトウェアが医療機器に該当する場合は一定の規制対象になります。一方で、生活者向けの健康相談、医療機関の事務支援、医療情報の検索補助、患者コミュニケーション支援などは、用途によってリスクの性質が大きく変わります。直接診断や治療を行わなくても、利用者の判断に影響するサービスはあります。
また、生成AIは入力内容や利用場面によって出力が変わります。従来型のソフトウェアのように、あらかじめ決まった機能を確認するだけでは見えにくいリスクもあります。モデルの更新、学習データ、出力の検証方法、利用者への注意喚起、医療従事者が最終判断を行う設計など、開発後の運用も含めた評価が必要になります。
AISIのガイドは、こうした変化に対して、開発者や導入側がどの観点で安全性を確認すべきかを整理するものです。法規制そのものとは別に、実務上のチェックポイントを共有することで、企業や医療機関が同じ土台で議論しやすくなる点に意義があります。
実務を知る企業がルールづくりに関わる意味
今回の登壇者にUbieの2人が含まれていることも、注目したい点です。UbieはAI問診などで知られるヘルステック企業で、医療現場や生活者との接点に近い領域でAI活用を進めてきました。
井上真夢氏は、政策領域での経験を経てUbieに入社し、政策渉外を担当しています。風間正弘氏は、UbieでAI問診のAI開発チームをリードし、生成AI活用にも関わってきた人物です。
医療AIのルールづくりでは、行政や有識者だけでなく、実際にサービスを開発し、運用する企業の知見が欠かせません。リスクを過小評価すれば利用者保護が弱くなりますが、基準が抽象的すぎると現場で使いにくくなります。実務と政策をつなぐ登壇者構成は、この分野が「議論の段階」から「実装しながら整える段階」へ進んでいることを示しています。
安全性の説明は、医療AI企業の信頼にも直結する
ヘルスケアAIの安全評価は、利用者保護だけでなく、企業側の競争条件にも関わります。AIサービスを医療機関、製薬企業、保険者、自治体などが導入する場合、安全性や説明責任をどう担保しているかは、採用判断の重要な材料になります。
特に医療・ヘルスケア領域では、「便利だから使う」だけでは導入が進みにくい面があります。誤情報への対策、専門家による監修、利用範囲の明確化、ログ管理、個人情報保護、セキュリティ体制などを説明できなければ、実証実験から本格運用に移るハードルは高くなります。
その意味で、安全評価ガイドは事業者の負担を増やすだけのものではありません。自社の安全対策を説明するための共通言語にもなります。医療AIの開発企業にとっては、ガイドに沿ってリスクを整理し、導入先と対話することが、信頼獲得の前提になっていきそうです。
生活者にとっても「AIに何を任せるか」を考える材料に
医療AIの議論は、専門家や企業だけのものではありません。生活者にとっても、自分や家族の健康に関する情報をAIにどこまで相談するのか、AIの回答をどう受け止めるのかは、今後さらに身近なテーマになります。
大切なのは、AIを一律に危険視することでも、万能視することでもありません。症状の整理、受診行動の後押し、医療者とのコミュニケーション補助など、AIが役立つ場面はあります。ただし、多くの場合、診断や治療方針の最終判断を代替するものではありません。サービスごとの目的や利用条件を理解することが必要です。
安全評価ガイドが整備されることで、企業や医療機関は「このAIは何を目的にしているのか」「どのリスクにどう対応しているのか」を説明しやすくなります。利用者側も、機能の多さだけでなく、安全性への向き合い方を見てサービスを選ぶ視点を持ちやすくなるはずです。
生成AIを医療にどう取り入れるかは、技術の問題であると同時に、信頼の設計でもあります。AISIのガイドと今回のウェビナーは、医療AIを社会で使っていくために、何を評価し、誰が説明し、どこまで任せるのかを考える入口になる取り組みです。
【イベント情報】名称：AISIにおける「ヘルスケア領域におけるAIセーフティ評価観点ガイド」の策定とその意義
日時：2026年6月16日（火）15:00〜16:30
形式：Zoomウェビナー
登壇者：井上真夢、風間正弘、藤田卓仙
主催：公益財団法人東京財団
