はじめに
この報告書は、オーストラリア政府が医療分野における安全で責任ある人工知能（AI）の立法と規制に関するレビューの最終出力です。既存の法制度を検討し、公聴会を通じて利害関係者の意見を集めることで、医療におけるAIの応用が現在の法律や規制に与える影響を評価し、非規制措置の潜在的な役割を探ります。報告書の焦点は、既存の立法におけるギャップや欠陥を特定し、より安全で責任あるAIの医療分野への適用を促進するための提案を行うことです。
オーストラリア政府の全体戦略
報告書は、AIの恩恵を受けつつも公衆の信頼を築くことを目指すオーストラリア政府のAI分野における全体戦略から始まります。政府は、規制の明確化、最良のガバナンスの支援と促進、AI能力の構築の支援、政府自身がロールモデルとなること、国際協力の開始という5つの行動ステップを取りました。2024-25年度の予算配分は、消費者保護法、知的財産法、医療法の見直しを優先し、これらの法律がAIに適用可能かどうかを理解することを目的としています。保健省は、オーストラリアの医療環境におけるAIの立法と規制を明確化し強化することを目指して公聴会を行いました。
主要な調査結果
報告書の中心は7つの主要な調査結果です。
調査結果1: 現行の規制環境
オーストラリアの医療規制は、州/準州と国家レベルの法制度が絡み合う複雑なネットワークです。既存の国家法制度（プライバシー法、消費者保護法、医薬品法、医療専門職に関する規制など）が医療におけるAIの使用に影響を与えています。保健省が見直した法制度は、高齢者ケア、メディケアベネフィット、医薬品ベネフィット、マイヘルスレコード、医療識別子などの核心的な医療システムを支える管理指向のものが多いです。明確性を向上させるために若干の技術的な改正が必要になるかもしれません。既存の規制でカバーされていない医療製品については、包括的なAIの保護措置（市場投入前および市場投入後の要件を含む）が信頼性を高め、革新を促進することができます。
調査結果2: 国家AI医療政策リーダーシップ
公聴会では、オーストラリアの医療分野においてAIの恩恵を公平に享受するための国家的かつ中央的な政策ガイダンスの必要性が明らかになりました。AIの医療分野への採用と実装に関連する独自のガバナンスリスク、特定の人口統計学的特性に対するAIの影響の証拠的理解、広範な影響を持つ新製品に関する迅速なガイダンス、AIの急速な革新に追いつくこと、AIの医療専門職への影響などが含まれる可能性があります。これは、AI技術における機密医療データの倫理的、安全で責任ある使用、医療サービスにおけるAIの採用と実装に関連する独自のガバナンスリスク、特定の人口統計学的特性に対するAIの影響の証拠的理解、広範な影響を持つ新製品に関する迅速なガイダンス、AIの急速な革新に追いつくこと、AIの医療専門職への影響などを含む可能性があります。
調査結果3: 安全な実装のためのリソースとサポート
AIの安全で責任ある実装に関する知識ギャップが存在します。医療におけるAIの証拠に基づいた実装をサポートする高品質で最新のガイドラインが不足しており、医療現場における人間と機械の相互作用に関する考慮事項も不足しています。新規AI技術のライフサイクル全体にわたる評価と検証に関するガイダンスには、AI使用環境の適切性の評価、トレーニングおよび検証に使用されるデータセットの品質と関連性の評価、出力精度の監視、特定の人口層と医療サービスのニーズに合わせた製品選択のサポート、人間と機械のチームでのAIの実装のサポート、臨床環境でのAIの実装の試験サポートなどが含まれる可能性があります。
調査結果4: 医療専門家と消費者向けの高品質で信頼できる情報の必要性
高品質で信頼できる情報源の集中化は、消費者と医師がAI製品に関する情報に基づいた判断を行うのに役立ちます。医療におけるAIに関する低品質で誤解を招く情報の存在は、意思決定に悪影響を及ぼす可能性があります。さらに、AIを使用して医療に関する情報を生成すると、低品質の出力が生じることがあります。医療におけるAIに関する信頼性が高く、正確で、信頼性が高く、タイムリーな情報源へのアクセスは、その安全で責任ある使用をサポートするために不可欠です。
調査結果5: 利益の実現
現在、医療におけるAIの潜在的な利益を支持する十分な証拠がありません。質的および定量的な指標を含む利益フレームワークの確立により、AIが医療にもたらす利益についての洞察を得ることができます。これにより、利害関係者が医療システム内で最も効果的なAIの応用を特定し、投資決定とAIの利益の公平な分配をサポートすることができます。
調査結果6: データと同意管理の強化
AIライフサイクル全体でのデータと同意管理のリスクを適切に管理する必要があります。規制は、AIがデータにアクセスし使用する時期と方法、患者データの責任ある使用の責任者を明確に規定する必要があります。患者データの所有権を明確にし、AIデータ使用に関する患者の同意を強化することが重要です。ガバナンスフレームワークは、データバイアス、データの正確性、データの埋め込み、データアクセスに関連するリスクを対処する必要があります。いくつかの回答では、合成データリソースの導入が医療研究におけるデータアクセスと表現の問題を解決する可能性があることが示されました。包括的な強制的な保護措置、データガバナンス措置、サプライチェーンの透明性が、高リスク環境でのAIの使用に関連するリスクを軽減するのに役立ちます。
調査結果7: 最善の慣行を促進するインセンティブ
オーストラリア市場向けの高品質なAI技術の提供を促進するためのインセンティブ枠組みは、最良の慣行を奨励することができます。高品質、正確性、安全性、適用性を特徴とする最良の慣行AIの開発と提供のためのインセンティブは、すべてのオーストラリア人に利益をもたらすことを確保し、低品質な製品による危害のリスクを軽減することができます。
公聴会からの主要テーマ
報告書では、公聴会から浮かび上がった主要テーマも議論しています。これらのテーマには、AIの理解度、バイアス、同意と透明性、データ、証拠基盤、人間と機械の相互作用が含まれます。公聴会の結果は、利害関係者間のAIの理解度にばらつきがあり、多くの人が理解不足またはメディア情報への依存を示していることを示しています。バイアス、同意、データセキュリティは主な懸念事項であり、多くの回答者が、AI製品開発におけるオーストラリア人口統計のより良い表現と、患者のAI使用に関する同意を確保する必要性を強調しています。几乎所有の回答者は、患者の安全に関わる高リスクの医療シナリオにおいて、「人間がループ内にいる」ことが重要であると述べています。
結論
報告書は、オーストラリアの既存の立法フレームワークがAIの応用に大まかに対応可能であるが、技術的および定義的な改正が必要であると結論付けています。また、包括的なAIの保護措置と非規制措置が、医療分野におけるAIのより安全で責任ある応用を促進し、AIの利益を公平に実現するために、さらなる保護を強化することができるとしています。報告書は、強固な証拠基盤の確立、高品質で信頼できる情報の提供、業界での最良の慣行の奨励の重要性を強調しています。