ティム・フィップス | クラウドアライアンス担当ディレクター
More About This Author >
ティム・フィップス | クラウドアライアンス担当ディレクター
More About This Author >
AIが人類の未来を形作るという指摘は、これまでも繰り返されてきましたが、改めて強調する価値があります。政策立案者もこの点を十分に認識しており、すでに対応を進めています。
2022年10月、米国は「Blueprint for an AI Bill of Rights（AI権利章典の青写真）」を発表しました。これはあくまで青写真であり法的拘束力はありませんが、米国政府がこの枠組みに「Bill of Rights（権利章典）」と名付けたこと自体、AIを極めて重視している姿勢を示しています。
同様に、2024年5月には欧州理事会がAIに関する世界初の法的枠組みであるArtificial Intelligence Act（AI法）を承認しました。AI法は7月12日にEU官報に掲載され、8月1日に発効します。同法は、EU内でAIを設計・使用する企業に要件を課し、リスクレベルを評価するための仕組みを提供します。
では、これら2つの枠組みについて、もう少し詳しく見ていきます。
なぜAI規制が必要なのか
これらの規制は、近年発生したいくつかの物議を醸すAI事例を受けて導入された側面があります。「AI権利章典の青写真」では、潜在的な脆弱性のある領域が説明されています。たとえば、2024年2月には、エア・カナダのバーチャルアシスタントが乗客に対し航空運賃に関する誤った情報を提供したとして、同社に乗客への損害賠償が命じられました。カナダの裁判所は、同航空会社が「チャットボットの正確性を確保するための合理的な注意を払っていなかった」と指摘しました。米国の「AI権利章典の青写真」は、AIベースのチャットボット（およびその他のAIシステム）の信頼性を確保すること、さらに企業がこれらのシステムの判断は企業に説明責任があることを理解するよう促すことを目的としています。
同様に、この「青写真」の「安全で効果的なシステム」セクションは、DPD（英国の配送会社）の不具合を起こしたカスタマーサービスチャットボットのような、効果のないシステムを防ぐことを目的としています。2024年初頭、X（旧Twitter）ユーザーのAshley Beauchamp氏は、DPDのチャットボットが基本的な問い合わせにすら答えられない一方で、自社を批判する稚拙な詩は生成できることに気づきました。
一方でEU AI法は、AIが依然として発展途上にあることを踏まえ、利用目的や導入リスクに応じて、入力と出力の両面で適切な注意を払って扱うべきであるという重要性を強調しています。
AI権利章典の青写真（Blueprint for an AI Bill of Rights）
米国の「AI権利章典の青写真」では、自動化システムの安全かつ公平な利用を確保するための5つの原則と実践が示されています。以下に、それぞれの原則を実例とともに紹介します。
安全で効果的なシステム – システムが意図された用途に基づいて安全かつ効果的であることを示すため、導入前のテスト、リスクの特定と軽減、継続的なモニタリングを実施する必要があります。
アルゴリズム由来の差別からの保護 – 自動化システムの設計者、開発者、運用者は、アルゴリズムの差別から個人やコミュニティを保護するための手段を積極的かつ継続的に実施し、システムを公平に設計して利用することが求められます。
データのプライバシー – 個人は、組み込みの保護機能を通じて不適切なデータ利用から保護され、個人データの取り扱いについて主体的に決定できるべきです。設計者、開発者、運用者は、簡潔で分かりやすい同意要請を通じて本人の許可を求め、データの収集、利用、アクセス、転送、削除に関する個人の意思を尊重しなければなりません。
通知と説明 – 自動化システムが使用される際には、その旨を個人に通知し、システムが個人に影響を与える結果にどのように、そしてなぜ関与するのかについて説明する必要があります。
人による代替手段、配慮、フォールバック – 必要に応じて、個人は自動化システムの利用をオプトアウトでき、問題が発生した際には迅速に検討し是正できる担当者にアクセスできるべきです。
EU AI法（EU Artificial Intelligence Act）
EU AI法は、AIの規制においてリスクベースのアプローチを採用しており、AIシステムを以下の4つのリスクレベルに分類しています。
許容できないリスク – 人々の安全、生計、権利に対する明らかな脅威とみなされるAIシステムは禁止されます。これには、政府による社会的スコアリングから、危険な行動を助長する音声支援を使用した玩具まで、幅広いシナリオが含まれます。
高リスク – これには、重要インフラ、不可欠な公共・民間サービス、移民・庇護・国境管理などで使用されるAIテクノロジーが含まれます。このようなAIシステムは、市場投入前に以下の義務を満たす必要があります。
適切なリスク評価および軽減システム
高品質なデータセットをシステムに供給しリスクと差別的な結果を最小限に抑制
結果のトレーサビリティを確保するためのアクティビティのロギング
当局がコンプライアンスを評価するために必要な、システムの全情報と目的を示す詳細な文書
ユーザーに対する明確かつ適切な情報
リスクを最小限に抑えるための適切な人的監視措置
高レベルの堅牢性、セキュリティ、精度
限定されたリスク – 主にAI利用の透明性に関連します。たとえば、チャットボットと対話していることがユーザーに知らされることや、AIが生成したコンテンツであると確実に識別できることなどが含まれます。
最小リスク – AI搭載のビデオゲームやスパムフィルターなど、リスクが最小限のAIシステムについては、法の下で自由な利用が認められています。両方の枠組みに共通するのは、「セキュリティ」と「保護」という概念です。ここでは、AIプラットフォームに対する最も一般的な脅威と、企業がそれらをどのように軽減できるかについて検討してみましょう。
AIプラットフォームに対する脅威
AIプラットフォームに対する新たな脅威はサイバーセキュリティチームにとって大きな懸念となっており、企業環境を攻撃やデータ損失の危険にさらしています。AIシステムに対する最も一般的な脅威は、以下の2つです。
モデル窃取 – 攻撃者がAIプラットフォームの機械学習モデルを盗もうとする行為です。一般的な手法としては、ターゲットモデルに大量のクエリを送信し、その応答を利用して複製を作成する方法や、学習データを盗んでターゲットモデルの挙動を再現する新しいモデルを訓練する方法があります。これにより、無許可の第三者がライセンスなしに機械学習モデルを使用できるようになり、収益の損失につながる可能性があります。
データポイズニング– AIモデルの学習データに悪意のあるデータを混入させ、モデルに偏った情報や誤った情報を学習させる手法です。この誤情報によって脆弱性が生まれ、攻撃者はこれを悪用して、意図的に改ざんされたモデルに対して将来的な攻撃を仕掛けたり、無許可の機密データを抽出したりすることが可能になります。
AIプラットフォームに対する脅威の軽減
モデル窃取を防ぐには、自社の機械学習モデルへのアクセスを管理する必要があります。これを実現する最善の方法は、暗号化とその暗号鍵を保護することです。モデルを暗号化し、強力な認証、ロール、ポリシーの適用に基づいて暗号鍵へのアクセスを厳格に管理することで、許可されたユーザーのみがモデルにアクセスできるようになり、攻撃者がモデル構造を分析して最終的にそれを複製することを防げます。同様に、堅牢なライセンシングシステムも、不正ユーザーによるモデルへのアクセスを防止できます。
データポイズニングを軽減するには、AIソフトウェアを監視、評価、デバッグする必要があります。これは、AIモデルの学習やテストにデータを使用する前に、データを慎重に選択・検証・クレンジングすること、またクラウドソーシングやウェブスクレイピングなどの信頼できない、あるいは管理されていないデータソースの利用を避けることを意味します。強固なデータガバナンスも、データポイズニング攻撃を防ぐうえで不可欠です。
組織は、Confidential AIモデルの構築を検討すべきです。これにより、信頼できる機密コンピューティング環境内で、完全な信頼を持ってAI処理を実行できるようになります。この仕組みでは、ハードウェア実行環境と、その内部で動作するデータやアプリケーションのセキュリティと完全性が第三者によって独立して検証され、それらが侵害されていないことが確認されます。
タレスは、Google CloudやMicrosoft Azureが提供するConfidential Computing（CC）サービスに対応するIntel TDXチップ上で、CipherTrust Data Security Platform（CDSP）によるEnd-To-End Data Protection（E2EDP）を実現します。このアーキテクチャでは、Intel Trust Authorityによるクラウド非依存のアテステーションが行われ、その後タレスによって検証されます。
タレスとImpervaは共同で、クラウド、データ、ソフトウェアが中心となる世界におけるセキュリティを提供しています。AIシステムを保護するために、タレスのCloud Protection and Licensingソリューションをぜひご確認ください。