生成AIの力を解放

生成AIは、データのセキュリティに対していくつかの脅威をもたらします。 これには、データ漏洩、データ侵害、データプライバシー法に対する違反などが含まれます。

ChatGPTやBardなどの生成AIアプリケーションは、ユーザーが入力する情報から学習するLLM（大規模言語モデル）です。 例えば、あるユーザーがまだ公開されていない合併や買収の対象に関する情報を確認していたとすると、その後で、他のユーザーが検索をした時にその情報が表示される場合があります。

ソフトウェアエンジニアが、生成AIを使用して自社のソフトウェアコードをデバッグした場合には、その知的財産が公共にさらされるリスクがあり、さらに悪い場合には、競合他社に見られる可能性もあります。 同様に、エンジニアが生成AIを使用してコードを作成した場合、マルウェアを含ませてしまう可能性があり、攻撃者に企業のシステムへのバックドアを提供する恐れがあります。

また、HIPAAやGDPRなどのデータプライバシー法では、組織が個人データを厳密に保護することが義務付けられています。 お客様からの問い合わせに対する電子メールでの応答の草案など、個人を特定できる情報 (PII) に関連した事項に生成AIを使用すると、その情報が漏洩したり悪用される可能性があるため、コンプライアンス違反のリスクにさらされる恐れがあります。

フィッシング攻撃やスピアフィッシング攻撃のためのマルウェアコンテンツやスプールコンテンツを作成するために、生成AIが使用される可能性があります。ChatGPTなどの生成AIベンダーもデータ漏洩のリスクにさらされており、攻撃者がユーザーから提供される機密データにアクセスする恐れがあります。

生成AIがマルウェアの作成に使用される例としては、ForcepointのAaron Mulgrewが得た経験が挙げられます。Mulgrewは、ChatGPTに悪意のあるコードを作成させることに成功しました。ChatGPTには、このような事態を防ぐための保護策が講じられているにもかかわらずです。

生成AIのデータセキュリティには、リアルタイムのアクセス制御と堅牢なデータ管理の両方が必要となります。 

Forcepoint ONE SSEなどのプラットフォームでは、生成AIツールへのアクセスを、使用が承認されている限られた従業員グループのみに制限することができます。 これらのポリシーは、管理対象デバイスと管理されていないデバイスの両方に実装できるため、企業は幅広い管理を行うことができます。

Forcepoint DLPでは、ChatGPTおよびBardを使用するユーザーは、プラットフォームで共有できる情報が制限されており、偶発的なデータ漏洩を防止しています。 これには、社会保障番号などの機密情報をアプリケーションに貼り付ける行為を防止するなどの対策も含まれています。

サイバーセキュリティにおける脅威の状況は絶えまなく進化しており、生成AIは新しいリスクではありますが、それを緩和する既存のテクノロジーも存在します。

生成AIでは、データ漏洩やデータ違反のリスクが最も高く、企業で日常的に使用されている他のSaaSアプリケーションとそれほど違いはありません。 従業員が、機密データが含まれる生成AIを活用している場合、データ漏洩やデータの悪用が、企業のセキュリティ対策に影響を与える可能性があります。

ChatGPTやBardなどの生成AIツールをシャドーITとして扱うことが、正しい方向性への第一歩となります。 アプリケーションを使用できるユーザーを定義し、これらのグループがツールにアクセスできるようにするポリシーを構築することで、それ以外のユーザーが使用できないように防止します。 さらに、強力なデータ管理を導入して、機密データが組織内に確実に留まるようにします。

ChatGPTなどの生成AIアプリケーションは、大規模言語モデルに基づいて構築およびトレーニングされています。 このアルゴリズムモデルを通して、プラットフォームは大規模なデータベースから情報を吸収して学習しており、ユーザーがAIチャットボットに期待する知識、コンテキスト、正確性を提供します。

しかしながら、生成AIは大規模言語モデルに基づいて構築されているため、入力された情報を継続的に吸収して学習します。 相互にやり取りする新しい情報を継続的に学習してコンテキストを適用することで、常に新鮮で関連性のある回答を提供することができます。

これは、ビジネスに重大なリスクをもたらします。 専有情報や機密情報をAIチャットボットと共有することで、リスクを伴う2つの可能性が生まれます。 1つは、アプリケーションがその情報を公開情報として認識し、将来要求されたときに共有することです。 2つ目の懸念は、生成AIツールを採用している企業自体が侵害され、その企業と共有される情報が漏洩することです。

デフォルトでは、ChatGPTやBardなどの生成AIアプリケーションは、入力されたデータを使用してモデルを改善する可能性が高いと想定して運用する必要があります。 ただし、使用する特定のプラットフォームについても再確認する必要があります。

このデータは、使用されているデバイス、アクセスしている場所、およびその他のアカウントに関連付けられた詳細など、他の多くの情報とともに収集されます。 アプリケーションがデータからトレーニングする機能は、ベンダーにもよりますが、通常は設定から無効にすることができます。

これは、機密情報をAIと共有する際の主なリスクの1つです。 製品発売に向けた今後の市場投入戦略などの機密性の高い企業情報をアプリケーションと共有すると、適切な予防策を講じていない場合、その情報が公開される可能性があります。

Forcepoint データセキュリティでは、アプリケーションを安全に使用するためのトレーニングを受けたユーザーのみがアクセスできるように制限するか、あるいはアプリケーションへの情報の貼り付けをブロックすることで、この問題を防止しています。

生成AIアプリケーションは、デジタルサプライチェーン内の他のサードパーティベンダーと同じ様に扱う必要があります。プラットフォームがデータ侵害を受けると、そのプラットフォームに入力された情報がリスクにさらされる可能性があります。 このため、企業は、生成AIに関連した厳格な許容できる使用ポリシーを構築して、データが予期せずリスクにさらされないようにする必要があります。

すべての組織には、プライバシー規制を遵守する責任があります。 生成AIアプリケーションにデータを入力する際に、個人がPII、PHI、およびその他の規制されている種類の情報を共有する可能性があります。

生成AIアプリケーションでの個人情報の共有はデータ漏えいの一種であり、プライバシー規制の対象となります。組織がコンプライアンスを維持するためには、このようなタイプの情報の共有を防止する強力なデータセキュリティツールを導入する必要があります。

すべての企業が、従業員がすでにおこなっている、または今後おこなう可能性のある生成AIとのやり取り方法や、これらのやり取りからもたらされるリスクの種類、および、資格のないユーザーが生成AIで機密情報にアクセスし共有しないように防止する方法について検討する必要があります。

他のSaaSアプリケーションと同様に、企業は生成AIにアクセスするユーザーを完全に把握し、やり取りするデータを管理する必要があります。 ほとんどの場合、これには、職務、デバイスまたは場所ごとのURLフィルタリングや、あらゆるコンプライアンス違反を防止するためのデータセキュリティポリシーが必要となります。