一般財団法人日本情報経済社会推進協会
電子情報利活用研究部　主席研究員　手嶋　洋一

2022年11月にOpenAI社からChatGPTが公開されたのを皮切りに、生成AIブームが巻き起こっています。ChatGPTは、当時では最速となるサービス開始後2週間で全世界100万ユーザーを獲得しており、日本でも、国別の利用状況で第三位¹となっているほど利用のすそ野は広がっています。

今回の調査（企業IT利活用動向調査2024）でも、すでに35.0％の企業が生成AIを利用し、「生成AIの導入を進めている」企業も34.5％と、今後の企業における生成AIの導入は急速に拡大していくとみられます。

一方、生成AIサービスの利用においては、使い方次第では個人情報の漏えいにつながる危険性をはらんでいます。2023年3月にイタリア当局が個人情報処理の問題を理由にChatGPTの一時禁止命令を行ったことが話題になったほか（現在は解除済み）、日本の個人情報保護委員会も、2023年6月2日に「生成AIサービスの利用に関する注意喚起等」²を行っています。

では、なぜ生成AIサービスを利用すると、個人情報が漏えいしてしまうのでしょうか？ ChatGPTをはじめとする生成AIでは、プロンプトに質問や作業指示を入力します。このプロンプトに個人情報を入力してしまうと、生成AIの精度を向上させるために利用されるデータ（これを学習データと呼びます）としてサービス事業者（＝第三者）に収集されてしまう場合があります。一旦学習データとして収集されてしまうと、他の利用者の質問の回答に利用されてしまい、予期せぬ機会に漏えいしてしまうこととなります。

生成AIサービスを利用する場合、個人情報保護の観点から、注意しなければならない点は大きく三つ挙げられます。一点目は、個人情報の利用目的の範囲内かという点、二点目は第三者提供の同意を得ているかという点、これら二つについて、個人情報収集時に同意を得ていた場合でも、生成AIサービスの提供者（例えばOpenAIなど）が海外企業の場合には越境移転規制をクリアしているかという点に注意しなければなりません。

企業や団体で生成AIサービスを利用する場合は、生成AIサービスを提供する事業者の利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等を踏まえ、生成AIサービスの利用について適切に判断する必要があります。まずは、生成AIへの個人情報の入力は慎重に行うことを利用者に徹底することが得策だと思われます。

• 1　日本のChatGPT利用動向（2023年6月時点）（野村総合研究所）別ウインドウで開く
• 2　生成AIサービスの利用に関する注意喚起等について（個人情報保護委員会Webページ）別ウインドウで開く

• 「IT-Report2024 Spring」全文はこちらから
• 「企業IT利活用動向調査2024」集計結果