この資料は、地方公共団体情報システム機構発行「月刊J-LIS」2023年６月号に掲載された記事を使用しております。
なお、使用に当たっては、地方公共団体情報システム機構の承諾のもと使用しております。

なるほど！セキュリティ　情報共有編　第48回
ChatGPTなどの生成AI（ジェネレーティブAI）について

（月刊「J-LIS」2023年６月号）

はじめに

　最近、AI（Artificial Intelligence：人工知能）で作成された文章や画像に関するニュースを目にすることが増えてきています。特に「ChatGPT」はマスコミでも話題になっており、先日2023年４月18日に神奈川県横須賀市での地方公共団体初の「ChatGPT」の全庁的な実証実験のニュースや同日の埼玉県戸田市での「ChatGPT」を地方公共団体の職員が業務で利用するためのガイド作成に向けた調査研究事業実施のニュースは記憶に新しいことと思います。まるで人間が考えたような文章を作成する「ChatGPT」や画像を生成する「Stable Diffusion」「Midjourney」などがAIとして代表的です。これらのAIは生成AI（ジェネレーティブAI）と呼ばれており、個人や企業、多様な分野で活用されています。そこで、今話題の生成AIについて、特徴やテクノロジー、活用することで得られるメリット、活用されている分野、セキュリティ上のリスク等についてご紹介いたします。

生成AIとは

　これまでのAIは、過去のデータに基づいた結果を得ることはできましたが、新たなものを生み出すことはできませんでした。それに対して生成AIは、既存のAIとは違う新しいアウトプットを生み出すことができるAIとして、デザイン、効率化、新しい表現の創出、作業の自動化などで活用が期待されています。

生成AI技術を活用したサービス

・ChatGPT
　ChatGPTは、2022年11月に人工知能研究所のOpenAIがリリースした「AI技術を活用した対話型のサービス」です。InstructGPTと呼ばれる言語モデルがベースとなっており、インターネット上に存在しているデータを学習して、人との会話のような自然な文章で質問者からの問いに高速かつ丁寧に回答します。とりわけ、自然な対話が特徴で、相手や場面に即した表現で文脈を読み取って受け答えすることもできます。また、ブレインストーミングでの利用も効果的とされています。

　テキストの要約や翻訳、表計算ソフトの関数、プログラムの記述・デバッギング、キャッチコピーや小説、脚本の制作などの様々な用途でも利用されています。その一方で正確性に欠ける面があるため、業務での活用ではチェック不可欠となります。

　なお、ChatGPTが生成したコンテンツの著作権について、米国の政府機関・著作権局が、AI生成コンテンツの登録ガイドラインとして「AIが自動生成＝著作権なし」「人間の創作＝著作権あり」と公表しているところですが、あくまで議論の初期段階であり2023年後半にパブリックコメントを実施する予定としています。

・Stable Diffusion
　Stable Diffusionは、Comp Vis グループ（ミュンヘン大学）が2022年に公開した画像生成AIで、入力されたテキストをもとに画像を自動生成します。テキストを入力すると、自動的にテキストに沿った画像を生成します。生成された画像が非常に高品質であることが特徴です。これは、Stable Diffusionが確率モデルを使用して画像を生成することができ、かつ、高度なノイズ制御技術が使用されているためです。様々な画像を生み出せるため、デザイン業界で広く活用されています。

・Midjourney
　Midjourneyは、Stable Diffusionと同様に画像生成AIで、比較的新しい生成AIの一つです。複数の画像を組み合わせて新しい画像を生成することができるため、非常にクリエイティブな画像を生成することができます。また、生成された画像が現実と区別がつかないほど高品質であるため、偽情報の拡散や不正利用の懸念があることに注意が必要です。

生成AI活用の事例

　既にビジネスでは生成AIが持つ特徴を活かして活用されています。ここでは、地方公共団体での活用例をご紹介します。横須賀市では、株式会社トラストバンクが提供する地方公共団体専用ビジネスチャットツール「LoGoチャット」に「ChatGPT」のAPI機能を利用して連携し、文章作成、文章の要約、誤字脱字のチェック、アイデア創出などに活用できるようにします。例えば、プレスリリースではChatGPTで下案を作成し、職員が校正を行うなど活用されています。全職員が広く活用することで、多様なユースケースの創出、業務の効率化が期待されています。

課題と対策

　ここまで生成AIの活用について述べてきましたが、ここで、その便利や万能さ故に想定されるセキュリティ上のリスクや課題について考えてみましょう。活用に際して次に示す課題が指摘されています。

・生成AIの不正利用
　生成AIを使用すれば、マルウェアを作成するために必要なコードを簡単に生成することができます。このようなマルウェアは、一般的なセキュリティソフトウェアに検出されにくくなるため、被害を拡大させる可能性があります。

　また、生成AIは、セキュリティ製品を無効にするための攻撃にも使用される可能性があります。例えば、生成AIを使用して、フィッシング詐欺のための偽のメールやフィッシングに悪用できるWebページを作成することができます。このような偽のページには、ユーザ名やパスワードを盗むための偽のログインページが含まれている場合があります。これらのフィッシングに使われる偽のページは、セキュリティ製品が検知することが難しいため、攻撃者によって利用される可能性があります。

・機密情報の管理
　機密情報が漏洩したり、生成AIに学習された情報が目的外で利用されたりすることがないように、情報を適切に管理することが求められます。対策としては、情報のセキュリティレベルを段階分けして管理し、あるレベル以上の情報が入力されたら利用することができないように、他のツール等を組み合わせてフィルタリングして規制することで対応している事例があります。横須賀市では、ChatGPTへの入力情報が二次利用されない方式で使用し、運用面では機密情報や個人情報は取り扱わないようにして情報の安全な取扱いを徹底するようにしています。

・生成AIの安全な利用
　フェイクニュース、ヘイトスピーチ、詐欺や不正、なりすまし、偽のコンテンツ作成などに悪意を持って利用される可能性があります。例えば、なりすまし動画を作成して偽の情報を流布し、社会を混乱させることなど、ネットが普及した現代では容易に行うことができてしまうというリスクがあります。対策としては、倫理観やリテラシーに係るガバナンスを教育で啓発すること、ガイドラインを策定し、これに沿って利用する必要があるとされています。埼玉県戸田市では、「ChatGPT」を活用し、地方公共団体の業務の中で自動化や効率化が可能な領域を洗い出し、その改善策を提案することに加え、リスクや危険性を把握し、安全な利用方法を検証することで、自治体における業務改革の促進に寄与することを目的とした戸田市庁内の調査研究チームを設置し、「ChatGPT」に関する調査研究を実施しています。その調査研究の成果物として、他の行政機関でも応用可能な「自治体業務におけるChatGPTの活用ガイド」を策定し、2023年９～10月をめどに公表することとしています。

　また、2023年４月30日に閉幕したG7群馬高崎デジタル技術大臣会合においては、「信頼できるAI」として普及に向けた取り組みを進めることで合意はしましたが、具体的なルール作りはこれからで、2023年中に改めてG7で議論されることになっています。

おわりに

　生成AIは、私たちの暮らしや世の中を豊かにしてくれるAIとして期待されています。一方で、国や企業はもちろんのこと、個人においても利用する際には、悪意を持って不正に利用されてしまうことがあるということを理解した上で備えておく必要があります。今後の発展のためには、使用を全面的に禁止とはせずに、利用シーンに沿ったガイドラインやルールを作りながら発展させていくことが求められます。

【出典・参考文献】
■横須賀市ホームページ「自治体初！横須賀市役所でChatGPTの全庁的な活用実証を開始（2023年４月18日）」
https://www.city.yokosuka.kanagawa.jp/0835/nagekomi/20230418_chatgpt.html
■日経クロステック／日経コンピュータ「戸田市が「ChatGPT」の自治体業務利用のガイドを作成・公表へ」
https://xtech.nikkei.com/atcl/nxt/news/18/15017/
■日本経済新聞「ChatGPT、ソフトバンクなどが利用制限　ルール作り急ぐ」
https://www.nikkei.com/article/DGXZQOUC069HD0W3A300C2000000/
■ITmedia NEWS「「AIが自動生成＝著作権なし」「人間の創作＝著作権あり」　米著作権局、AI生成コンテンツの登録ガイドライン公表」
https://www.itmedia.co.jp/news/articles/2303/22/news172.html
■GIGAZINE「AIが生成した絵や文章に著作権は認められるのか？アメリカ著作権局がガイダンスを発表」
https://gigazine.net/news/20230317-copyright-registration-generative-ai-works-guidance/
■NHK／G7サミット「G7デジタル相会合「信頼できるAI」へルール作りが課題」
https://www3.nhk.or.jp/news/html/20230501/k10014054471000.html