偽造情報やディープフェイク企業ブランドを毀損する新たなリスク

松本寛正氏（NRIセキュアテクノロジーズ）

生成AIの民主化が進みビジネスシーンでの使用も活発になっているが、ポジティブに活用される一方で、企業ブランドが備えなければならないリスクの幅も広がっている。ここでは広報担当者が知っておきたいリスクを、外部要因、内部要因に分けて解説する。

SNSなどの様々なツールにより個人が情報を発信することが可能になりました。また、2023年には、人間が作成したものと近しいテキストや画像を生成するAI（生成AI）の台頭で、より混沌を極めてきています。本稿では、最近よく耳にする生成AIについて、ブランド毀損リスクを軸に解説していきます。

生成AIとは、ChatGPTやGemini（旧グーグルBard）に代表される、テキストや音声、画像などを生成できるAIのことを指します。大量のデータを学習したモデルを利用することで、人間が作成したかのようなクオリティで文章や画像を生成することができ、様々な利用用途があります。例えば、メール文章の素案を作成したり、ブログに使う画像を生成したり、ニュースを要約して説明させたりなどです。その汎用性の高さから、日々、多くのユースケースが考えられている反面、様々なリスクが生まれているとも言えます。具体的には、どのような新たなリスクが生まれているのかについてお伝えします。

外部要因による企業ブランドへのリスク

図1 外部要因によるリスクのイメージ

生成AIの普及により、生産性は飛躍的に向上していますが、同時に外部要因により生じる企業ブランドへのリスクも増加しています。

①大量偽造情報によるリスク

ChatGPTに代表されるテキスト系生成AIは、あたかも人間が記述したかのような文を簡単かつ大量に作成することが可能です。これを悪用することで、生成AIで作成した大量の人間らしいアンチコメントを、様々な書き方でSNSなどに投稿させることができます。こういった行為により、まるで世論が形成されているかのように見せかけることも事実上、不可能ではないのが現状です。特定のブランド毀損を狙ったこのような攻撃も生成AIの普及によるブランド毀損のリスクのひとつと言えます。

悪意を持つ者による生成AIの利用を止めることは残念ながらできません。生成AIによる偽造情報の大量拡散リスクへの対策として、インターネットにおけるレピュテーションリスクの監視体制を強化・維持することが重要です。特に、SNSにおいては情報の拡散スピードが速いので、できるだけ早期の発見が必要であると考えます。