生成AIは嘘をつく
2023年5月、ニューヨークの弁護士スティーブン・シュワルツ氏は、航空会社を訴えた裁判でChatGPTを活用して過去の判例を調査した。シュワルツ氏はChatGPTが生成した実在しない6件の判例を引用した資料をそうとは認識せずに裁判所に提出。相手側の弁護士が判例の真偽を確かめた結果、虚偽であることが発覚した。
ウェブリスク24時
ブログや掲示版、ソーシャルメディアを起点とする炎上やトラブルへの対応について事例から学びます。
神奈川県鎌倉市の公式ツイッターアカウント(@Kamakura_shigen)が何者かに乗っ取られ、閉鎖を余儀なくされた。
何が起きたかというとこうだ。鎌倉市環境部資源循環課のツイッターの公式アカウントが、第三者に不正にログインされ、課名だったアカウント名が「Love Tweets」に変えられたほか、パスワードが書き換えられて、「愛は真実」など約80件の英文メッセージが発信されていた。市民から指摘のメールがあり、1月6日に発覚したと言う。鎌倉市はアカウントを閉鎖、新たなアカウントを設けると発表した。不正書き込みの日付から、乗っ取られたのは2013年12月29、30日頃とみられると報じられている。
ここのところ、公的機関やメディア企業などを中心に、ツイッターの公式アカウントが乗っ取られる事件が相次いでいる。セキュリティ意識の問題もあるが、本気で狙われると完全防御は難しい。かといって、自分たちでしっかり運用していなければ、第三者が勝手に名を語る「なりすまし」という別のリスクも高まる。