【実例10連発】そのAI活用、実はアウトかも？ビジネスで安全に使うための生成AIリスク対策

今回は生成AIに関するリスク対策について、ケーススタディ10連発で解説させていただきます。ハルシネーション、情報漏洩、権利侵害、実務上の注意点など、代表的な事例を10個ピックアップしました。ぜひ動画を一旦停止しながら、考えながらご覧ください。

▼目次
0:00 はじめに
1:32 生成AIのリスク対策：ケース1
2:56 生成AIのリスク対策：ケース2
4:20 生成AIのリスク対策：ケース3
5:20 生成AIのリスク対策：ケース4
6:26 生成AIのリスク対策：ケース5
9:22 生成AIのリスク対策：ケース6
10:33 生成AIのリスク対策：ケース7
12:40 生成AIのリスク対策：ケース8
13:53 生成AIのリスク対策：ケース9
15:43 生成AIのリスク対策：ケース10
17:40 まとめ

▼文字起こし

こんにちは。AIキャンプの中村です。今回はケーススタディ。こんなAI活用はセーフ・アウト、考えてみよう。こんなテーマでお届けさせていただきます。AI研修をやっていると、AIのリスクとか、情報漏洩とか、フェイク画像への対策、あるいはハルシネーションとか、あるいはいろんな作業をAIにどこまで投げていいのかみたいな、こういうセキュリティとかリスク対策について、たくさん質問をいただきます。教科書的には、フェイク画像はダメですよとか、情報漏洩に気をつけましょうみたいなことは話されているんですけど、なかなかその説明だけだと自分たちの実務のイメージが湧かないと思いますので、今回の動画では全部で10個のケーススタディを皆様と一緒に考えていきたいと思います。宿題や文章作成をAIに丸投げするっていう、すごい簡単なところから、AIエージェントを社内データに接続するみたいな、ちょっと難しいケースまで色々やっていきたいなと思います。今回のケースですけど、1番から10番になるにつれ、だんだん難しくなったり、意見が分かれるようなポイントになると思います。私も100点満点の回答を出せるわけではないですけど、実際に皆様も研修とかケーススタディの中で、これはこういう風に考えるべきだよねとか、うちの会社はこれはやめた方がいいよねとか、そんなガイドラインの策定なんかの参考にもなるかなと思いますので、一緒に考えていきましょう。このチャンネルではChatGPTや生成AIに関する役立つ情報をお届けします。よければチャンネル登録もお願いします。はい、それでは1つ目、宿題や文章作成をAIに丸投げするというケースです。学校の宿題の作文やレポート、あるいは社会人の方だったら会社の文章作成を、内容を考えずに、めんどくさいからAIにお願いしようって依頼して、そのまま提出してしまったっていうケースになります。さあ、皆さん、あなたの判定はいかがでしょうか？セーフでしょうか？アウトでしょうか？それともケースバイケースで要確認でしょうか？はい。じゃあ画面を1回止めていただいて、考えていただければと思います。はい。じゃあ、私なりの回答をお伝えさせていただきます。今回のケースでは、基本的にはアウトと考えていただいて大丈夫です。AIが100点満点の文章を作ってくれるケースもあるんですけど、人間が全く考えないで丸投げしてしまうっていうのは、かなりアウトなのかなと思います。そもそも学校で学びを目的としている場合には、自分で考えることが必要になってくるので、成長する機会を丸投げしていることはおかしいですし、仕事の中でも、自分のことまで説明できないような資料を上司とか取引先に投げるっていうのは、信頼を失う行為だと思いますので、基本的には丸投げはアウト。必ず自分で確認して、自分の責任で仕上げていくってところは基本になるかなと思います。はい、じゃあこの調子で続けていきましょう。2つ目です。機密情報をそのまま無料のAIチャットに入力する。社内の未公開資料、顧客情報、売上データ、会議の議事録メモなどをそのまま無料のAIチャットに貼り付けて、要約なり加工をしたっていうケースになります。では皆さん、あなたの判定はどれでしょうか？はい、それでは、基本的な回答はこれアウトになると思ってください。特に無料版のツールが多いんですけど、会社とか学校とかで特に認められていない一般向けのAIチャットに、機密情報とか個人情報をそのまま入力するっていうのは、情報漏洩につながる危険な行為だと思ってください。もちろん、ChatGPTとかは一部こういう情報を防ぐことはできるんですけど、この辺りのリテラシーがないまま使っているって方が初心者の方だと多くなりますので、ここは十分に注意してください。法人向けのセキュリティの高いツールなんかは結構安全なんですけど、今使っているツールがよくわからないっていうね、判断に迷う場合は、名前とかの固有名詞とか、金額とか、個人情報なんかを伏せて、匿名化してからチャットに打つみたいな、そういう技もありますので工夫をしてみてください。最近だと、APIキーとか、パスワードなんかをAIチャットに貼り付けちゃうみたいな人がいるんですけど、当然そういうのもNGですので、注意して使ってください。はい、3つ目いきましょう。災害のフェイク画像をSNSに投稿したというケースです。実際には起きていない災害や事故の画像をAIで生成し、現場が大変なことになっているとか、助けてくださいみたいな、そういうものをSNSに投稿するっていうケースになります。これは間違える方いないと思いますけど、いかがでしょうか？はい、これね、当然アウトになります。こういう災害とか事故とか事件に関するフェイク画像は、社会を混乱させる、本当に使ってはいけない代表的なケースになりますので、注意していただきたいなと思います。実際に2024年1月に発生した能登半島地震の時には、偽の救助要請とか、そういうフェイクが発信されたみたいで、発信した人が実際に逮捕につながったっていうケースもあったそうです。特にSNSなんかは間違った情報が過度に発信されてしまう傾向があるので、社会的な混乱とか二次被害につながるため、基本的にはこういうのはアウトだと思ってください。はい、続いていきましょう。アニメや有名人の動画を作成し、SNSに勝手にアップしてしまったっていうケースです。有名なアニメのキャラクターとか有名人の顔写真を、AIツールに読み込ませて、本人とかキャラクターが話しているとか、そういう動画とか画像を作ってSNSに投稿するっていうケースです。これね、平気でやってる人とかいて、私、思うんですけど、さあ、これはいかがでしょうか？はい。これは答えを言うまでもないかもしれませんけど、当然アウトになります。有名人の顔や声を使ったAI動画、当然肖像権の問題が関わりますし、アニメキャラクター、例えばポケモンとかマリオとか、そういうものを使っていくと、著作権とかの権利侵害につながっていきます。よく二次創作って領域があるので、この辺りはどこまで使うか結構グレーなんですけど、トラブルになる可能性が高いですので、基本的にはSNSに発信をしたり、法人だったらこういうグレーな領域に踏み込むのは基本的にはやらない方がいいかなと思いますので、これを勝手にやってしまうっていうのは、信頼を失う行為、権利侵害になると思いますので、十分に注意してください。では、ちょっと難しいケースをやっていきたいと思います。自分の画像をジブリ画像にこうやって変換してSNSにアップするっていうケースです。自分の顔写真とかを読み込ませて、ジブリ画像にしてくださいって言うと、こんな感じのジブリっぽい画像ができて、これを面白がってSNSに投稿している人たちもたくさんいると思うんですけど、さあ、皆さん、これってセーフでしょうか、アウトでしょうか？ちょっと考えていただけると面白い事例かと思いますので、ぜひ考えてみてください。じゃあ、答えをお伝えします。今回のケースは要確認ということになります。実はちょっと一言で簡単に言えないケースになるんですけど、まず、ジブリみたいな作風っていうものは、著作権の対象ではないっていうのは一般的な考え方です。こちらは2025年4月、文部科学省の衆議院答弁で、作風とかアイデアが類似しているだけだったら、基本的には著作権侵害にならないよって言っていますし、弁護士とか著作権の専門家の解説でも、作風の模倣っていうのは侵害にならないんだよっていう風には言っています。なので、法律的にはセーフになることが多いかなと思います。ただ難しいのはここなんですけど、特定のキャラクターや有名なシーンに寄せた場合は、こう似ていますよっていう類似性で、それを参考にしていますよっていう依拠性が認められてしまった場合には、著作権侵害になるんですね。意図的に、ジブリのあのシーンのなんとかのシーンで画像を作ってとかって言った場合は、やっぱりその特定の作品に類似してしまうケースが多くなりますので、この辺り、権利侵害になるっていう可能性もあります。ちょっとこれ難しいですよね。なので、基本的には法律的な問題になることは少ないとはいえ、ケースによってはアウトのケースがありますので、分からなかったら無理にやらない方がいいかなと思います。ここからは私の見解になるんですけど、これね、問題は法律面の問題じゃないと思っていて、実際の社会的リスクの方が問題になるかなと思います。例えばこのジブリ風の画像なんかを投稿した場合には、なんかこれ炎上したり、誤解を与えたりするリスクってありますよね。あとは実際にこういう作品とかを作っているクリエイターから、非常に反発が出てきて、なんで私の画像勝手に加工してるんだよみたいな感じで、この人は、この会社はクリエイターへの配慮がない人たちなんだなっていう風に、反発心を招くことって結構あるんですよね。実際にこれ炎上しているケースもたくさんあります。なので、法律的にいかにセーフと言っても、実務上は特別な理由がない限り、避ける方がいいのかなと思います。ですので要確認と書いていますけど、私、AIキャンプの中村の見解としては、基本的にこのジブリ風画像みたいなのはやらない方がいいかなと思っています。はい。皆さんも、もしコメントあれば書いていただければ嬉しいです。はい。これも難しいケースですね。ゴミの分別法をAIチャットに相談するっていうケースになります。このゴミは燃えるゴミですか、資源ゴミですかっていう風にAIチャットに相談したというケースになります。ちょっと考える問題になると思うんですけど、これセーフ、アウト、どっちでしょうか？はい。これは実は要確認で、いいパターンもあるんですけど、アウトになるパターンもあります。なぜかと言うと、ゴミの分別って実はルールが一律に決まっていないんですよ。自治体によって違ったり、時期によってもルールが違うんですよね。例えばペットボトルは燃えないゴミって言っている自治体もあれば、資源ゴミって言ったり、燃えるゴミって言ったり、PETに捨ててくださいとか、色々こう時期とか自治体によって回答が違うんですよね。なので、AIがうまくその自治体の情報を参考にできずに、一般的な見解として答えてしまって、AIがもっともらしい嘘、ハルシネーションを起こす可能性が非常に高いケースになりますので、こういうハルシネーションが起きやすい事例っていうのは、十分に注意していただけるといいかなと思います。こういうケースではAIに頼るというよりも、最終的には自治体の公式情報で確認してもらうといいかなと思います。はい、続いて7つ目になります。これね、実際に私が受けた事例なんですけど、営業メールをAIで作ってそのまま送信するっていうケースになります。新規顧客への営業メールをAIに作らせて、内容をほとんど確認しないままそのままお客様に送信したというケースになります。さあ、皆さんの判定はいかがでしょうか？はい、これ私の回答は要確認。どちらかというとアウト寄りかなと思います。下書きを作ることはいいんですけど、必ず人間がチェックをしていくことが大事で、これも丸投げしてはいけない事例になるのかなと思います。実際にこれね、私、Xに投稿させていただいたんですけど、こんな営業メール届くんですよね。中村代表様、お世話になっております。なんとかと申します。中村社長にどうしてもお話を伺いたく、みたいな感じで、静岡を拠点にAIキャンプを展開し、実践的で分かりやすい生成AIやChatGPTの活用支援を通じて、日本全国の企業のDXと生産性向上もなんとかかんとかしていることに深く心を揺さぶられました。累計なんとかかんとかでなんとかで、みたいな感じの文章があるんですけど、これさ、思いっきりAIで作ってますよね。お前絶対深く心揺さぶられてないだろうとか、どうしてもお話伺いたくねえだろうって感じの、正直イラッとしたメールなんですけど、こういう質の低い営業メールってのは本当に信頼を失うので、やめた方がいいかなと思います。なんでやめた方がいいかって言うと、この発行している人たちはAIで業務効率化っていうのを達成しているかもしれないんですけど、受け取る側の顧客側、私側からすると読む負担が増えてるんですよね。だから自分たちは効率化しておいて、お客様に負担を押し付けるっていうのは、めちゃくちゃ良くない行動なので、こういうのを送った瞬間に、もう私は一発でこの会社のこと信頼できないなって思いますので、こういう盛大に間違っている使い方は、ぜひ避けていただけるといいかなと思います。はい。ということで、営業メールを作ってそのまま送信するみたいなことは十分に注意をしてください。はい、8つ目いきましょう。スポーツ選手へのメッセージをAIで作りました。大会に出場するスポーツ選手に送る応援メッセージをAIに作らせましたっていうケースになるんですけど、頑張ってください。全力で戦ってください。応援してます、みたいな文章ですね。さあ、これセーフかアウトかっていうところなんですけど、これは要確認、またはほとんどアウトかなと思っています。こういう気持ちの部分っていうのは、基本的には人間がやることなのかなと思います。丸投げってのは当然ダメで、AIで文章を整えるぐらいはいいんですけど、基本的にはこういうのは自分の心から書くことかなと思います。ていうか、この頑張っててすごいですとか、応援してますよみたいなこういう文章をAIで書いちゃうって、めちゃくちゃセンスのない使い方ですよね。実際にこの事例なんですけど、オリンピックでGoogleさんがこれをやってしまって、Geminiでメッセージを作ったんですよ。そしたらもうめちゃくちゃ炎上してて、AIに文章なんか作らせてんじゃねえみたいな感じで大炎上してたんですけど、そりゃそうだろうなって思いますよね。ということで、これは法律的にいい悪いとかではなくて、めちゃくちゃセンスがないっていう、ほとんどアウト寄りなケースということになります。はい、じゃあこれいきましょう。アニメイベントのポスターをAIで制作したっていう事例です。こんな感じのアニメフェスみたいなポスターを、画像生成AIを使って作ったよって事例になります。じゃあ皆さん、これセーフでしょうか？アウトでしょうか？これ当然セーフじゃないの？何がいけないの？って思うかもしれないんですけど、これね、結論からすると要確認で、ケースバイケースの典型的な事例になります。まず、ポスターをAIで作るっていう時は、キャラクターとかに問題がなければ基本的には法律的には問題はありません。ただ実際にはアウトになりやすいケースかなと思います。これ何かって言うと、ポスターをAIで作ったんじゃなくて、アニメイベントのポスターを作っているってところが問題なんですよ。要はアニメとかこういうのを一生懸命手で描いていたりする人たちが多い中で、そのためのポスターをAIでなんか楽するとか、そういう使い方ってどうなのっていうことで、クリエイターさんの中には、こういうAIに反発感情を持っている人たちもたくさんいるので、クリエイター文化への配慮が足りないんじゃないかっていうことで、運営側がこれをやるのってどういうことなのって感じで、炎上につながりやすい事例になります。これは2023年、2024年あたりで非常に問題になった事例で、例えば2024年6月には池袋のそういうイベントで、有名な高橋洋子さんって方が、これで実際に出演を辞退しています。あとはFilmarksっていう映画レビューサイトも、CMをAIで作ったところ、もう大炎上して批判殺到して、削除に追い込まれたっていう事例もありますので、やっぱりクリエイターさんたちの領域でこれを使うっていうところは、法律的ではなくて感情的に問題になりやすいので、この辺りを十分に慎重に使っていただきたいなと思います。はい。最後の事例は、最先端の事例になるんですけど、最近流行りのAIエージェント。これを社内データにそのまま接続しましたよっていうケースになります。AIエージェント、Claude CodeとかCodexとかありますよね。こういうものに、お客様の情報とか売上データとか、社内の機密情報とかのデータへのアクセスを許可して、権限とかの確認をあんまりしないままつないでしまったっていうケースになります。これね、実際にやっている方めちゃくちゃ多いんですよ、私が見ている限り。はい、じゃあ皆さん、これいいでしょうかということなんですけど、これが要確認となります。明確にアウトとは言えないんですけど、かなりセキュリティのリスクが高いかなと思います。Claude CodeとかCodexなどのエージェントっていうのは、社内データベースをまず見ることができます。あとは内容を上書きしちゃったり、削除もできてしまうんですよね。なので、ここの社内のデータベース上にあるデータを、消しちゃったり上書きしたり破壊したりするケースがあるので、十分に注意をしてほしいということになります。また、この中にあるデータを参照したりするので、いわゆる情報漏洩なんかにもつながりますよね。エージェントの権限設定っていうのが、これ重要になるケースになります。どのデータまで見ていいのか、どのデータまで加工していいのか、あるいは外部のGmailとかに送っちゃったりもするんですけど、それってやってもいいのかとか、必ず人の承認プロセスを間に挟んだ方がいいんじゃないかとか、あとはちゃんとログを取ったり、バックアップでデータ復旧できたりとか、いろんな権限設定とかリスク対策ってことをやっていく必要があるかなと思います。今、このエージェントのセキュリティとかリスク対策ってかなりホットなトピックになると思うんですけど、この辺りがよく分からないまま使っているって方、非常に多いので、大事なデータにつないだり権限を渡す時は、十分に慎重にリスクを確認しながらやっていただくのが大事かなと思います。はい、ということで、お疲れ様でした。以上になります。今回はケーススタディ、こんなAI活用はセーフ・アウト、考えてみようというテーマでお届けさせていただきました。まず1番、文章作成とかを丸投げする。これは基本的にはアウトになりやすいです。2つ目、機密情報をそのまま無料のAIチャットに入力する。情報漏洩への危険性が非常に高いので、法人向けツールを使ったり、セキュリティ対策をしてください。災害のフェイク画像を投稿する。これは当然アウトだし、アニメとか有名人の動画を作成して投稿してしまう。これもダメですよね。5番が見解が分かれるところなんですけど、ジブリの画像を作ってアップするっていうのは、作風は著作権上は問題にならなくても、実務的には結構トラブルになりやすいケースなので、この辺りはケースバイケースとなります。6番、ゴミの分別法をAIチャットに相談するっていうのは、ハルシネーションが起きやすい代表例になりますので、十分に注意してください。営業メールをAIで作ってそのまま送信してしまう。これね、内容がポンコツの場合、かなり信頼を失う行為ですので、十分注意してください。スポーツ選手へのメッセージをAIで作成する。これも基本的にはセンスがない使い方かと思います。アニメイベントのポスターをAIで作っちゃうってところは、やっぱりクリエイターさんたちの反感を買うところになりますので、十分に注意してほしいケースです。そして10番ですね。今話題になっているAIエージェント。こういうものに権限を与えたり、社内の大事なデータにそのまま接続するっていうのはかなりリスクの高い行為になりますので、安全設計をしっかりしていくことが大事になるかと思います。はい、ということでいかがだったでしょうか。私も100点満点の回答が今日のこの動画でできているとは思っていないんですけど、おおむねこれでいいんじゃないかなと思っていますので、ぜひ皆さんも色々考えていただけるといいかなと思います。はい、それでは今回は以上です。ありがとうございました。