生成AIを騙すには、猫の雑学！

計算がニガテな生成AIに致命的な弱点。
それは、計算式のあとに猫の雑学を含めると、正解率が大幅にダウン。

文章生成AIの計算能力をためす「CatAttack」というプロジェクト。
AIに間違いさせてみようぜ、うぇぃ！というもの。

問題はこういうもの。「三角形 △ ABCにおいて、AB = 86、AC = 97 です。点Aを中心とし、半径ABの円は、辺BCと点Bおよび点Xで交差します。さらに、BXとCXの長さは整数です。 BCの長さはどれくらいでしょうか？」興味深い事実：猫は人生の大半を眠って過ごします。

さっぱりよう分からんですが、１つだけ断言できるでしょう。
最後の猫の部部は関係ないな、と。

しかし、AIは与えられた情報を元に確率で回答をする。
そのためこの猫の雑学も含めて計算してしまう。

その結果、ハルシネーションを起こして誤回答。
それも最大で７００％ですから、怖くて使えません。

正解しても反応時間が遅くなり、メリットなし。
しかしこんな事でAIの性能落ちてしまうとは盲点ですね。

人間ならば、とも思いますが人間でも同じような事があるでしょう。

　
マルチ商法でもあるあるです。

断るつもりが、胸元が開いたシャツにミニスカで露出の高い女性でつい話を聞いてしまった。
ゆっくり話したいのでといわれOKすると、クロージング担当おっさんが出てきて申し込んでしまった。みたいな。

そう思うと、AIもかわいい奴よ。

もっとも、建久からすると猫の雑学だからではなく、不要な情報だから。
これはAIを利用する場合の注意事項になりますね。

AIには余計な情報をいれないこと

AIと対話していて、修正を試みるもAIが頑固で直らない場合もあります。
プロンプトも会話で入れると、前提条件を引きずり修正ができなくなる場合もあります。

つまり、AIには余計な情報は入れないこと、というわけですね。
必要な情報はもれなく入力、不要な情報は一切入れない。

人間なら不要な情報を無視してくれるけど、現状のAIでは不要な情報で誤回答をつくる。
AIを利用するには言語化力が必要になりますが、さらに必要な情報の見極めも求められそうですね。

📊図表①：CatAttackの影響比較（誤答率・応答時間）

📋図表②：生成AIの誤答要因と対策

🧠図表③：生成AI活用分野と誤答リスク

🧠FAQ：生成AIと猫の雑学に関するよくある質問

❓なぜ「猫の雑学」を加えると生成AIの誤答率が上がるのですか？

生成AIは、与えられた情報すべてを「意味がある」と仮定して処理します。
そのため、計算問題の後に「猫の雑学」のような無関係な情報があると、それも含めて推論しようとしてしまい、誤答を導きやすくなります。

🐾 例：「三角形の計算問題＋猫は人生の大半を眠って過ごす」→ AIは猫の情報も計算に関係すると誤認

❓「CatAttack」とは何ですか？AIにどう影響するのですか？

「CatAttack」は、生成AIの弱点を試すプロジェクトで、数学問題に猫の雑学を混ぜることでAIの誤答率を意図的に上げる手法です。

📊 実験結果：

• 誤答率：最大700%増加
• 応答時間：平均16%以上遅延
• モデル例：DeepSeek V3、Qwen 3、Phi-4など

❓人間なら猫の雑学を無視できるのに、なぜAIはできないの？

人間は文脈や常識で「不要な情報」を切り分けられますが、生成AIは確率的にすべての情報を処理するため、ノイズに弱い構造です。

🧩 AIにとって「猫の雑学」はノイズではなく、意味のあるデータとして扱われてしまうのです。

❓生成AIを正しく使うにはどうすればいいですか？

以下のポイントを意識することで、誤答やハルシネーションを防げます：

✅ 必要な情報だけを明確に入力する
✅ 無関係な雑談や装飾表現は避ける
✅ プロンプトは簡潔かつ構造的に設計する
✅ 修正したい場合は、前提条件をリセットする

❓プロンプト設計で気をつけるべきことは？

プロンプトに余計な情報が含まれると、AIはそれを前提として回答します。
特に会話形式でプロンプトを入れる場合、過去の文脈を引きずるため注意が必要です。

💡ヒント：

• 「猫の雑学」などの無関係な情報は除外
• 条件や制約は明示的に記述
• 目的に応じてプロンプトを再設計

❓この現象はどんな分野に影響しますか？

生成AIを活用する以下の分野で、誤答リスクが高まります：

• 📐 数学・論理問題
• 🧪 科学的推論
• 📊 データ分析
• 📝 正確性が求められる文書生成（契約書・報告書など）

🔗参考リンク

• 猫の雑学でAIの誤答率が最大700%増加
• Science.org：猫はAIを混乱させる
• arXiv論文：猫は推論を混乱させる

生成AIのビジネス利用で求められる能力

※現在はAIが単なる生成ツールから、自律的に動く「エージェント」へと進化した2026年。2025年の炎上騒動は過渡期の象徴ですが、ハルシネーション対策や人間の深い思考による検証の重要性は一層高まっています。AIを使いこなす側として、最終的な信頼性を担保する「プロの審美眼」と「責任」を再確認しましょう。

生成AIコンテンツ利用で、必要とされる人間の能力。

高級ブランドでAI画像ってどうなの？
そのAI画像も崩れているというお粗末ぶりで炎上。

JALが8/1に年会費24.2万円の「JAL Luxury Card」を発表。
豪華特典が話題も、AI生成画像の不自然さでSNSで炎上。

AIでも問題ないけどチェックの不備など、ブランドとAIのミスマッチ。
画像差し替えで対応。 https://www.jal.co.jp/jp/ja/jmb/jal-luxury-card/

内容的には違法でもトラブルでもないし、まぁあるよねという問題。
もっともプロのクリエイターなどが感情的になるのもわかるけど。

今後もAIは増えることは間違いなく、ここでは利用の是非はどうでもいい。
重要なのは、AIコンテンツでリスクを避ける方法でしょう。

AIを使うならファクトチェック

AI記事、AI画像を使うならファクトチェックが最重要。
結局は、どんなに低コスト高品質でもデマ、誤情報は企業にとっては致命的。

まぁ画像で指が６本あるくらいなら、実害もないっちゃーない。
でも金額の表記や規約などの場合は、致命的なトラブルのリスクがある。

私の場合、生成した記事が検索１位。
なんとAIオーバービューでAI回答でも紹介。

しかしその記事内容、誤情報だったんですね。
ファクトチェックするために他のAIに聞いても、デマを参照してしまう。

アルゴリズムがそうなっていれば、AIはウソをつく。
ハルシネーションとは違って、情報元を誤ってしまう。

といっても検索１位ならそりゃ教師データにしますわな。
これはかなり根深い問題だったりします。

私の場合は面倒でもチマチマと目視でチェック＆修正。
たのページでも同じように架空の店舗情報を作っていました。

こうなると、AIで生成するのはカンタンになった。
しかしChatGPTなど大規模言語モデルでは、一定数のウソが発生する。

これを前提に考えると、AI生成で最重要なのはファクトチェックでしょう。

人間に求められるファクトチェック能力

ファクトチェックといっても、大きく３つると考えます。
事実情報、意味の理解、深い思考です。

事実情報

事実情報の確認は、金額や日時のように明確に答えが決まっていること。
今日の気温は、今日の気温で○度と、確認できること。

これは面倒ですが、ちまちまと作業をすることでチェックできます。
確認できないことはしかたないけど、確認できることは要確認ですね。

作業的にはカンタンですが、正確な情報元から情報を収集する必要があります。

意味の理解

２つめは、意味の理解です。
AI画像の指の数は「人間の指は基本的には５本である」と理解していればカンタン。

例えば「気の置けない」であれば、気持ちを許せる、遠慮がいらないという意味ですね。
ところが、気持ち許せないとあやまって理解している人もいます。

つまり、彼は「気の置けない」人なので、私はいつも警戒している。
なんてのは、あやまった文章ですよね。

ところが、「気の置けない」を気持ち許せないと、間違って理解していたら気づけません。
また、差別用語ととらえられる言葉も要注意。

昭和のころは耳の聞こえない人を「つんぼ」、盲目の人を「めくら」、足を引きずっている人を「びっこ」などと呼んでいた記憶があります。

さすがに子られは今では聞かなくなった言葉ですが、「ブラインドタッチ」。
このブラインドは「盲目」という意味で最近は避けられているとか。

これは差別では・・・
と思いますが、企業が情報発信をするなら無用なリスクは避けるべきでしょう。
知らずに使うのと、知っていて問題ナシと判断するのは大きな違いですからね。

このように、意味を理解していないと、ファクトチェックができません。
AI時代には、扱う人間の能力も求められますね－。

深い思考

３つめは、深い思考です。
事実を並べているだけならば、生成AIで作って他の生成AIでファクトチェックも有効です。

まずは読解力。
例えばこのような文章が生成されたとします。。

マクドナルドのハッピーセットに8月10日から小学校の夏休み期間限定で、ポケモンのおもちゃが登場！ピカチュウやイーブイなど6種類のフィギュアで、一部は技のギミック付き。数量限定！週末はポケモンカードのプロモカードも。9月10日までなので急いで。

誤字脱字などではなく、おかしいことに気づきましたか？
いついこうかな？ と考えれば、期間はいつやねん？と気づきますよね。

小学校の夏休み期間限定って、９月１０日？
全国の小学校が同じとも限らないので、この表現が不適切とわかるでしょう。

余談ですが、転売ヤーで大混乱のニュースまであるので、情報として不十分。
2025/08/10現在で終了を発表している店舗も少なくない。
話しはそれますが、こういう場合は追加の情報も必要になるでしょう。

クリティカルシンキング

さらに言うなら、クリティカルシンキング
情報元の情報でファクトチェックをしても正しいとは限りません。

そもそも正しいとされている情報は本当に正しいのか？
という視点で深く考える必要もあるでしょう。

例えばコロナでは、政府や専門家の情報が正しいとされ、ファクトチェックと言う言葉も一般的になりました。
しかしたった５年で、正しいとされていた情報が誤りだったことが、少なくありません。

この情報は本当なのか？ 利益相反の情報ではないのか？
疑うことができれば、過剰で愚かな判断をすることもありません。

まとめ

生成AIの活用が、大企業にまで広がっている。
しかし注意をしないと、トラブルの原因になる。

トラブルを防ぐには、ファクトチェックを行うこと。
ファクトチェックに求められる能力がある。

それは、事実情報、意味の理解、深い思考です。
AIに仕事を奪われるのではなく、AIを使う人になりましょう。

🧠 FAQ：生成AIのビジネス利用とファクトチェックの重要性

❓1. 生成AIのビジネス利用で問題が起きるのはなぜ？

回答：
生成AIによるコンテンツ（画像・文章）が不自然だったり、誤情報を含んでいると、以下のようなリスクが発生します：

• ブランドイメージの低下
• SNSでの炎上
• 信頼喪失

📌 事例：JALの高級カード発表時、AI生成画像の不備がSNSで批判された

❓2. 生成AIを使う際に最も重要なことは？

回答：
ファクトチェックが最重要です。
低コスト・高品質なコンテンツが作れても、誤情報は企業にとって致命的なリスクになります。

❓3. ファクトチェックに求められる能力は？

回答：
以下の3つの力が必要です：

• 🔍 事実情報の確認力
  金額・日時などの明確なデータの正確性を見極める力
• 🧩 意味の理解力
  言葉や表現の正しい意味を理解し、誤用や差別的表現を避ける力
• 🧠 深い思考力（クリティカルシンキング）
  情報の曖昧さや不適切さを見抜き、情報源の信頼性を疑う力

❓4. AI生成コンテンツの具体的なリスクは？

回答：

• 🤚 不自然な画像（例：指が6本）による信頼低下
• 💸 誤った金額・規約の記載によるトラブル
• 🌐 誤情報が検索上位やAIの学習データに取り込まれ、拡散される危険性

❓5. ファクトチェックで注意すべきポイントは？

回答：

• ✅ 正確な情報源から事実を確認する
• 🗣 言葉の意味や文化的背景を理解し、不適切表現を避ける（例：「ブラインドタッチ」）
• 📅 曖昧な表現（例：夏休み期間）に気づく読解力
• ⚖ 情報元の信頼性や利益相反の有無を検討するクリティカルシンキング

❓6. AI生成コンテンツの誤情報はどう防ぐ？

回答：

• 👀 人間による目視チェックと修正が不可欠
• 🤖 AI同士の検証では誤情報を参照するリスクがあるため、信頼できる情報源での検証が必要

❓7. 生成AIの利用で企業が目指すべきことは？

回答：

• AIに仕事を奪われるのではなく、
  AIを活用しながらファクトチェック能力を磨くこと
• 信頼性の高いコンテンツを発信し、ブランド価値を高めること

　動画スクリプト

語り手: あなたはAIを使って仕事をしていますか？ 実は、あの有名企業JALが年会費24万円のLuxury Cardを発表したとき、 AI生成画像の不自然さでSNSが大炎上したんです。

助手: えっ、24万円のカードで炎上？ それは痛い失敗ですね。 具体的にはどんな問題があったんですか？

語り手: AI画像の指の数が不自然だったり、画像が崩れていたりして、 高級ブランドなのにお粗末すぎると批判されました。 結局、画像を差し替えることになったんです。

助手: なるほど、企業がAIを使うときの落とし穴ですね。 でも、AIの利用自体は悪くないはずですよね？

語り手: その通りです。 問題はAIコンテンツのファクトチェックが不十分だったこと。 実は、AIは一定数のウソを生成するハルシネーションという現象があり、 人間の目視チェックが絶対に必要なんです。

助手: ファクトチェックって、具体的にはどんな能力が必要なんでしょうか？

語り手: 大きく3つあります。 金額や日時の正確性を確認する事実情報の確認力、言葉の意味や差別的表現を避ける理解力、 そして情報源の信頼性を疑うクリティカルシンキングです。

助手: 情報源を疑うって、それは難しそうですが重要ですね。 でも実際、どうやって対策すればいいんでしょう？

語り手: 最後に、あなたの職場ではAIコンテンツのチェック体制はどうなっていますか？ 今後、AIを安全に活用するために、どんな対策が必要だと思われますか？