AIが嘘をつく時代に、企業の信頼設計をどう守るか。
カナダで、航空会社が自社のAIチャットボットの誤案内の責任を問われ、賠償を命じられた。2024年の判決だ（Moffatt v. Air Canada, 2024 BCCRT 149）。
世界の法廷では、弁護士が「実在しない判例」を提出してしまう事故が相次いでいる。専門家向けのデータベースには、すでに1,000件を超える事例が記録されている。AIは悪気なく、自信たっぷりの顔で嘘をつく。そしてその嘘の責任は、使う側が取らされる。
これはブランドの問題だ。
AIはなぜ嘘をつくのか
ChatGPTやClaude、Geminiの正体は「世界最強の予測変換」だ。膨大な文章を学習して、「この文脈なら次に来る確率が高い言葉はコレ」を並べている。AIは「正しいこと」を調べているのではなく、「それっぽく続く言葉」を計算している。 だから「事実」と「当てずっぽう」の区別がない。これがハルシネーションの正体だ。
嘘はバグではなく仕様。性能が上がっても、ゼロにはならない。「AIがそう言いました」は、免責にならない。
信頼を守る4つの設計
① ルールは「必ず読まれる場所」に常駐させる
AIへの指示ファイル(Claudeなら「CLAUDE.md」、ChatGPTなら「カスタム指示」)に「数字・固有名詞・引用は一次ソースを確認してから書く。確認できないものは書かない」という絶対ルールを書く。毎回プロンプトに打つのではなく、毎回必ず読まれる場所に置く。
② 検証手順を「部品」にして自動で走らせる
「数字や固有名詞が出てきたら出典URLを実際に開いて照合する」という手順そのものを部品にして、外に出す文章はこれを通さないと完成にしない、と設計する。言い回しではなく、手順で縛る。
③ 事実は1件1ファイル＋索引で管理する
1ファイル1事実のメモにして、索引に必ず載せる。索引に載っていないと読み込まれず「書いたのに効かない」が起きる。
④ 意志ゼロでも動く仕掛けを外側に置く
AIは昨日の自分を覚えていない。「毎日これをやる」と決めても、AIの記憶に任せた瞬間、数日で止まる。iPhoneの繰り返しリマインダー、Zapierの自動化——「自分の意志の外側」から発火する仕掛けを置くことが本質だ。これはAIの話だけでなく、組織のマネジメントでも、ブランドの運用でも、まったく同じ原理だ。
詳しくはnoteの連載をご覧ください。
AIを業務に取り入れる際の信頼設計、ブランドコミュニケーションの構造見直しなど、お気軽にご相談ください。
