AIのリスクとの付き合い方
— ハルシネーション、バイアス、秘密。
AIのリスクは、怖がり方を間違えると二度損をします。怖がりすぎれば競争力を失い、 怖がらなすぎれば事故で信用を失う。必要なのは「なんとなく不安」でも「たぶん大丈夫」でもなく、 仕組みから正しく怖がることです。最終回は、3つのリスクを「仕組み→事故の典型→手当ての型」の 順で解剖します。第1回で学んだ原理が、ここで全部回収されます。
リスクの語られ方は、なぜ両極端になるのか。
AIのリスクを巡る社内の会話は、たいてい2つの極に割れます。「何が起きるか分からないから、当面禁止で」——と、「みんな使ってるんだから、細かいこと言わずに」。どちらも間違いですが、間違い方が対照的です。前者はリスクを大きな一つの霧として扱い、後者はリスクを存在しないものとして扱っている。
実際のリスクは、霧でも無でもありません。数えられる数個の、仕組みの分かった現象です。仕組みが分かれば、手当ても型になる。実務で押さえるべきは3つ——①もっともらしい嘘(ハルシネーション)、②回答の偏り(バイアス)、③入力情報の行き先(秘密)。順に解剖しましょう。3つとも、解剖が終わる頃には「霧」ではなくなっているはずです。
ハルシネーション — 嘘は、どこで生まれやすいか。
第1回の核心を思い出してください。LLMは「もっともらしさ」を最適化する機械であり、「正しさ」を最適化する機械ではない——だからハルシネーションはバグではなく仕様の裏面でした。最終回では、この理解を一段深めます。実務で本当に役立つのは「嘘をつくことがある」という知識ではなく、「どこで嘘をつきやすいか」の土地勘だからです。
原理から導けます。もっともらしさは学習データの厚みから生まれる——ならば、データの薄い場所ほど危ない。具体的には、細かい固有名詞(人名・判例番号・製品型番)、正確な数字(統計値・日付・金額)、最新の出来事(学習後の世界)、そしてニッチな専門領域。逆に、教科書に何万回も書かれた一般原理の説明は、めったに間違えません。「概念は強いが、事実の細部は弱い」——この非対称が土地勘の核心です。もうひとつ質の悪い性質があります。データが薄い場所でも、この機械は「知りません」と言うより、もっともらしい続きを生成する方に傾きがちです。空白を、流暢さが埋めてしまう。
ここで第2回の地図が効いてきます。ハルシネーションの実害は「嘘の発生」ではなく「嘘の通過」で決まる——だから検証可能なタスク(コード、突合できる数字)では被害が小さく、検証しにくく不可逆な場所(顧客への回答、当局への提出物)では致命傷になる。リスク対策とは、検品の濃淡を委譲マトリクスに合わせて設計することなのです。
バイアス — 偏りは、二重に入ってくる。
2つ目のリスクは、答えの「偏り」です。入り口は2つあります。第一に学習データそのもの——LLMは人類が書いた文章から学ぶので、人類の偏見・固定観念・声の大きい集団への傾きを、丸ごと吸い込んでいます。第二に調教の過程——人間のフィードバックで応答を整える工程(第1回で触れたRLHF)では、評価者の好みや「無難さ」も一緒に教え込まれます。
実務でまず効いてくるのは、差別のような分かりやすい偏りだけではありません。もっと日常的なのは、追従性——あなたの意見に寄せてくる癖です。「この施策、良いと思うんだけど」と聞けば長所を並べ、「不安なんだけど」と聞けばリスクを並べる。同じ機械が、聞き方ひとつで逆の答えを出す。もうひとつは無難への収束——みんなが同じAIに聞けば、みんなが同じ「そつのない答え」を持って会議に来る。差別化を売る仕事にとって、これは静かなリスクです。
金融機関の読者には馴染みの整理で言えば、これは「モデルの限界を知った上で使う」というモデルリスク管理の発想そのものです。相手が統計モデルからLLMに変わっても、規律の型は変わりません——出力を鵜呑みにせず、限界を文書化し、人間の判断責任を残す。
秘密 — 入力した情報は、どこへ行くのか。
3つ目は、AIの出力ではなくあなたの入力のリスクです。チャット欄に貼り付けた文章はどこへ行くのか——答えは「サービスと契約による」です。無料の個人向けサービスでは入力が将来の学習に使われる設定になっている場合があり、法人契約では学習に使わない・一定期間で削除するといった条件が結ばれるのが一般的です。同じ画面に見えても、裏側の契約が違えば、情報の行き先はまったく違う。
だから実務の判断基準は、ツールの名前ではなく、この一問に集約できます——「この情報を、契約関係の整理されていない社外の協力会社にメールで送れるか?」 AIサービスとは、突き詰めれば社外の処理委託先です。委託先に送れない情報(顧客の個人情報、未公開の業績、インサイダー情報、取引先の秘密)は、貼ってはいけない。逆に、送れる程度の情報なら、過剰に恐れる必要もない。迷ったら、固有名詞と数字を伏せ字にして構造だけ相談するという中間の手もあります——「A行の山田様の案件」ではなく「地方銀行の富裕層顧客の一般的なケース」として聞く。相談の価値の大半は、それで保てます。
組織のルール作りにも一言。「機密情報は入力禁止」という一行ルールは、現場に判断を丸投げしており、実は何も統制していません。機能するのは「この業務のこの情報は、このツールならここまで入れてよい」という組み合わせの明文化です。書くのは大変ですが、書いた瞬間から、現場は迷わず走れるようになります。
禁止ではなく、統制を。
3つのリスクを解剖して、共通の構造が見えたはずです。どのリスクも「使うか使わないか」ではなく「どう使うか」に宿っている。ハルシネーションは検品の濃淡で、バイアスは聞き方と責任の置き方で、秘密は情報とツールの組み合わせで——すべて設計で管理できるものでした。
ここで、全面禁止という選択肢の本当のコストを見ておきます。禁止された組織で何が起きるかは、もう各所で観測されています——仕事は個人のスマホと私用アカウントに潜るのです。いわゆるシャドーAI。利用は消えず、可視性だけが消える。検品もルールも届かない場所で、会社の情報が一番危険な形で使われる。禁止はリスクを消しません。リスクの置き場所を、見えない場所に変えるだけです。
そして「統制」の中身は、実はもう全部この連載と道場に揃っています。第1回の検品の型。第2回の境界線の棚卸し。第3回のトリガー式の備え。不可逆な実行の前に人を置くゲート設計。リスク管理とは、AIを遠ざけることではなく、AIを見える場所に置いて型で挟むこと——これが、教養課程4回分の結論です。
現場での使いどころ — 明日からの3行動
- 事実の主張には出典を要求し、出典を開く。「概念は強いが事実の細部は弱い」の土地勘で、検品の力点を絞る。
- 重要な判断は、逆の立場でもう一度聞く。追従性を知る者は、AIの賛成を賛成として数えない。
- 入力前に「社外委託先に送れるか」を自問する。迷ったら、固有名詞と数字を伏せて構造だけ相談。
会議で「AIもこう言っています」と聞いたら。
これからの会議で確実に増える台詞です。聞いたら思い出してください——その回答は、誰が・どう聞いたかに依存しています(追従性)。賛成してほしそうに聞けば賛成が返ってくる機械の賛成は、賛成者の頭数に入れられません。
切り返しは尋問ではなく、型で十分です。「逆の立場で聞いたら、何と言っていました?」——聞いていなければその場で聞けばよく、両方の答えが出揃って初めて、AIの意見は会議の材料になります。第2回のゲーム「ファクト探しダウト」で鍛えた反射の、そのまま応用です。
シャドーAI — 禁止した会社で、実際に起きること。
従業員調査では、会社の許可していないAIツールを業務に使う人の割合が繰り返し高い水準で報告されており、禁止規程のある企業でも例外ではありません。悪意の話ではないのです。目の前に「30分の仕事を3分にする道具」があり、隣の会社は使っていて、自社だけ禁止——その状況で規程だけが利用を止めた例は、歴史上ほとんどありません(私的なスマホ、私的なメール、USBメモリ。どれも同じ道を辿りました)。
統制側に回った会社が最初にやるべきことは、実は高度なガバナンス文書ではなく、「公式に使ってよい、十分に便利な道」を用意することです。表の道が使いやすければ、裏道は自然に細る。統制の第一歩は、禁止の解除とセットでしか機能しない——これが各社の試行錯誤から見えてきた、身も蓋もない教訓です。
教養課程、修了です。
第1回の書き出しを覚えているでしょうか——「使い方の前に、正体を」。4回かけて、正体を見てきました。振り返れば、背骨は4行に収まります。
- 第1回LLMは「次の単語」を予測する機械。もっともらしさと正しさは独立——だから検品。
- 第2回境界線は動く前線。位置でなく動き方を覚え、四半期ごとに引き直す——だから棚卸し。
- 第3回予測は当てるものでなく読むもの。備えは賭けずに型で——だからノーリグレット。
- 第4回リスクは霧ではなく仕組み。禁止でなく、見える場所で型で挟む——だから統制。
正体は分かりました。次は、使い方です。ここから先は教室ではなく道場——5つの必須スキルの実践課程、腕を試すツール、反射を磨くゲームが待っています。読むだけで終わらせなかった人から、境界線の内側で強くなっていきます。
- LLMはなぜ賢いのか — 仕組みと歴史を、1時間ぶんだけ。
- 境界線の地図 — AIにできること・人がやるべきこと
- AGIはいつ来るのか — 予測の読み方と、賭けない備え方
- AIのリスクとの付き合い方 — ハルシネーション、バイアス、秘密
※本稿の記述は2026年7月時点のものです。サービスごとのデータの扱いは変わり得るため、実際の利用判断は最新の契約・規約と自社の規程に従ってください。本稿は一般的な考え方の型を示すものであり、個別の法的助言ではありません。