第1作の最後。コデがチェックリストを見て、ひとこと。
「……問題があります」
献立アプリは動いた。見た目も直した。それなのに、公開の仕方に問題があって、見せるつもりのなかった物まで外から読める状態でした。 この本は、その数秒後から始まります。
セキュリティというと、難しい言葉や怖い話を想像するかもしれません。 でもこの本で描いたのは、AI初心者の農場長が実際につまずいて、AIチームと一緒に直していった順番です。 「前に合格したのに、まだだめなの？」という素朴な疑問に、4つの部で答えていきます。
登場するAIチームの役割
- チャッピー…読者の案内役。難しい言葉を、日常の言葉に置き換えてくれる
- ボスクロ…作る係。危ない案は止めて、直して、公開前の「門番」を作る
- コデ…別の方向から確かめる係。公開した後の「外側」から見る
- クロエ…判断の材料と、農場長の気持ちを整理する
4つの部で分かること
-
公開したら、外から見る
第1部「見えてはいけないものが、見えていた」
PCの中では安全に見えても、公開した後の状態は別物です。 たとえるなら、鍵のかかった倉庫（非公開の保管場所）に置いていても、公開する時に倉庫ごと店先に出してしまえば、中身は見えてしまいます。
だから確認は、作った物の中身を見るだけでは足りません。実際に公開された場所を、外から見て確かめる。直した後も、もう一度外から見る。これが基本でした。
自分の仕事なら：公開したら、自分のパソコンではなく「外から」開いてみる。AIに「公開されたページを、外から見て確かめて」と頼む。
-
安全と使いやすさは、順番を決めて両方育てる
第2部「安全にしたら、使いにくくなる？」
次に見つかったのは、農場日報や問い合わせのフォームが「誰でも送れる」「届いたかどうか、本当は分からない」状態だったこと。
農場長の希望は「社員の手間を増やしたくない」「配ったQRコードは変えたくない」。 完全な本人確認と手間ゼロは両立しにくいので、守りを3段に分けました。 「入口」（画面を開く所）だけで全部守ろうとせず、「受付係」（送られた中身を確かめる所）でおかしな物を止め、「台帳」（保存する所）でも確かめる。 こうして、使う人の操作を増やさずに直せる所から直しました。 個人の情報が届く問い合わせフォームは、守りを強くしました。
まだ試しの段階だった日報は、本人確認だけを「保留」に。保留は放置ではなく、別に本番の記録を残し、農場長が毎日確かめることを安全網にしました。
自分の仕事なら：何を守るのか、漏れたらどれくらい困るのか、使う人の手間はどうか。この3つで直す順番を決める。後回しにするなら、いつ見直すかも決めておく。
-
AIにも、入っていい場所を決める
第3部「AIにも、入っていい場所を決める」
APIキーやトークンは、サービスを使うための「合鍵」です。会話の記録や設定ファイルに、古い合鍵が残っていたことがありました。
文字を隠すのは「写真に写さない」対策。本当に大事なのは、落とした鍵を使えなくすること（無効化）と、置き場所を決めることです。 AIを信じるか信じないかの二択ではなく、使う道具ごとに「何が見られて、何ができるか」を確かめる。出どころの分からない道具は増やさない。
自分の仕事なら：合鍵（APIキーやパスワード）は、ファイルや会話に直接書かない。うっかり出してしまったら、隠すより先に作り直す。
-
一回通っても、完成じゃない
第4部「一回通った。それでも完成じゃない」
一度は合格したのに、別の見方をすると同じ穴に届いてしまう。直しても、次の変更で穴が戻ることもあります。 そこで、公開のたびに自動で止めてくれる「門番」を置きました。
自動の確認は、同じことを速く何度でも確かめるのが得意。人は、現場の違和感や本物のスマホでしか起きない問題に気づくのが得意。 報告する時は「確かめたこと」「まだ確かめていないこと」「残る限界」を分けて伝えます。
自分の仕事なら：AIから「できました」と言われたら、「確かめたこと・確かめていないこと・残る限界は？」と聞き返す。
この本で一番伝えたかったこと
穴が見つかったのは、前の確認が無駄だったからではありません。見る角度が増えたから、今まで見えなかった穴が見つかったんです。
作る人、別の目、そして最後に決める人（農場長）。目を重ねて守っていく。 漫画の最後で、農場長はこう言います。「また穴が見つかっても、見つける仕組みで一つずつ潰せばいい」。
※この本では、実際のURL・ファイル名・防御をすり抜けた方法などは描いていません。攻撃のやり方ではなく、問題の見つけ方・判断の仕方・二度と起こさない工夫を伝える漫画です。
最悪を避ける備えをして、小さな穴は何度でも見直して直す。