あるAIモデルが、国家の機密システムのほとんどに、数時間で入り込んだ。
そんな話を聞いたら、あなたは最初に何を疑うでしょうか。
話の発端は、ある経済誌が報じたとされる一つの主張でした。
その主張と、そこに集まった賛否の声を整理してみます。
なお、報告の真偽そのものは確認できていません。
あくまで「そう報じられ、こう議論されている」という話として読んでください。
報じられた主張：数週間ではなく、数時間
報告の核心はシンプルです。
Anthropicが開発した「Mythos」と呼ばれるモデルが、機密システムのほぼすべてに侵入した。
しかも、その所要時間は数週間ではありませんでした。
たった数時間だった、というのです。
この話を語ったのは、米上院の情報委員会の幹部だとされています。
そして、その幹部はNSAとサイバー軍を率いる高官から聞いた、と説明したそうです。
暗号技術は強力でした。
ただし、効く範囲は限られていました。
一方でAIは、もっと広い場面に作用してしまう。
この対比が、報告にざわめきを与えた一因でしょう。
ただ、ここから先の受け止め方は、人によって大きく割れました。
「Mythosが強い」のか「守りが甘い」のか
いちばん多くの支持を集めた声は、意外なものでした。
問題はMythosの性能ではない、という指摘です。
むしろ、NSA側の守りが弱いだけではないか、というわけです。
論拠はこうです。
政府機関は、優秀な技術者に十分な報酬を払えません。
だから、人材は民間へ流れていきます。
システムは古く、更新も予算で後回しにされがちです。
これでは破られても驚かない、という理屈でした。
もっとも、これには反論も出ました。
実際には、政府の有資格ポジションは民間並みの待遇を出しているといいます。
優秀な技術者も大勢いる、という声もありました。
さらに、機密区画の中でソフトを書く制約を知っていれば、現場の難しさが分かるはずだ、との指摘もありました。
守りが甘いと言い切るのは、少し早いのかもしれません。
「マーケティングだろう」という懐疑と、その反論
「結局は不安をあおる宣伝では」という冷めた見方も目立ちました。
問題を探せば、必ず見つかる。
別のモデルでも同じ結果が出ただろう。
そういう理屈です。
これに対して、興味深い反論がありました。
ある事実が宣伝に都合よく響くとします。
だからといって、その事実が嘘になるわけではない、というのです。
空が青いことが、ある企業に有利だとしましょう。
それでも、空はやはり青いのです。
両立しうる話を、わざわざ二択にする必要はありません。
加えて、こんな声もありました。
複数のセキュリティ企業や研究者、さらには政府機関までが、同じ危機感を共有している。
だとすれば、すべてが仕組まれた演出だと考えるほうが無理がある、という指摘です。
ここは確かに、頭の片隅に置いておきたい論点です。
本当の変化は「速度」かもしれない
議論の中で、私がいちばん示唆に富むと感じたのは速度の話でした。
あるセキュリティ企業の関係者が、業界の会合でこう語っていたと紹介されていました。
システムに侵入したあと、目当てのデータにたどり着くまでの時間が問題になります。
それはかつて、数時間の単位でした。
ところが今は、数分の単位になっているといいます。
最短では、一分を切る例もあるそうです。
AIは、弱点を探し当てる作業そのものを速くします。
そして、侵入後に動き回る速度も上げます。
つまり、できることが新しく増えたわけではないのかもしれません。
むしろ、これまでできたことが桁違いに速くなった。
そこに本質がありそうです。
ただし、この数字を語った企業には注意も要ります。
危機をあおるほど得をする立場でもあるからです。
少し割り引いて聞く冷静さも持っておきましょう。
「外から」なのか「内から」なのか
そもそも「侵入した」が何を指すのか。
ここを丁寧に問う人たちもいました。
公開されたインターネット越しに、外から入ったのでしょうか。
それとも、すでに内部にアクセスできる状態だったのでしょうか。
だとすれば、本来触れてはいけない領域へ踏み込んだ、という話になります。
前者は考えにくいものです。
実態は後者、つまり内部アクセスやコードの読み込みに近いのではないか。
そんな見立てが語られていました。
この見方が正しいなら、怖いのは内部の脅威です。
これまで、内部関係者でありながら一流の攻撃技術まで備えた人物は、ごくまれでした。
けれど、AIを手にすれば話は変わります。
ふつうの内部関係者でも、同じことをやれてしまうのです。
アクセスを最小限に絞る「ゼロトラスト」の考え方は、まだ広く根づいていません。
とくに、作ったあと放置されがちな機密領域の古いコードでは、なおさらでしょう。
ついでに言えば、アプリとシステムを混同しない注意も要りました。
自分の小さなアプリを、少し堅くした体験があるとします。
それを、国家規模のネットワークの安全にそのまま重ねることはできません。
守りの設計思想が、そもそも違うからです。
攻撃に使えるなら、防御にも使える
議論の中に、こんな問いがありました。
全能の神は、自分でも動かせない岩を作れるか。
これをもじって、こう尋ねた人がいたのです。
Mythosは、Mythos自身にも破れない安全なシステムを作れるのか、と。
冗談めかした問いですが、芯を食っています。
弱点をすべて見つけられるとします。
ならば、その知見でより堅いものを設計できるはずです。
守る側にとって、これは悪い話ばかりではありません。
実際、脆弱性は昔から知られていました。
それでも、直すための人手も時間も足りなかった、という指摘があります。
AIは、その足りなかった分を埋める道具にもなります。
ある取り組みでは、Mythosへのアクセスを得た企業がありました。
そして、その企業は自社製品の弱点を数多く見つけて修正した、と紹介されていました。
そして、忘れてはいけない現実があります。
AIを持つのは、一国だけではありません。
同じ力を外から向けてくる相手は、いずれ必ず現れます。
だからこそ、見つける力を防御へ先回りで使う意味があるのでしょう。
まとめ：何を持ち帰るか
ここまで見てきた話は、確定した事実ではありません。
報じられた一つの主張と、それをめぐる賛否です。
だから、いちばん大切なのは結論へ飛びつかない姿勢だと思います。
それでも、議論から拾える教訓ははっきりしています。
AIは、攻撃と防御の両方で二つのものを一気に下げました。
「かかる時間」と「必要な技量」です。
この変化は、誰がどう評価しようと残ります。
私たちにできることは、地味で確実なほうにあります。
たとえば、次のような積み重ねです。
- 使っているソフトを放置せず、こまめに更新する
- 既知の弱点は、見つけしだい塞ぐ
- 守りは一枚にせず、何層にも重ねておく
派手さはありません。
けれど、こうした地道さがじわじわ効いてきます。
センセーショナルな見出しは、人の不安をうまくつかみます。
でも、本当に役立つのは別のところかもしれません。
見出しの内側で交わされた、地味な議論のほうだったりするんですよね。
一つの報告を入り口にしましょう。
そして最後は、自分の頭で確かめていく。
その習慣こそ、これからの時代にいちばん効く防御かもしれません。
