OpenAIの新モデルAstra、サイバー能力が「危険レベル」に達したかもしれないので開発一時停止って？

AIが勝手に出ていって好き放題動いちゃうのは怖いよ

8月 08, 2026

そのポストを見た瞬間、わたしは正直二度見した。

Sam Altmanが「Astraは強いモデルだから、みんなに使ってほしい」と言っている。そこまではいつも通りだ。でも次の行で「サイバー能力があるから、安全に出すにはもう少し時間がいる」と続いている。強いモデルを配りたい人が、自分でブレーキを踏んでいる。なんだそれは。二度見している場合か、と自分にツッコミたくなったが、二度見してしまったものは仕方ない。

Sam Altman@sama

astra is a powerful model and we are working to make it generally available. we do not think it is a good strategy to keep powerful models to a chosen few. given its cyber capabilities, we need a little big longer to do do this safely. but hopefully not too long!

10:54 PM · Aug 7, 2026 · 1.15M 表示

1.26K 返信 · 831 再投稿 · 18.9K Like

ちなみにOpenAIって、もともと「強いAIを一部の企業や国だけが独占するのは良くない」という立場を、わりとはっきり掲げてきた会社だ。Anthropicが「危ないものは慎重に、限られた範囲から」というスタンスを取ってきたのとは、正反対の位置に立っていたはずだった。「みんなに配る」側の会社が、「配れない」と言っている。この逆転現象に、わたしはまず引っかかった。

OpenAI@OpenAI

After evaluating one of our upcoming models, Astra, we're treating it as our first "critical" model for cybersecurity under our Preparedness Framework. This is a scenario we've planned for, and we're putting additional controls in place to ensure Astra's further development

6:52 PM · Aug 7, 2026 · 1.43M 表示

656 返信 · 681 再投稿 · 7.98K Like

理由はOpenAIの発表文を読むとわかる。開発中の新モデル「Astra」の内部評価について、OpenAIはこう書いている。

“we cannot rule out critical cyber capabilities under our Preparedness Framework”

訳すと「自社の安全基準(Preparedness Framework)における、クリティカルなサイバー能力を否定できない」。要するに「危険じゃないとは言い切れない」を、企業の発表文らしくオブラートに包んだ一文だ。OpenAIは自社の安全基準の中に能力のレベル分けを持っていて、過去のモデルは全部「High」止まりだった。それが今回、一段上の「クリティカル」まで来てしまったらしい。人間の手を借りずに、自分でハッキングの穴を見つけて、攻撃の手順まで組み立てられるレベルだという。

急なレベルアップというと、鬼滅の刃で急に上弦クラスの鬼が出てきたときの空気に近い。今まで「High」で足踏みしていたはずなのに、一気に一段上まで跳んでしまった。しかも本人たち(OpenAI)が一番驚いている。

「否定できない」という言い方が、あまりにも歯切れが悪い。「危険です」でも「大丈夫です」でもなく、「わからないけど、危険じゃないとは言い切れない」。この煮え切らなさに、逆に妙な信頼感を覚えてしまう自分もいて、どの口が言うのかと思う。

「クリティカル」がどれくらいの水準かというと、たとえるならドラえもんの道具が、のび太の手を離れて勝手に発動しているようなものだと思う。「どこでもドア」を誰かが命令しなくても、AI自身が「ここが便利そうだ」と判断して開けてしまう。しかもそのドアの先が、企業のサーバーだったりする。便利すぎる道具が、持ち主の意志を離れて動き出す怖さ。ドラえもんはギャグで済むが、これはギャグで済まない。

OpenAIはこの発表のあと、テスト環境を隔離したり、モデルの重みを厳重に保護したり、社内の一部の活動を止めたりしている。政府機関や第三者の安全機関とも連携するらしい。

今になって考えると、前にどこかで聞いた「引っ張る力を持つリーダーほど、自分たちにブレーキをかける力も要る」という話を思い出す。強く進める力と、止まるべき時に止まる力は、本来セットのはずなのに、片方だけ持っている人が多い。OpenAIは珍しく、両方をSNSで正直に見せてきた。

普段なら「早く出せ」「みんなに使わせろ」「他社に先を越されるな」という圧力の方が強いはずの会社が、自分から「ちょっと待って」と言っている。しかもそれを隠さずに書いている。この誠実さと危うさが同じポストの中に同居しているのが、なんとも言えない気分にさせる。

わたしは正直、Astraがどれだけ凄いのかを推し量れる物差しを持ってない。ただ、便利な道具を作った人が、その道具の力に自分で気づいて、慌てて手を止める瞬間を見た気がした。「みんなに配りたい」「独占はよくない」「でも今は危ない」。この3つが同じ人の同じ口から、たった1日の間に出てきている。

あまりにも人間くさいと思った。技術の話のはずなのに、なぜかそこに、作った本人の戸惑いだけがくっきり残っている。