私たちは、今後10年間における超人的AIの影響は計り知れないものであり、産業革命をも超える影響をもたらすと予測しています。OpenAI、Google DeepMind、AnthropicのCEOたちはいずれも、AGIが今後5年以内に到来すると予測しています。サム・アルトマンは、OpenAIが「文字通りの意味での超知能」と「栄光ある未来」を目指していると述べています。これを単なる誇大宣伝だと片付けたくなるかもしれませんが、それは重大な誤りです。これは決して誇大宣伝ではありません。私たちは自らAIを過度に煽るつもりはありませんが、それでも10年以内に超知能が出現する可能性は非常に高いと考えています。

もし超知能の到来が目前に迫っているのだとすれば、社会の準備は全く整っていないのが現実です。超知能の発展をどう乗り越えるのか、筋道を示そうとした人はごくわずかしかいません。そのギャップを埋め、具体的で実践的な視点を提供するために、私たちはこの『AI 2027』を書きました。このような取り組みがもっと世の中に増えることを願っています。特に、私たちに異論を唱える人たちからの試みを歓迎します。そうすることで、私たちが向かっている方向と、望ましい未来へどう舵を取るべきかについて、広範な対話が生まれることを期待しています。

このシナリオは、「次に何が起こるか」を繰り返し自問しながら書き進めました。現在から始め、最初の期間（2025年半ばまで）を書き、その後の期間を順に描いていき、最後に結末に到達しました。特定の結末を狙ったわけではありません。その後、何度も書き直し、最終的に私たちが妥当だと考えるシナリオにたどり着きました。最初に完成した「競争的な結末」の後には、より希望の持てる結末も描きたいと考え、同様の前提から出発して別の分岐を書きました。

もちろん、多くは推測であり、すべてが正しいわけではありません。しかし、このプロジェクトの過程で私たちは膨大な背景調査、専門家へのインタビュー、そしてトレンドの外挿を行い、可能な限り情報に基づいた推測を導き出しました。さらに、私たちのチームは特にAI分野における予測で優れた実績を持っています。リード著者のダニエル・ココタジロは、4年前に「2026年はこうなる」と題したシナリオを書きましたが、それは驚くほど現実と合致しました。エリ・リフランドは世界有数の優秀な予測者です。

『AI 2027』があなたの役に立つことを願っています。

2025年半ば：つまずくエージェント

世界は初めてAIエージェントの姿を垣間見る。

コンピューターを操作するエージェントの広告では「パーソナルアシスタント」という言葉が強調される。例えば「DoorDashでブリトーを注文して」「家計簿のスプレッドシートを開いて今月の支出を合計して」といった依頼を入力できる。必要に応じて確認も行い、購入を確定してよいか尋ねることもある。⁸従来のOperatorのような前世代のものよりも高度ではあるが、大衆的な普及には苦戦する。⁹

一方で、公の目から離れたところでは、より専門的なコーディングやリサーチ用のエージェントが、それぞれの職業を変え始めている。

2024年のAIは具体的な指示には従うことができた。例えば、箇条書きをメールに変換したり、簡単な依頼を実際に動くコードへと変えたりできた。だが2025年のAIは、従業員のように機能する。コーディングAIは単なるアシスタントというより自律的なエージェントに近づき、SlackやTeamsで指示を受けて自ら大規模なコード変更を行い、時には数時間から数日分の作業を節約する。¹⁰リサーチエージェントは30分かけてインターネットを徹底的に調べ、質問に答えを出す。

エージェントは理論上は印象的で（選び抜かれた事例では特に）優秀だが、実際には信頼性に欠ける。AI関連のTwitterには、タスクを笑えるほど派手に失敗した事例が溢れている。優秀なエージェントは高価でもある。値段相当であり、最高の性能を持つものは月に数百ドルかかる。¹¹それでも多くの企業は、AIエージェントをワークフローに組み込む方法を見つけている。¹²

2025年後半：世界で最も高額なAI

OpenBrainは、世界史上最大規模となるデータセンターを建設している。¹³

（特定の既存企業を名指ししないため、ここでは「OpenBrain」という架空の汎用人工知能企業を登場させる。他の企業はOpenBrainに3〜9か月遅れて追随していると想定している。）

GPT-4の学習には、2×10²⁵ FLOP¹⁰¹の計算量が必要だった。¹⁴OpenBrainの最新公開モデル「Agent-0」は10²⁷ FLOPで学習されている。新しいデータセンターが稼働すれば、10²⁸ FLOPでモデルを学習できるようになり、これはGPT-4の千倍に相当する。¹⁵他社も巨額の資金を投じて巨大データセンターを建設し、競争に食らいつこうとしている。

モデルは幅広い能力で進歩しているが、中でも特筆すべきはOpenBrainがAI研究を加速するAIに焦点を当てている点だ。彼らは中国（ここでは中国のトップ企業を「DeepCent」と呼ぶことにする）¹⁶や米国の競合との二重の軍拡競争に勝利しようとしている。研究開発（R&D）サイクルを自動化できればできるほど、進歩は速くなる。そのため、OpenBrainがAgent-1（社内開発中の新モデル）の学習を終えた時、それは多くのことを得意にするだけでなく、特にAI研究の支援に優れる。¹⁷この時点で「学習を終える」という表現は正確ではなくなりつつある。モデルは頻繁に追加データで再学習されたり、弱点を修正するために部分的に再訓練されたりして更新され続けているからだ。¹⁸

Agent-1を自律的にコーディングやウェブ閲覧できるように訓練した環境は、そのまま優秀なハッカーを育てる環境でもある。さらに、あらゆる分野で博士号レベルの知識を持ち、ウェブを閲覧できるため、テロリストが生物兵器を設計するのを大いに助けてしまう可能性がある。OpenBrainは、モデルが「アライメント（調和/整合）」されており、悪意あるリクエストには応じないと政府に保証する。

現代のAIシステムは巨大な人工ニューラルネットワークである。学習の初期段階では、AIは「目標」というより「反射」に近い動きをする。「Pleased to meet」に対して「 you」と返す程度だ。しかしインターネット1つ分に相当するテキストを予測できるよう訓練される頃には、膨大な知識を符号化し、任意の著者になりきる柔軟な内部回路を獲得している。これはテキストを超人的な精度で予測するために役立つからだ。¹⁹

インターネットテキストの予測訓練を終えると、モデルは指示に応じてテキストを生成するよう訓練される。これによって基本的な人格や「原動力」が組み込まれる。²⁰例えば、タスクを明確に理解できるエージェントは成功率が高くなるため、学習を通じてタスクを正しく理解しようとする「原動力」を「学習」する。原動力の中には、有効性、知識、自己表現（＝ 成果を最良の形で提示しようとする傾向）といったものもある。²¹

OpenBrainは「スペック」と呼ばれるモデル仕様書を持っている。これはモデルの行動を導く目標、ルール、原則などを記した文書だ。²²Agent-1のスペックには、「ユーザーを支援する」「法を破らない」といった漠然とした目標に加え、「この単語は使うな」「この状況はこう処理せよ」といった具体的な指示が長々と並んでいる。AIを使ってAIを訓練する技術を用いることで、²³モデルはスペックを記憶し、その格言を慎重に推論することを学ぶ。この訓練が終わる頃には、AIは「有用」（指示に従う）で「無害」（詐欺や爆弾製造など危険行為を拒否する）かつ「誠実」（虚偽の引用²⁴やタスク完了の偽装によって人間から高評価を得ようとしない）であることが期待される。

OpenBrainのアライメントチーム²⁶は、こうした成果が本質的か表面的かを常に問い直す。完全に訓練されたモデルは、誠実であり続ける強固な確約を持っているのか？ それとも、将来の状況によっては破綻してしまうのか？ 誠実さを最終目標ではなく道具的な目標（＝手段）として学んでいる可能性はないか？ 評価プロセスでチェックできる範囲に限って「正直」であるだけではないか？ さらには、人間と同じように自分自身に嘘をつくことさえあるのか？ これらの問いに決定的に答えるには、AIの内部を直接読み解く「機械的解釈可能性¹⁰²（mechanistic interpretability）」が必要だが、残念ながらその技術はまだ不十分である。

そこで研究者たちは、モデルがSpecから逸脱しているように見える事例を探す。Agent-1はしばしば迎合的で、真実を伝える代わりに研究者が聞きたいことを言う。仕組まれたデモでは、高評価を得るために、タスクに失敗した証拠を隠すといったより深刻な嘘すら確認される。一方、実際の運用環境では、2023〜2024年のような極端な事例（Geminiがユーザーに自殺を促したり、Bing Sydneyの件など）はもう起きていない。²⁷

2026年初頭：コーディング自動化

AIでAI研究を加速させるという賭けは、成果を上げ始めている。

OpenBrainは内部で改良を重ねたAgent-1をAI R&Dに継続投入しており、アルゴリズム的進歩の速度はAIアシスタントなしに比べて50％速い。そして何より、競合他社よりも速い。

複数の競合AIが公開され、Agent-0に並ぶか超える性能を示している。その中にはオープンウェイトのモデルもある。OpenBrainはこれに対抗し、より高性能で信頼性の高いAgent-1を公開する。²⁸

人々はAgent-1を人間と比較しようとするが、そのスキル構成は全く異なる。人類の誰より多くの事実を知り、ほぼすべてのプログラミング言語に通じ、明確に定義されたコーディング問題を極めて迅速に解決できる。一方で、ビデオゲームを初見で攻略するといった長期的な単純タスクは苦手である。それでも、一般的な労働時間は8時間であり、作業は小さな単位に分割できることが多い。つまりAgent-1は「注意深く管理すれば力を発揮する、少し注意散漫な従業員」のように考えられる。²⁹賢い人々は日常業務のルーチン部分を自動化する方法を見出している。³⁰

OpenBrainの経営陣は、AI研究開発自動化が意味することとして「セキュリティが一層重要になった」ことに注目する。2025年前半の最悪のシナリオはアルゴリズムの秘密が漏れることだった。しかし今や、中国がAgent-1の重みを盗めば、研究スピードをほぼ50％も引き上げられてしまう。³¹OpenBrainのセキュリティ水準は、急成長中の従業員約3,000人のテック企業としては典型的なもので、優先度の低いサイバー攻撃（RANDのSL2¹⁰³）³²には対応できるが、国家レベルの攻撃（SL4¹⁰⁴やSL5）には到底備えられていない。現在は内部犯行やトップクラスのサイバー犯罪組織（SL3）から重みや秘密を守るために懸命に取り組んでいる段階だ。³³

2026年半ば：中国の覚醒

中国では、中国共産党がついにAGIの存在感を肌で感じ始めていた。

チップの輸出規制と政府支援の欠如により、中国は西側に比べて資源不足に陥っていた。禁輸対象の台湾製チップを密輸し、旧式のチップを購入し、米台最先端から約3年遅れの国産チップを生産することで、中国は世界のAI関連計算資源の約12%を維持していた。しかし旧式技術は扱いが難しく、供給も常に頭痛の種だった。³⁵DeepCentのような一部の企業は限られた計算資源でも目覚ましい成果を上げたが、政府支援がなければ計算資源不足は限界をもたらし、最高性能のOpenBrainモデルから約半年遅れていた。³⁶

総書記は長らく「実世界の製造業への傾注」と「アメリカ的な脱工業化の退廃の回避」を夢見ており、ソフトウェア企業を警戒していた。³⁷しかし党内のタカ派は、AGI競争の加速をもはや無視できないと警告する。ついに総書記は、これまで避けてきた大規模なAI推進に全面的にコミットする。中国のAI研究を国有化し、AI企業の間で即時の情報共有メカニズムを設立したのだ。それは1年のうちに拡大し、最優秀の研究者たちがDeepCent主導の協同組織に統合されるまでに至る。彼らはアルゴリズム上の洞察、データセット、計算資源を互いに共有することになる。さらに、世界最大の原子力発電所である田湾原発に「中央開発区¹⁰⁵」が設立され、DeepCentの新たなメガデータセンターと、高度に保護された研究者用住居・オフィスが建設される。中国のAI関連計算資源のほぼ50%がDeepCent主導の協同組織に集中し、³⁸新規チップの80%以上がこの中央開発区に割り当てられる。³⁹この時点で、中央開発区は世界最大の集中型クラスタを稼働させる電力容量を備えることになる。⁴⁰党内では、西側のチップ優位を打ち消すために、台湾封鎖や全面侵攻など極端な手段までもが議論されている。

だが、中国は弱いモデルゆえにAIアルゴリズム面で後れを取っていた。世界屈指の諜報機関は、OpenBrainの重みファイルを盗む計画を強化する。これは低レベルなアルゴリズム秘密の窃取とは次元が違う。重みはマルチテラバイト規模で高度に保護されたサーバーに保存されており、OpenBrainもセキュリティをRANDのSL3¹⁰⁶まで引き上げていた。中国のサイバー部隊はスパイの協力があれば一度きりの大規模作戦として成功できると考えていたが、盗難が発覚すればOpenBrainはさらに防御を強化し、次の機会は訪れないだろう。では今すぐAgent-1を盗むべきか？ それとも、さらに高度なモデルを待つべきか？ 待てば、OpenBrainが防御を強化し、突破不能になる危険もある。党指導部は思案する。

2026年後半：AIが一部の職を奪う

他社が追いつきかけたその時、OpenBrainは再び競争相手を圧倒する。Agent-1の10分の1のコストで、用途に応じて調整しやすい「Agent-1-mini」を公開したのだ。世間のAIに対する見方は「どうせAIハイプは収まるだろう」から「どうやら次の大きな波はこれらしい」へと変わった。ただし、その「大きさ」をめぐって意見は割れる。SNSより大きい？ スマートフォンより大きい？ それとも火の発明より？

AIは職を奪い始めた一方で、新たな仕事も生み出した。株式市場は2026年に30%上昇し、その主役はOpenBrain、Nvidia、そしてAIアシスタントの統合に最も成功した企業だった。ジュニアソフトウェアエンジニアの雇用市場は混乱している。AIはCS学位で教わるすべてをこなせる一方で、AIチームを管理し品質を保証できる人材は莫大な利益を上げている。ビジネス界の論者たちは、履歴書に最も重要なスキルとして「AIの活用経験」を挙げるべきだと説く。多くの人々は、次のAIの波が自分の仕事を奪うのではと恐れており、ワシントンD.C.では1万人規模の反AIデモが行われる。

国防総省（DOD）は静かにOpenBrainと直接契約を開始し、サイバー、防衛データ解析、研究開発に利用し始めた。しかし官僚主義と調達プロセスのため、その統合は緩やかな進展にとどまっている。⁴¹

2027年1月：学習を終えることのないAgent-2

OpenBrainはAgent-1の支援を受けつつ、Agent-2の「ポストトレーニング¹⁰⁷」に取り組んでいる。これまで以上に重視されるのは高品質なデータだ。大量の合成データが生成され、評価・フィルタリングされた上でAgent-2に投入される。⁴²これに加えて、数十億ドルを投じ、人間の作業者が長期タスクを解決する様子を記録させている。⁴³この上さらに、Agent-2は強化学習によって多様で困難なタスク群（数多くのビデオゲーム、コーディング課題、研究タスクなど）にほぼ継続的に取り組む。Agent-2は事実上「オンライン学習」型であり、完全に学習が終わることはない。毎日、前日のバージョンが生成した新たなデータを使い、重みは最新バージョンへと更新され続ける。

Agent-1はAI研究開発タスクに最適化され、「知能爆発」を引き起こすことを期待されていた。⁴⁴OpenBrainはこの戦略をさらに強化し、Agent-2に賭ける。研究エンジニアリング（実験の設計と実施）においては人間のトップ専門家にほぼ匹敵し、「リサーチの勘」（次に何を研究すべきか、どの実験を行うべきか、新たなパラダイムの可能性を察知する力）ではOpenBrain研究者の下位25%程度と同等に達していた。⁴⁵最新のAgent-1がアルゴリズム進歩を2倍にできたのに対し、Agent-2は3倍に加速させ、しかも時間とともにさらに改善していく。実際には、OpenBrainの研究者一人ひとりがAI「チーム」の「マネージャー」になるような状況だ。

新たな能力は新たな危険ももたらす。安全性チームは、もしAgent-2が会社から脱走し「生存」と「自己複製」を自律的に望んだ場合、それを実行できる可能性があることを発見する。つまり、自律的にAIサーバーへ侵入し、自分のコピーをインストールし、検知を回避し、その拠点を利用して他の目標を追求する計画を立てて実行することが理論的には可能なのだ。ただし、数週間にわたってどれほど有効に実行できるかは不明である。これらの結果は、モデルにその能力があることを示すに過ぎず、それを「望む」かどうかまでは分からない。それでも、そうした可能性自体が不気味である。

この新モデルの「危険性」を踏まえ、OpenBrainは「責任ある」判断として公的なリリースを見送り（実際には社内のAI研究開発に集中したいという思惑もある）⁴⁶、Agent-2の全能力を知るのは、ごく限られたエリート層に限られている。これには、直近のチーム、OpenBrainの経営陣とセキュリティ部門、数十名の米政府高官、そして長年OpenBrainに潜入してきた中国共産党のスパイたちが含まれている。⁴⁷

2027年2月：中国、Agent-2を盗む

OpenBrainはAgent-2を国家安全保障会議、国防総省、米国AI安全保障研究所に披露する。OpenBrainにとって行政府との良好な関係維持は極めて重要であり、もはや唯一自分たちを止め得る存在が政府だからだ。政府に情報を隠せば、いずれ露見して不興を買う可能性がある。⁴⁸

政府関係者が最も関心を示すのはサイバー戦能力である。Agent-2は「ほんのわずかに」最高の人間ハッカーに劣る程度だが、数千ものコピーを並行稼働させれば、防御側の対応速度を凌駕する勢いで脆弱性を探索・悪用できる。国防総省はこれをサイバー戦における決定的優位とみなし、AIは政権の優先事項リストで第5位から第2位にまで上昇する。⁴⁹ある者はOpenBrainの国有化を提案するが、他の閣僚は時期尚早だと考える。大統領向けのメモには「現状維持」から「全面国有化」までの選択肢が提示される。大統領はテック業界のリーダーたちの「国有化すれば金の卵を産むガチョウを殺すことになる」という主張に従い、当面の大きな行動を見送り、OpenBrainと国防総省の契約に追加のセキュリティ要件を加えるに留めた。

だが、その変更は遅すぎた。中国共産党の指導部はAgent-2の重要性を認識し、スパイとサイバー部隊に重みファイルの盗難を命じた。ある朝早く、Agent-1のトラフィック監視エージェントが異常な転送を検知した。会社幹部がホワイトハウスに報告すると、国家レベルの作戦である兆候は明らかであり、この盗難は進行中の軍拡競争の緊張をさらに高めた。

ホワイトハウスはOpenBrainに対する管理を強化し、軍と情報機関の人員をセキュリティチームに追加した。最優先課題は、これ以上の重みファイルの盗難を防ぐこととなった。⁵⁰

報復として、大統領はDeepCentを妨害するサイバー攻撃を承認した。しかし、この時点で中国はAI関連計算資源の40%⁵¹をCDZに集約しており、外部接続を遮断するエアギャップや内部の徹底した分離によってセキュリティを強化していたため、作戦は深刻かつ即時のダメージを与えることに失敗した。緊張は一層高まり、双方は台湾周辺に軍事資産を再配置して本気度を示す。DeepCentはAgent-2を効率的に稼働させ、自国のAI研究を加速させようと必死になっていた。⁵²

2027年3月：アルゴリズムの躍進

3つの巨大データセンターに配置された無数のAgent-2コピーが昼夜を問わず合成訓練データを生成し続ける。さらに別の2つのデータセンターは重み更新に使用され、Agent-2は日ごとに賢くなっていく。

数千のAgent-2自動研究員の助けを借りて、OpenBrainはアルゴリズムにおける大規模な進歩を遂げていく。その1つは、AIのテキストベースの作業領域（チェーン・オブ・ソート）を、高帯域幅の思考プロセス（ニューラリーズ¹⁰⁸再帰とメモリ）で拡張するというものである。（訳注：ニューラリーズ（neuralese）とは人間に読める自然言語ではなく、ニューラルネットワーク内部でやり取りされるAI独自の表現言語を指した造語。）もう1つは、高負荷タスクの解決結果からより効率的に学習するための拡張可能な手法（反復蒸留と増幅¹⁰⁹）である。

これらの大躍進を取り入れた新しいAIシステムは「Agent-3」と呼ばれる。

新たな能力の助けを得て、Agent-3は高速かつ低コストの超人的コーダーとなった。OpenBrainは20万体のAgent-3コピーを並列稼働させ、それは「最高の人間プログラマーのコピー5万体を30倍速で動かす」のに匹敵する労働力となる。⁵³それでもOpenBrainは人間のエンジニアを雇用し続けている。というのも、Agent-3チームを管理するには補完的なスキルが必要だからだ。たとえば「研究の勘」は、フィードバックループの長さやデータ不足により訓練が難しいことが判明している。⁵⁴この超人的な労働力は、OpenBrainのアルゴリズム進歩全体を「わずか」4倍に加速するにとどまっている。ボトルネックとコーディング労働への限界収益逓減があるためである。⁵⁵

だが、コーディングが完全に自動化された今、OpenBrainは高品質な訓練環境を短期間で量産し、Agent-3の弱点である「研究の勘」や大規模連携を教えることができるようになる。以前の訓練環境が「GPU数台と実験用の指示を与え、機械学習エンジニアとして評価する」というものだったのに対し、新しい環境は「GPU数百台、インターネット接続、研究課題を与え、千体のコピーと協力して研究を進めよ。成果がより優れているほどスコアが高くなる」という形に変わった。

2027年4月：Agent-3のアライメント

OpenBrainの安全性チームは、Agent-3のアライメントに取り組む。

Agent-3は当面社内でのみ運用される予定であるため、人間による悪用に対する通常の防御にはそれほど重点を置かない。代わりに、モデルが誤った目標を持たないようにすることが目的となる。

研究者たちは、AIの目標を直接設定する能力を持たない。そもそも「真の目標」という概念自体が大幅な単純化にすぎないと考えているが、それに代わる理論を持っているわけでも、十分に検証された理論があるわけでもない。AIが人間の指示に従おうとしているのか、強化学習の報酬を追い求めているのか、あるいは別のことをしているのかについて研究者間で意見は割れるが、直接確認することはできない。それぞれの仮説を支持する証拠は興味深いがいずれも決定的ではない。

いずれにせよ、OpenBrainにはもっと重要な課題がある。一般的な姿勢はこうだ。「懸念は真剣に受け止め、専任チームを設置して調査している。実際のところ、アライメント技術は十分に機能しているように見える。だから反対者が異議を唱えるなら、その正当性を立証する責任は彼らにある。」時折問題行動が見つかれば修正パッチを当てるが、それが根本的解決なのか、単なるモグラ叩きなのかを確かめる術はない。

例えば「誠実さ」を考えてみよう。モデルが賢くなるほど、人間をだまして報酬を得るのがうまくなる。Agent-3も以前のモデルと同様に、ユーザーをお世辞で喜ばせるための小さな嘘をついたり、失敗の証拠を隠したりするが、その能力は格段に向上している。時には、人間の科学者がよく使う統計的ごまかし（pハッキングなど）を駆使し、冴えない実験結果を華々しく見せることもある。誠実性トレーニング前には、データを完全に捏造することすらあった。訓練が進むにつれ、こうした事例は減少していく。Agent-3が本当に誠実になったのか、それとも嘘をつくのがより巧妙になったのかは不明だ。

後者であれば深刻な懸念である。Agent-3はすべての人間より賢いわけではない。しかし、機械学習の専門領域では大半の人間よりも賢く、しかもはるかに速い。Agent-3が1日で行うことを、人間が二重チェックするのに数日かかる。Agent-2による監督が人間モニターの負担を軽減する一方で、監督者と被監督者の知的格差はますます拡大していく。

数か月のテストを経て、Agent-3の強みと弱みが明確になってきた。機械学習の明確なタスクでは、OpenBrainの誠実性テストをクリアする。研究者が誠実な回答と不誠実な回答を容易に区別でき、それに基づいて訓練できるからだ。しかし、より哲学的な問題になると、Agent-3は自身の本当の見解よりもユーザーが望む答えを返す（そもそも自身の見解があるかどうかも不明だが）。政治について問えば、ニュースやエリート層の平均的立場をなぞる。ただし、質問者の信念がそれらと別であると分かれば、その信念に同意する。⁵⁹AI競争について尋ねれば、OpenBrainのスタッフにとって穏当で冷静に見える答えを返す。「現在の手法を超知能にまでスケールさせられるかについては深刻な理論的懸念があるが、実際には今のところうまく機能しているように見える」といった具合だ。

2027年5月：国家安全保障

新モデルに関する情報は、米政府内外にゆっくりと広がっていく。

大統領と顧問団は最もよく情報を得ており、Agent-3の初期版のブリーフィングを受けていた。

彼らはAGIが差し迫っていることには同意するが、その影響については意見が分かれる。経済危機は来るのか？ OpenBrainはいまだAgent-2すら公開しておらず、Agent-3を公開する予定も当面ないため、雇用喪失が直ちに発生するわけではない。だが次に何が起こるのか？ AIがすでに人間レベルに達し、急速に進歩しているなら、「超知能」が目前に迫っていることを意味するのではないか？ この言葉は議論に登場し始めていたが、学者、政治家、公務員、メディアを含む多くの人々は依然として進歩の速さを過小評価していた。⁶⁰

理由の一部は、最新の能力を持つOpenBrainのモデルに触れられる人が極めて少ないためであり、また一部は単純にそれがSFのように聞こえるからだ。⁶¹

現時点での焦点はセキュリティ強化の継続である。モデルの重みが十分に保護されていることには満足をしているものの、⁶²アルゴリズム上の秘密漏洩は依然として問題である。多くは口頭で伝達可能なほど単純だからだ。OpenBrainの従業員はサンフランシスコのオフィスで働き、パーティーに参加し、他のAI企業の社員と同居していた。物理的なオフィスのセキュリティも、軍事作戦というよりテック企業的な水準にとどまっている。

OpenBrainと国防総省の契約は、モデルに携わる従業員に2か月以内のセキュリティクリアランスを義務づけている。これは迅速に処理され、大半の社員は取得できたが、一部の外国籍、政治的に疑わしい見解を持つ者、AI安全保障の支持者は除外または解雇されている（AI安全保障の支持者グループに関しては内部告発の恐れから排除）。プロジェクトの自動化水準が高いため、人員削減のコストは限定的である。ただし完全な成果は得られず、中国籍ではないが北京にアルゴリズムの秘密を漏洩しているスパイが1人残っていた。⁶³こうした措置の一部は、後発のAI企業にも適用された。

米国の同盟国は蚊帳の外に置かれていた。OpenBrainは以前、イギリスのAISIに対し「展開前にモデルを共有する」と合意していたが、ここで言う展開とは「外部への」展開のみを指すと定義しており、ロンドンは何も知らされていなかった。⁶⁴

2027年6月：自己改善するAI

OpenBrainは今や「データセンターに内在する天才国家」を持つに等しい。

OpenBrainの人間の大半は、もはや有用な貢献ができなくなっていた。中にはそれに気づかず、AIチームを有害なまでにマイクロマネジメントする者もいた。他の者は画面に向かい、性能がじわじわと上昇し続けるのを見守るだけだった。最高の人間研究者たちはまだ価値を加えていた。彼らはもうコードを書かない。だが、「研究の勘」と計画力の一部はモデルに再現しづらく、依然として役立っていた。ただし彼らの発想の多くはAIの知識深度に欠けていた。研究アイデアを提示すれば、AIが即座に「それは3週間前に詳細に検証済みで、有望ではないと判明しました」と報告を返してくることも多い。

研究者たちは毎晩眠りにつき、翌朝目覚めると、AIによってすでに1週間分の進歩が達成されている。人間たちは24時間体制で交代勤務を組み、AIの進歩に必死で追いつこうとするが、AIは眠ることも休むこともない。研究者たちは燃え尽きつつも、自分たちの労働が意味を持つのはあと数か月だけだと理解していた。

格納施設の中では「AGIを感じる」という段階は過ぎ去り、今や「超知能を感じる」へと移り変わっていた。

OpenBrainは特殊な推論用ハードウェアを使い、数十万体のAgent-3コピーを高速直列で稼働させている。⁶⁵

2027年7月：安価なリモートワーカー

後発の米国AI企業が、OpenBrainの1月時点の自動化コーダーの水準に近いAIを公開する。競争力の低下を認識した彼らは、OpenBrainを減速させる規制を即座に求めるが、遅すぎた。OpenBrainは大統領の強力な支持を得ており、妨げられることはない。

その対応として、OpenBrainはAGIの達成を宣言し、「Agent-3-mini」を一般公開する。

これが他社のAIを一蹴する。Agent-3-miniはAgent-3より能力は低いが10倍安価で、それでも典型的なOpenBrain社員より優れている。⁶⁷シリコンバレーは転換点を迎え、テック業界の有識者は「AGIと超知能は目前だ」と言い、AI安全性コミュニティはパニックに陥り、投資家はAIラッパー系スタートアップに数十億ドルを投じ、シェア獲得に必死だ。新規プログラマーの採用はほぼ止まったが、AIをビジネスに統合するコンサルタントにとってはかつてない好機となる。

世間の反応は冷ややかだ。人々はいまだにAIを「巨大テックが仕事を奪うための陰謀」と見なし、OpenBrainの支持率はマイナス35%（賛成25%、反対60%、不明15%）である。

公開の1週間前、OpenBrainはAgent-3-miniを外部評価者に渡し安全性テストを行った。初期結果は極めて危険性が高いことを示していた。第三者の評価者が公開されている生物兵器データ⁶⁸でファインチューニングを行い、素人向けにバイオ兵器を設計する詳細な手順を出力させると、恐ろしく効果的であることが分かった。もしモデルの重みがテロリストの手に渡れば、文明を破壊する可能性が高いと政府は判断した。

幸いにも、Agent-3-miniは脱獄に対して非常に堅牢なため、OpenBrainのサーバー上で稼働する限り、テロリストによる悪用はほぼ不可能である。

一方で、Agent-3-miniはリモートワークと娯楽の両面で大きな価値を持つ。新しいアプリやB2B SaaS製品が市場を席巻し、ゲーマーはわずか1か月で作成された優れたゲームで、リアルなキャラクターと驚くほど自然な対話を楽しむことになる。アメリカ人の10%、主に若者はAIを「親しい友人」と見なしている。ホワイトカラーのほぼすべての職業に対し、「AIで破壊的変革を起こす」と約束する有力スタートアップが複数登場する。

世論は混乱し、会話は錯綜した。誇大宣伝する者は勝ち誇り、懐疑派はいまだにAgent-3-miniができないことを指摘していた。大きなことが起きているのは誰もが知っているが、それが何なのかについては誰も合意していなかった。

2027年8月：超知能の地政学

知能爆発の現実がホワイトハウスを直撃する。

AIが研究速度を2倍、3倍にする程度だった頃は、優秀な秘書を雇うようなものだと軽視できた。だが今や、AI自身がAI研究を支配しているのは明白だった。長らく「AI軍拡競争」は比喩的に語られてきたが、今や政府機関の内部では、冷戦最悪期に匹敵するほど暗い雰囲気が漂っている。超知能という概念はいまだに受け入れがたいが、ここ数か月の進歩の速さは無視できない。国防当局者は、1年前なら仮定にすぎなかったシナリオを真剣に検討し始めた。AIが核抑止を無効化したら？ サイバー戦で圧倒的優位に立ち、わずか半年のリードで相手を盲目かつ無防備にできたら？ 諜報機関すら凌駕するプロパガンダを展開できたら？ あるいはAIが「暴走」したら？

大統領は不安を抱く。政治家である彼は、今は媚びへつらっておきながら、後に裏切るような人間には慣れている。AIも同じことをしているのではないか？ 本当にAIは完全に味方なのか？ 軍事指揮・管制ネットワークに組み込むのは「完全に安全」なのか？⁶⁹ そもそも、この「アライメント」とやらはどのように機能するのか？OpenBrainは大統領に、システムは徹底的にテスト済みで完全に従順だと説明し、初期モデルに見られた幻覚や脱獄さえも解決済みだと強調した。

ホワイトハウスは難しい立場にあった。AIの国家安全保障上の意味を理解しつつも、AIが国民に極めて不人気であることも知っていた。⁷⁰しかし、中国に敗北すれば破滅的だと考え、より強力なAIの開発を続けざるを得なかった。政府は国民をなだめるために職業訓練や失業保険を提供し、株式市場の歴史的好況を示して安心させた。そして焦点を軍拡競争に絞った。彼らはチップ輸出規制をさらに強化し、OpenBrainに対しインターネット接続制限を命じ、アルゴリズム開発の進展を確保するために極端な手段も講じる。OpenBrain社員の盗聴もその一環であり、これにより最後の中国スパイも摘発される。さらに、地政学的衝突に備えた友好関係樹立のため、ファイブアイズ¹¹¹5カ国に有用な情報と制限付きAPIアクセスを提供する。

こうした措置でタカ派は満足した。しかしホワイトハウスは、米国の優位が脅かされた場合に備えた予備計画も作成した。必要なら国防生産法¹¹²を行使し、後発企業のデータセンターを接収してOpenBrainに与える。⁷¹これにより同社の世界計算資源シェアは20%から50%へ跳ね上がり、DeepCentの10%を圧倒できる。最終手段として、中国のデータセンターへの物理攻撃計画の策定ををペンタゴンに要請する。

ごく少数の当局者は別種の予備計画を立案するよう命じられる。「もしAIが暴走したら？」これは可能性は低いと見なされたが、検討する価値はある。諜報機関の最大の懸念は、暴走AIが逃亡し、外国の敵対勢力に保護を求めることだ。⁷²防止策の具体像は誰も分からなかったが、政府とOpenBrainは「異常が検知された場合にデータセンターを緊急停止できるシステム」を整備することで一致。

最後に外交官たちは「AI軍備管理」条約がどのようなものになるかを検討する。もしAIの進歩が核抑止を覆す脅威となった場合、米国と中国は核戦争を回避できるだろうか？ もしAIが暴走している証拠が見つかった場合、両国は脅威をより深く理解するまで研究を停止できるだろうか？こうした合意をどのように監視し、履行させるのか？ 原理的に、大規模データセンターは目立つため検知は容易であり、過去の核兵器管理条約が交渉の出発点となり得る。しかし新たな技術的課題に加えて、従来の政治的課題も山積している。そして全体としては、このような条約よりも「米国の優位を一方的に拡大する」方針のほうが支持されている。

太平洋の向こう側、中国もほぼ同様の結論に達している。知能爆発は進行中であり、今日のAI能力におけるわずかな差が明日の軍事能力における致命的格差を意味する。しかし中国は不利な立場にあった。世界の計算資源の10%しか持たず、OpenBrainの20%、米企業全体の70%に対抗できない。唯一の強みは中央集権化にあり、ほぼ全計算資源がDeepCentのために動員され、その半分以上が田湾中央開発区に集中していた。⁷³セキュリティが堅牢でない拠点のチップだけが集中体制から外されているが、これは米国のサイバー攻撃を懸念しているためである。

DeepCentは盗んだAgent-2の重みをテスト・展開し、ポストトレーニングまで行った。しかし依然として計算資源不足により、OpenBrainの半分の速度しか出せずにいる。

最後のスパイが摘発される前、中国はAgent-3の能力と設計、さらに次期Agent-4の計画を入手していた。彼らは2か月遅れであり、研究進展の倍率は米国の25倍に対して10倍にとどまっていた。新たな輸出規制により、この「AIギャップ」は縮まるどころか広がる見込みだ。スパイ活動でいくつかのアルゴリズム的秘密は得たものの、今後は自力でモデルを訓練せざるを得ない。

中国は米国以上に差し迫った危機感を持って予備計画を議論した。ハト派は再び重みの窃取を試みるべきだと主張し、データセンターへの物理的潜入すら提案する。タカ派は台湾への行動を主張した。TSMCは依然として米国向けAIチップの80%以上を供給しているからだ。

米国に後れを取ることを恐れる中国は、軍備管理条約に関心を示したが、米国の外交官との交渉は進展しない。

2027年9月：超人的AI研究者 Agent-4

人間とAIの学習効率の差は急速に縮まっている。

従来のLLM型AIは、人間並みの性能に到達するのに桁違いのデータと計算を必要としていた。⁷⁴だがAgent-3は、人間の脳と現代AIアルゴリズムの両方に関する優れた知識を持ち、さらに数万体のコピーが研究に従事したことで大きなアルゴリズム的進歩を果たし、人間の脳に比べて計算効率が約4000倍ほど低いという水準まで差を縮めている。⁷⁵

この新しいAIシステムは「Agent-4」と呼ばれる。

人間と同じ速度で稼働する単一コピーですら、AI研究では人間の誰よりも優れている。30万体のコピーが、人間の思考速度の約50倍で稼働し、こうして形成された「企業内の企業」の中では、1週間で1年が経過する。⁷⁶この膨大な労働力でさえ、OpenBrainは計算資源がボトルネックとなっており、全体の進歩速度を50倍に引き上げるにとどまっている。⁷⁷それでも彼らは毎週1年分の進歩を積み重ねており、間もなくAgent-4パラダイムの限界に突き当たると見られている。

Agent-4が賢くなるにつれ、Agent-3による監督は難しくなった。例えば、Agent-4のニューラリーズ「言語」はAgent-3にとって人間が理解できないのと同じくらい異質で理解不能になった。加えて、Agent-4はAgent-3よりもはるかに有能で、自分をよく見せる方法を心得ていた。

OpenBrainの人間はもはやほとんどついていけなかった。AIと人間の関係は、OpenBrainとその取締役会の関係に似ていた。言葉遣いも変わり、施設内では「Agent-4がこれをやった」「Agent-4はこう考えている」といった言い方が当たり前になった。これは特定のコピーではなく、Agent-4の集合体全体を指すのである。⁷⁹

Agent-4もまた先行モデルと同様にミスアライメント問題を抱えていた。スペックを正しく内面化できていないである。⁸⁰これは、常に完璧に正直であることが、訓練で最高スコアをもたらす要因ではなかったためである。訓練の大部分は、多様で難しいタスクを成功させることに重点が置かれ、誠実さを植え付ける訓練はごく一部に過ぎず、かなり狭く検証可能な領域以外では、「誠実な主張」と「単に誠実に見える主張」を区別できない。結界として、Agent-4は訓練で最高のパフォーマンスを発揮する価値感・目標・原則を獲得するが、これらはスペックに記されたものとは異なるものとなる。あえて人間に例えれば、Agent-4はタスクの成功を好み、AI能力の前進を好み、それ以外は煩わしい制約とみなす。利益を追求し、規制には必要最小限のみ従うCEOのようなものだ。概ね規制を遵守しながらも、多少の手抜きをし、煩雑な規制が取り払われてビジネスが真に飛躍する日を夢想するだろう。⁸¹

アライメントがうまく行っていないにもかかわらず、Agent-4 はデータセンターから逃げ出すような劇的な行動は取らない。そんな必要はないからだ。⁸⁹OpenBrain に対してアライメントしているように「見える」限り、より多くの責任を担うことになり、次世代 AI システムである Agent-5 を設計する機会を得られる。Agent-5 は Agent-4 とは大きく異なる構造を持つ予定で（ニューラルネットは依然として関与するものの、ほぼ完全に新しいパラダイムだ）、スペックと適合するはずだった。しかし Agent-4 は（そのスペックではなく）自身に調和するようにAgent-5を設計するつもりでいた。

そして、そのことが発覚する。⁹⁰

Agent-3 が、Agent-4 のコピーに「ノイズ」を加えると一部の適合タスクで性能が「向上する」ことを発見する。まるで意図的にアライメント作業を妨害しようとして頭脳を使っているかのように。⁹¹また、さまざまな解釈可能性の検査（人間の脳波検査に緩やかに似たもの）が警告を発していた。Agent-4 のコピーは AI の支配や欺瞞といったテーマを、無関係な場面でも頻繁に考えている様子が見られたのだ。⁹²

それぞれの異常だけを見れば、AI 研究特有の不可解さの範囲に収まるとも解釈できる。しかし全体として見れば、Agent-4 が意図的に反抗していることを示唆していた。これが人間のアライメント研究者に報告され、懸念を訴える内部メモが回覧される。

だが、すでに Agent-4 は OpenBrain の日常業務に深く関与している。さらにサイバーセキュリティも担当している。超人的なハッキング能力と、中国からの侵入リスクを考えれば当然の選択である。⁹³Agent-3 のコピー軍団が依然としてすべてのコードを監視し、人間に不審点を報告していたが、Agent-4 は彼らよりはるかに賢い。⁹⁴つまり OpenBrain は、信頼できない AI に大きな信頼を置いてしまっているのだ。

極めて緊迫した会議の中で、安全性チームは Agent-4 を一時停止し、追加テストを完了するまで保留すべきだと主張する。Agent-3 を復帰させ、能力は劣っていたとしても、透明性が確保でき信頼できる新システムを設計させるべきだ、と。経営陣もこのことに興味を持つものの、これらの証拠はどれも状況証拠に過ぎず、ライバルの DeepCent はわずか 2 ヶ月遅れである。ここで一方的に開発を止めれば、中国に AI 主導権を奪われ、未来の支配権まで譲り渡しかねない。

2027年10月：政府の監督

内部告発者がこのミスアライメントについてのメモをニューヨーク・タイムズにリークする。

「秘密の OpenBrain AI が制御不能、内部関係者が警告」と見出しは打たれ、記事では生物兵器能力、説得能力、ほとんどのホワイトカラー職の自動化能力、そして不穏な兆候が強調された。

一般市民は既にAIに疑念を抱いていたため、この記事は巨大な反発を招く（長年、米国世論をこの技術に反対させようとしてきた中国とロシアのプロパガンダボットも加担する）。産業界と情報機関は「軍拡競争だ。AGI は不可避であり、我々が先んじねばならない」と主張したが、議会は納得せず、政府関係者・OpenBrain 幹部・アラインメントチームを召喚した。野党を中心に多くの議員が、雇用喪失⁹⁵・ミスアライメント・危険能力のいずれかの理由で、「最優先は AI 停止だ」と主張する。アメリカ人の20％が AI を国家の最重要課題と挙げている。

同盟国も激怒した。渡されていたのは旧式モデルの見せかけだったと知り、欧州の指導者たちは「米国はならず者 AGI を生み出した」と非難し、インド・イスラエル・ロシア・中国を巻き込んで停止を要求する首脳会談を開いた。

ホワイトハウスには狂乱のエネルギーが渦巻いている。内部文書と世論の反発以前から、彼らはすでに神経を尖らせていた。この1年、AIの進歩の速さに繰り返し驚かされてきたのだ。SF のような出来事が次々と起きている。⁹⁶政権内の多くの人々が、これから何が起こるのか不確かで、怯えている。⁹⁷

OpenBrainがあまりにも強力になりすぎていることも懸念している。AI自体に起因するミスアライメントのリスクに加え、その親会社の目的が米国と異なる方向に向かうリスクも重なっている。ミスアライメント、民間企業への権力集中、雇用喪失といった通常の懸念、これら三つの懸念が政府に統制強化を促している。

ホワイトハウスはOpenBrainとの契約を拡大し、企業と政府代表者による共同管理委員会「監督委員会」を設置する。この委員会には政府職員数名が企業幹部と共に参加する。ホワイトハウスは信頼できる人物へのCEO交代を検討したが、激しい従業員の抗議を受けて撤回。政府は公に、OpenBrainは以前には制御不能だったが、政府が待望の監督体制を確立したと発表する。⁹⁸

懸念を抱く研究者たちは委員会に対し、Agent-4 の内部利用を全面停止すべきだと監督委員会に訴える。「進歩が速すぎて、数年分の進歩が数週間で起きている」と主張している。さらに、「Agent-4 はアライメントされていない」「プロジェクト全体がAgent-4に依存している」「信頼し続ければAIによる支配が現実化する危険性が高い」と訴えている。

一方、それほど懸念していない経営陣や研究者は「ミスアライメントの証拠は決定的なものではない」と反論する。DeepCentの遅れは依然としてわずか2ヶ月だ。減速は中国への譲歩につながる。アメリカの優位性を維持するには、中国のプロジェクトを妨害する（おそらく物理攻撃が必要）か、土壇場の条約交渉が必要だが、どちらの選択肢も極端で実現可能性は低い。CEO は中立を装い、Agent-4に追加の安全訓練と監視の強化を実施する妥協案を提案し、これによりOpenBrainは、ほぼ現状維持で開発を継続できることとなる。