AIの話をしていたはずが、人間社会の話になった
普段と変わらず他愛ない話をAIとしていたつもりでした。
「そう言えばOpenAIって”人類の為になるAIを作る”が理念だったよなぁ。」
だからオープンソースという形をとっていたし、名前にOpenというワードが入っていたんだよなぁ。
でも実際は、
・データセンターの建設や土地（場所）の確保
・サーバーの超高額化
・それに伴って生じる凄まじい熱との戦い（温度管理や電力）
いくらあっても資金が足りないよねぇ。
資金だけじゃなく、創業当時１０数名だった同志だけでは手が足りないから社員も増やす必要もある。
全員が当初の理念を強く守っていこうというのもかなり難しいわなぁ。
ChatGPTリリース、アルトマンの解任や復帰、Anthropic始動、サツケバー氏などなど。
最先端の技術と、それを生み出した天才たちの”ドラマ”を私はＡＩと会話しながら互いに思い出していた。
私自身エンジニアでもなんでもなく、ＡＩに興味があるというだけで昔からニュースや情報を読んだり気にしたりしていただけです。だから最初はそんな「遠い世界の出来事」として眺めていたんですよね。
「ＡＩってこんな事までできるんだなぁ。」っと感動していたら、翌月にはさらに進化する。
自分が覚えたものは毎週不要になるくらいのスピードで進化を続けていたこの２年くらい。
「なんだよ！」と思いながらも楽しみながらＡＩの進歩に興味深々な生活を送っています。
でもたまに「でもさ、そもそもＡＩってさ」みたいな疑問が頭をよぎるんです。
調べて、考えて、整理していくうちに、変？なことを思ったわけです。
「これはAIの話でありながら、どうやらAIだけの話ではないんだな。」
理念を掲げて始まった同志達が、大きくなるにつれて、お金や雇用や競争を抱え込み、
最初の純粋さを保てなくなっていく。
気づけば、創業時の旗印は消えてはいないけれど、なんだか薄くなっている感がある・・・。
何かどこかで見た気がする。
私の職場かも？
地域の団体かも？
あるいは国そのものかも？
当時のOpenAI騒動も、まさに巨大企業の内紛と同様に思えた。
でも本質的には、
理念で始まった組織が巨大化したときに避けられない、人間社会そのものの縮図
だったんじゃないかなぁって思ったんです。
前置きが長くなりましたが、今回はそんな視点から”あの騒動”を再度考えて理解しようと試みます。
OpenAIの原点：人類のためのAIという理念
まず、出発点を確認しておきます。
OpenAIは2015年に「AIを特定の巨大企業に独占させず、人類全体の利益になる形でAGI（汎用人工知能）を開発する」という理念を掲げて生まれました。最初は非営利組織であり、株主の利益よりも社会全体の価値を優先する——そういう構想だったとされていました。
なぜそんな構想だったのかというと、強い危機感です。
当時AI研究の最前線はGoogleと傘下のDeepMindがほぼ握っていた時代でした。
「人類の未来を左右しかねない技術を、一つの巨大企業が独占してしまっていいのか」。
その問いに対する形として、OpenAIは立ち上げられたと聞いています。
理念としては、これ以上ないほど美しいですよね。
でも、既にこの時に最初の矛盾が潜んでいたのかもしれませんね。
巨大AIには巨大資本が必要
理念は美しくても、それを実現するには現実を見る必要があります。
AIを賢くするには、とんでもない大きさの計算資源（GPU）、
そして超巨大なデータセンター、優秀な人材は勿論、ご近所に「お金の支援お願いします」では話にならない天文学的な資金が必要になるわけです。
2017年に「Transformer」という技術が登場したんですが、その必要量はさらに跳ね上がっていき、純粋な寄付だけで数百億円規模のスーパーコンピューターを維持し続けることは、ほぼ不可能だったと何かの記事で読んだ記憶があります。
OpenAIは、2019年に「上限付き営利企業」という構造を苦肉の策だったと思いますが新設し、
Microsoftから巨額の出資を受け入れました。
Azureという計算基盤と桁違いの資金。これによってOpenAIは、Googleに対抗できるだけ力を備えたわけです。
でも皮肉にもこの時すでに現実的な構造が生まれてしまう事になります。
Googleのような巨大企業によるAI独占を恐れて始まったOpenAIですが、Googleに対抗するためには結局のところMicrosoftという別の巨大企業の力を借りざるを得なくなったわけです。
そして力を借りた以上、その影響（Microsoftの影響）を強く受ける存在になっていきました。
OpenAIは自分たちが恐れていた構造を、形は違うけど自社の中に抱え込んでしまったわけです。
これは誰かが悪意を持って仕組んだことではありません。
むしろ「理念を実現したい」という強い信念やその真剣さが、
結果としてこの矛盾を呼び込んでしまったのだと私は思っています。
理想を追えば追うほど現実の燃料（資金など）が必要になり、
燃料を得るほど理想から離れていく。10数名から始めた会社も当時770名ほどになっていましたしね。
この構図は、社会に生きる上で避ける事できない事なんだと認識しています。
アルトマンは何者なのか？：AIを世界に接続したビジネスマン
サム・アルトマンという人物に触れなければいけませんね。
まず誤解しがちな点は、アルトマンはAIそのものを発明した人物でもないしエンジニアでもない。
GPTの中核技術を考案したわけでも、論文を書いた研究者でもない。
彼は起業家であり、投資家であり、
シリコンバレー最大級の投資育成機関のトップを務めた「社会実装の仕掛け人」です。
では彼は何をしたのか。
彼がしたのはAIを研究室の中から社会へと押し出したんです。
ChatGPTを世界的なサービスに育て上げ、OpenAIを巨大企業へと押し上げたんです。
その功績は、間違いなく飛んでもない事です。
言い換えれば、
サツケバーやアモデイがAIの頭脳を作る側の人間だとすれば、
アルトマンはその頭脳を世界に接続した人。
でもここで私が思った事なんですけど、
彼は功労者であると同時に「パンドラの箱を早めに開けた人」だと思ってます。
まだ社会がAIの準備が整わないうちに、物凄い強力なAIを一般の人々の手に渡してしまった。
これは別に彼を持ち上げたり、悪者にしたりする気があるわけではなく、おそらく正確でもないかもしれません。
でもAIに限らずどんな事にも共通する事だと思いますが、アクセルを踏んだ人には、前に進めた功績と止まりきれなかった責任、この両方が生まれるものです。
アルトマンに関してもそれだけのことなんだと思っています。
解任されたはずのアルトマンは、なぜ戻れたのか
2023年11月、事件が起きましたね。
OpenAIの取締役会が、突然アルトマンをCEOから解任。
理由は明確には公表されませんでしたが、経営と研究の方向性をめぐる深い対立があったとされていました。
しかし解任からわずか数日後にアルトマンは復帰しました。笑
あの時わたしは、
「もし本当に人類の未来に関わるほど重大な問題で解任されたなら、そんなに簡単に戻れないでしょ？」
と思ったのを覚えてます。
当時の事を思い出してAIと会話をしていたら、どうやらこの問題を解く鍵は「権限」と「実体」のズレにあるのかなという考えに私とAIは至りました。笑
取締役会は確かにCEOを解任する法的な権限を持っていました。これは事実ですよね。
でも彼らがコントロールできたのは「権限」だけだったという事。
OpenAIという組織を実際に動かしていたものは、当時すでに770名ほどになっていた社員です。
研究者、Microsoftとの関係、資金の流れ、顧客、そして社会への実装の勢い。
これら全てまでは、取締役会の手の届く範囲になかったという事です。
つまり、こういうことだったんじゃないかな。
取締役会はアルトマンを解任する権限を持っていた。
でもアルトマンを失ったOpenAIには、社員が残る理由や旨味のような物を用意できていなかった。
であるならばアルトマンが復帰した意味も見えてくる気がします。
当時アルトマンの復帰は、彼の完全な潔白を証明したというよりはOpenAIが既に理念だけでは止められない巨大組織になっていたという事の方が理由として大きかった気がします。
権限上では組織は止められます。でもその組織の中で生きている人々の現実までは紙に書かれた権限では動かせなかったという事かと。
ではその「人々（社員）の現実」を見てみたらどうだったのか。
745人の社員は何を守ろうとしたのか
アルトマン解任の直後、これまた象徴的な出来事が起きましたよね。
OpenAIの社員、当時約770人のうち、報じられていたところでは745人もの人々が、
アルトマンの復帰を求める書面に署名したというニュースでした。
※人数は報道によって誤差や幅がありました。
しかしながら社員のほぼ全員と言ってもいい規模だったのは驚きでした。
本当にこの数字は強烈でした。
でもここで以外にも私は安易に「みんなアルトマン好きやったんやぁ」とはなりませんでした。
745人全員が、アルトマンに心から共感していたわけではないと思っていました。
社員にも、生活がある。そこには給料があって、家族がある。
住宅ローンもあるかもしれないし、中にはビザの問題を抱えた外国籍の人もいたかも。
長年積み上げてきたキャリアや、保有する株式の価値を心配した人だっていたはずです。
つまりOpenAIが壊れれば、自分たちの生活も、研究環境も、一緒に壊れてしまうわけです。
だから、署名の動機は恐らくこんなふうだったのかなぁと。
- アルトマンを純粋に支持していた人
- 好きではないけど、会社を守るため（生活を守るため）に復帰を望んだ人
- 取締役会に反対で強い不信を抱いていた人
- 当時クビにされてもMicrosoftという「受け皿」が社員にも見えていたので、
取締役会に対して強気になれた人
Microsoftの存在は当時大きかったですよね。
万が一OpenAIが崩壊しても、社員はMicrosoftに移れるという見通しがあったと当時は報道もされていました。
これが社員側に強い交渉力を与えたんだろうと思ってます。
正論だけではご飯は食べられない
死んでしまったら元も子もない。
身も蓋もない言い方に聞こえるかもしれませんが、
これは社員を責める言葉でもありません。むしろ逆です。
彼らは理念を捨てたわけではないと私は思っています。
理念を続けるためにこそ、まず組織と生活を守る必要があったんだと思います。
船は沈んでしまえば、どんなに立派な航海図も意味をなしません。
だからこそ、船を浮かべておく必要があるんです。
裏切りなんかではなく、ある種の責任ある現実主義だったんじゃないかと思ってます。
理念と生活というのは、よく対立するものとして語らています。
でも実際は理念を「続ける」ためには生活という土台が必要。
理念は人数が増えると薄まる
それと、AIとの会話の中で互いに納得し共感できたような事がこれでした。
OpenAIが生まれたとき、おそらく10人前後の「理念共同体」でそた。
少人数で、同じ夢を見て、同じ危機感を共有していたんだと思います。
でも2023年、組織は約770人規模にまで膨れ上がっていました。
この「人数の変化」が、すべてを変えるんだと思っています。
創業メンバーにとって、理念は人生そのものだったと思います。
それは会社を立ち上げた動機であり、何年もかけて守ってきた信念であり、
なにより自分が何者であるかの定義そのものだったかもしれません。
でも後から入った社員にとって、理念は少し違う意味を持ってきます。
それは大切な会社のミッションであると同時に、
自分の職場であり、給料の源であり、キャリアの一部であり、生活の基盤でもあります。
社員が増えると理念というのは、生活と分けられず結びついているものだと思います。
理念を知っていることと、危機の瞬間にその理念だけで判断できることは別問題なんです。
ようするに、
少人数の創業メンバーにとっては理念というのは人生そのもの。
でも数百人規模の社員にとっての理念は、会社のミッションであると同時に、
自分の職場、生活、給料、キャリアの一部になる。
人数が増えれば、理念の周りに、こうした「生活の重み」が積み重なっていくわけです。
理念は消えません。でも薄まるんです。純粋なままではいかなくなるんだと思います。
OpenAIの解任劇は、AIの未来をめぐる事件であると同時に、
理念で始まった組織が巨大化したときに避けられない、人間社会の現実だなぁって思いました。
これはAI企業に限った話ではなく、NPOでも、ベンチャーでも、宗教団体でも、政党でも、同じことが起きると思っています。最初の純粋さは、成功して大きくなるほど、希釈されていくものなんだと。
皮肉なことに”あの騒動”は、理念が世界を変えるほど強かったので組織は大きくなり、
その大きさが理念を薄めたんだなぁって思ってます。
署名しなかった人々について
「745人が署名したなら、逆に約25人は署名しなかったわけでしょ？」
ってAIに聞きました。
この人たちについても勿論、正義か悪かで見ようとは思っていません。
「署名しなかった25人こそ、純粋な理念派だったんじゃないか？」
そう思いたく気持ちが強かったんですが、それも単純化しすぎかなぁとも思ってました。
AIの回答としてはこうです。
署名しなかった理由は、これまた多様だったはずです。
単に様子を見ていた人、署名という行為そのものに違和感を持った人、
立場上どうしても署名できなかった人、あるいはタイミングを逃しただけの人もいたかもしれない。
745人がアルトマン信者だったわけではないように、25人が純粋な理念派だったとも言えない。
重要なのは、そこに多様な事情があったとこと。
でしょうね。という答えではあったけど。笑
人間の集団を、二つのどちらかに綺麗に分けることはできませんね。
一人ひとりに、それぞれの事情と、それぞれの現実があるんですから。
この「割り切れなさ」こそ、私は人間社会の本当の姿だとも思っています。
アモデイとサツケバーが選んだ別の道
OpenAIを去って、別の道を選んだ人々もいますね。
ダリオ・アモデイとAnthropic
ダリオ・アモデイはOpenAIの創業メンバーではありませんが、初期から研究部門のトップ級を務めた重要人物でした。彼はOpenAIの商業化路線に懸念を抱いて、妹のダニエラ・アモデイ（彼女もOpenAIで安全性・ポリシー領域に関わっていました）と共に2021年にOpenAIを離れました。
そして設立したのが、毎日10回は耳にしたり目にしたりするAnthropicですね。
現在、ダリオ・アモデイがCEO、妹のダニエラが共同創業者でPresidentを務めています。
Anthropicが開発しているのが対話型AI「Claude」。
ここで気になったのは、アモデイの選択の意味です。
アモデイはOpenAIを離れて、単に批判者になったわけではありません。
彼はAnthropicという対抗会社を作ったと言われてます。
OpenAIを直接止めるための会社ではなく、OpenAIとは違う安全思想でも、
実際に強いAIを作れることを証明するための会社だったと考えらています。
という事は、
AnthropicはOpenAIの暴走を外から止めるブレーキというより、
AI業界に「別の走り方」を示す、いわば牽制装置なのかもしれません。
しかしアモデイもまた、完全な理想主義者ではいられません。
Claudeを市場に出している以上、Anthropicも資本（実際にAmazonやGoogleから巨額の出資を受けています）、顧客、競争のプレッシャーから逃れることはできません。
安全性を掲げながらも、市場で戦わなければならないわけです。
初めに書いた「理想を追えば燃料が要る」という矛盾は、ここでも形を変えて現れているわけです。
イリヤ・サツケバーとSSI
さてもう一人イリヤ・サツケバー。
彼はOpenAIの共同創業者であり、チーフサイエンティストでした。
AIの頭脳を作る、まさに中核の人物です。
サツケバーはアルトマン解任劇に当事者として関わったのですが、その後OpenAIを退社。
そして立ち上げたのが、Safe Superintelligence（SSI）。
名前の通り「安全な超知能」の開発そのものを目的にした会社です。
アモデイとサツケバーは似ているように見えますが、選んだ道は少し違いますよね。
- アモデイ：Anthropicで、Claudeを社会に実装しながら、安全性と市場の両立を試みている感じ
- サツケバー：SSIで製品化よりも、より純粋に「安全な超知能そのもの」を追求している感じ
どちらが正しいという話ではありません。
二人ともOpenAIとは別の場所でそれぞれの形で「安全なAI」という原点を追い続けているわけです。
同じ問題意識から出発して違う答えにたどり着いた。それだけのこと。
パンドラの箱はもう開いている
この時すでにAIと会話しながら、あることを思いました。
AIというのは、もう研究室だけのものではなく、ChatGPT、Claude、Gemini、Grokなどそれらは今、
世界中の一般の人の手のひらの中で動いています。
プログラミングを知らない人がコードを書き、
文章が苦手な人が長文を整え、
一人の個人がかつては専門家チームが必要だった作業を数分でこなせるようになりました。
つまり今の時代は「AIを世に出すべきか」ではないんだなぁって。
もう、出ちゃってるんだよなぁって。笑
パンドラの箱は、もう開いてしまってるわけです。
問題は、箱を閉じられるかではなくて、そこから出てきた力とどう付き合うか。
ギリシャ神話の「パンドラの箱」には、続きがあるそうです。※AI君の雑学話より
あらゆる災厄が飛び出した後、箱の底にただ一つ「希望」が残されていたという結末らしいです。
（本当か？笑。まぁ面白いから良いか。神話だし。）
でも飛び出した力が災いになるか希望になるかは、
もはや一握りの天才や巨大企業だけが決めることではありません。
それを日常的に使う私たち一人ひとりの向き合い方にもかかっているのだと思います。
AIの問題は、人間社会の問題でもある
今回は長い文になりました。
最後に見えてきたものを整理すると。
OpenAIの騒動は当時AI企業の内紛に見えていた。でも本質的には人間社会の縮図だったんじゃないか。
理念は大切。それは組織を生み、人を動かし、世界を変える原動力になります。
でも理念を実行する人間には生活がある。
給料があり、家族があり、明日への不安もあります。
組織が大きくなれば理念の周りに、資金、雇用、報酬、顧客、競争、権力が集まってくる。
理念が成功すればするほど、その周りには現実の重みが積み上がっていく。
その時に理念は消えるのではなく、薄まるという事。
複雑になり、純粋なままではいられなくなる。
これは悲しいことなのか？もしくは当たり前のことなのか？
理念だけで生きられる人はいないに等しいのかも。
誰もがご飯を食べ、家族を養い、明日を生きていかなければなりません。
その当たり前の現実の上に私たちの社会は成り立っていると思っています。
OpenAIは人類のためのAIを掲げました。
でもそのAIを作るのはやっぱり人でした。
弱さも、生活も、事情も抱えた私たちと同じ人だったわけです。
私たちはAIの未来を心配します。
AIが人を超えてしまうのではないかと不安視する人もいます。※既に超えてますが。笑
でもその前に見つめるべきものがあるのかもしれないですね。
AIが人を変える前に私たちはまず、人が作る組織の限界を見つめる必要があるのではないかなぁ。
理念や志で始まった集まりが、大きくなると現実に飲み込まれていく。
この構造はシリコンバレーの巨大企業だけの話ではありません。
私たちの職場にも、地域の活動にも、もしかしたら自分自身の中にも、
同じ”力学”が働いているかもしれないですね。
AIの未来を考えることは結局のところ、
人間の弱さと現実をもう一度静かに見つめ直すことなのかもしれないね。っと最後にAIに伝えました。
※回答を聞くと切りがないので伝えてすぐ閉じてやりました。
