今やChat GPTについて知らない人はいないんじゃないか?って思えるぐらい有名になりました。しかし、何でこんな物が突然現れたのか不思議に思う方も多いのではないでしょうか?そこで、Chat GPTが登場するまでの様々な技術について、数式は使わずに平易に解説していくシリーズとして「Chat GPT はどうやって生まれてきたのか?」を連載しています。第3回である今回は、技術の話から少し離れて「OpenAIでクーデター?(AlexNet 特別編)」としてお届けします。
1. OpenAIでクーデター?
2023年11月17日、OpenAIのCEOのサム・アルトマンが突如として解任されるという事件が起きました。この事件の首謀者とされる人物がイリヤ・サツケバーですが、700 人以上にのぼる従業員が、取締役会に対して嘆願書を提出し、サムの復職を求めたときに、彼も署名していたことが分かり、ますます謎が深まりました。
なお、サム・アルトマンは1週間後にCEOに復帰し、イリヤ・サツケバーは取締役を辞任しました。
このイリヤ・サツケバーという人物は、前回解説した「AlexNet」の著者の一人でもあります。そこで、今回は AlexNet の作者達について見ていきたいと思います。 論文については以下にもう一度掲載しておきます。
タイトル:ImageNet Classification with Deep Convolutional Neural Networks
著者:Alex Krizhevsky , Ilya Sutskever , Geoffrey E. Hinton
所属:トロント大学(カナダ)
主著者は Alex Krizhevsky となっています。「AlexNet」という名前は主著者の名前からきている事にお気づきの方も居るかも知れません。しかし、この名前は当人達が付けたものではなく、誰が言ったでもなく「AlexNet」という名前が定着してしまったそうです。
最後の著者はヒントン教授としてとても有名です。本連載の第1回「ディープラーニング」で説明した「バックプロパゲーション」や「ReLU関数」にもヒントン教授が関わっています。
ヒントン教授は、2018年にディープラーニングの取り組みを評価され、「計算機科学のノーベル賞」と言われるチューリング賞をヤン・ルカン,ヨシュア・ベンジオと共に受賞し、「ディープラーニングの父」と呼ばれています。なお、ヤン・ルカンはヒントン教授の教え子でもあります。
2番目の著者 イリヤ・サツケバーは、AlexNet発表時ヒントン教授の研究室の博士課程の学生でした。トロント大学でドクターを取得後、2012年11月からスタンフォード大学へ移りますが、2か月後にヒントン教授とスピンオフでつくった会社「DNNResearch」に入ります。なお、DNNResearchの社員はAlexNetの論文の著者3人だけでした。このDNNResearchは2013年3月にグーグルに買収されます。人材目当ての買収で、グーグルとマイクロソフトが競り合い、お金に糸目をつけない獲得合戦だったようです。
その後サツケバーは、グーグルが2014年に買収したディープマインドのメンバーと共に、囲碁の人工知能ソフトウェア「AlphaGo」の開発に関わりました。
また、グーグルがオープンソースで公開しているディープラーニング用のソフトウェアライブラリ「TensorFlow」の開発にも関わりました。
2015年末、イリヤ・サツケバーは、グーグルがAI関連の優秀な人材を独占していることを好ましく思わない人々が設立する、非営利法人OpenAI Inc.の共同設立者兼チーフサイエンティストに指名されました。サツケバーも「AI技術は、私企業に独占させるべきではなく、全人類のものであるべきだ」という考えから、非営利法人OpenAI Inc.に移籍しました。
OpenAI Inc.は、非営利法人として人類全体に利益をもたらす汎用人工知能(AGI)の開発を目標としています。しかし、営利法人の子会社ができたり、複雑な構成になっていき、OpenAI Inc.設立当初には1億ドルを寄付し、自らも役員を務めていたイーロン・マスクも2018年にはOpenAI Inc.を離れていきました。なお、イーロン・マスクは2023年に独自のAI企業「xAI」を発表しています。
2019年には、OpenAI全体として事実上は営利企業と見なせる状態になってしまいます。そのため、この数年でOpenAIの権利のほとんどをマイクロソフトが取得しています。
OpenAI Inc.の規約は少し変わっていて、汎用人工知能(AGI)が完成した際は、それを営利法人や他社にライセンス提供はしないことになっており、汎用人工知能(AGI)実現前の人工知能のみを営利法人に提供することとなっています。
この規約は、イリヤ・サツケバーの「AI技術は、私企業に独占させるべきではなく、全人類のものであるべきだ」という考えの現れなのでしょう。
イリヤ・サツケバーのもう1つの考えに「早急な汎用人工知能(AGI)のビジネス化は危険で慎重に進めるべき」というものがあります。この考えと「早急にビジネス化して儲けたい」という考えの対立が、今回の事件を生んだと言われています。
なお、イリヤ・サツケバーのこの考えは、ヒントン教授と同じです。ヒントン教授は、2023年5月に「AIの危険性を自由な立場で訴えられるようにと、グーグルを退職した」と発表しています。
また、主著者のAlexは、2017年にグーグルを引退し、以後は人工知能には関わっていません。DNNResearchがグーグルに買収された時の莫大な収益だけでも十分暮らしていけると言われています。
2. GPUとディープラーニングの関係
ディープラーニングと言えばGPUを使うのが一般的ですが、GPUは Graphics Processing Unit の略です。ニューラルネットを扱うはずのディープラーニングが、グラフィクスとどんな関係があるのでしょうか?ここでは、GPUとディープラーニングの関係について記していきます。
エヌビディアは、古くからグラフィックスチップを作っており、GPUという名称もエヌビディアの提唱によるものでした。しかし、各CPUメーカーで自社製GPUをチップセットに内蔵するようになり、さらにCPUとGPUが統合されるようになってくると、存在意義が薄れていき、2010年にはチップセット事業から撤退することになりました。その後は、PCで高解像度の3Dゲームなどを楽しむコアなゲームファン向けのグラフィックボードなどを細々と作っていました。
GPUは、3Dゲームなどでリアルタイムにグラフィックスを表示するために、行列演算をいくつも並列で処理することができたので、AlexNetの作者達は、ディープラーニングで必要なニューラルネットの膨大な計算に、このGPUを採用したのでした。ニューラルネットでも行列演算をいくつも並列で処理することが必要だったのです。また、エヌビディアが開発したCUDA(Compute Unified Device Architecture:クーダ)が、グラフィックス表示用途だけでなく、汎用の並列コンピューティングプラットフォームとして使いやすかったのです。
AlexNetではGTX 580を2台使っているのは前回に説明したとおりです。こうして、エヌビディアはAI分野を代表する企業になっていったのです。
エヌビディアのジェンスン・フアンは、「サツケバーがトロントからニューヨークまで車で国境を越えて買い付けに来て、GTX 580をトランクいっぱいに積んで帰っていった。」と言っていますが、イリヤ・サツケバー本人はネット通販で買ったと言っています。
3. おわりに
今回は、(AlexNet 特別編)ということで、技術の話を離れてAlexNetに関する話を書きました。
次回は、技術の話に戻りまして、RNN,LSTM,GRUとseq2seqについて、お届けする予定です。