みなさん、おはようございます！タカハシ(@ntakahashi0505)です。
こちらの記事は、タカハシが音声メディアVoicyの「スキルアップラジオ」にて放送した内容から、ピックアップしてお届けします！
今回のテーマは、OpenAIの元チーフサイエンティスト「安全なAI」企業を設立 です。
なお、以下で実際にお聴きいただくこともできます！
では、よろしくお願いいたします！
イリヤ・サツキバー氏が新企業を設立
今日はニュースの解説をしていきます。
どんなニュースかというと、OpenAIの共同創業者であり、元チーフサイエンティストのイリヤ・サツキバー氏が6月19日、新たなAI企業セーフ・スーパーインテリジェンスを設立すると発表したこちらのニュースになります。
イリヤ・サツキバー氏とは
このイリヤ・サツキバー氏とは、どんな人物なのでしょうか。
OpenAIとの関係性も含めて紹介していきたいと思います。
まず、イリヤ・サツキバー氏は、トロント大学でディープラーニング、深層学習のパイオニアとして知られるジェフリー・ヒントン氏に師事した後、GoogleでAIの研究をしていました。
2015年、サム・アルトマン氏に招待され、イーロン・マスク氏とグレッグ・ブロックマン氏の夕食会に参加するんです。
これがきっかけで、2015年12月に創設されたOpenAIの共同創業者としてメンバーに加わります。
その後、OpenAIのチーフサイエンティストとして研究を牽引していく立場になります。
OpenAIとは
さて、そのOpenAIですが、元々は人類の利益を追求するAI研究組織として創業されたもので、その設立時の声明の中には、
非営利組織として、我々の目標は株主ではなく全ての人々にとっての価値を築き上げることにある
このように述べられています。
しかし、その後、OpenAIは、営利部門を設立し、非営利団体の理事会がその営利企業を統治するというような特殊な構造を持つ組織になりました。
それによって、Microsoftやその他の支援者から巨額の投資を受けることができるようになり、利用モデルを転換。
その後、破竹の勢いでAIのトップランナーとして駆け上っていくことになります。
サム・アルトマン氏の解雇騒動
さて、2023年、ある騒動が起きます。
みなさんも記憶に新しいかもしれませんが、2023年11月にOpenAIの取締役会がCEO サム・アルトマン氏の解雇を決議したというものです。
しかし、それに対して従業員の大半が辞めると一斉に脅しをかけたことで、最終的にアルトマン氏は再びCEOに復帰する。
このような騒動があったわけです。
この時、サム・アルトマン氏の解雇を決議した取締役会のメンバーの1人がイリヤ・サツキバー氏だったということなんです。
で、このアルトマン氏がOpenAIに復帰した後、サツキバー氏はOpenAIの理事を外れたと言われています。
この際、サツキバー氏はXにこのような投稿をしています。
取締役会の行為に加担したことを深く後悔しています。
私はOpenAIを傷つけるつもりなどありませんでした。
その後、サツキバー氏はほとんど公の場に姿を現すことはなかったとされています。
OpenAIを退社したイリヤ・サツキバー氏
その数ヶ月後、5月半ばにサツキバー氏はOpenAI退社について報告をしています。
Xでこのような投稿をしていたんです。
ほぼ10年を経て、OpenAIである決断をしました。
OpenAIの軌跡は奇跡的としか言いようがなく、私はOpenAIが安全かつ有益なAGIを構築することを確信しています。
このように述べています。
AGIとは
さて、ここでサツキバー氏はAGIという単語に触れています。
これは何かと言いますと、Artificial General Intelligenceの訳で、日本語で言うと人工汎用知能ということになります。
AIがArtificial Intelligenceなので、汎用的な人工知能ということです。
そして、この汎用的な人工知能は人間のような知能を持つとされています。
様々なタスクに対して人間と同様の知識や能力、これを持って独自の学習や問題解決、それをできる能力を持っていると言われています。
つまり、今の世にあるAIの発展型として期待されているものがAGIということになります。
なお、先ほどお話ししましたOpenAIのサム・アルトマン氏の解雇に関しては、このAGIに関する方針の違いによるものではないか、そのような噂もあるんです。
そして、OpenAI在籍時、サツキバー氏は、AIの高度化と安全性を両立する組織、聞いてきたと言われています。
しかし、サツキバー氏が退社した後、この組織は事実上解散したということも明らかになっています。
新会社セーフ・スーパーインテリジェンス
さて、サツキバー氏はOpenAI退社時にこのように述べていました。
次のプロジェクトについてもワクワクしています。
私にとって個人的に非常に意義のあるもので、詳細は追ってお伝えするつもりです。
そして、そのワクワクするプロジェクトというのが何かというと、今回発表された新会社セーフ・スーパーインテリジェンスということになります。
サツキバー氏は新会社について、最初の製品は安全なスーパーインテリジェンスになる。
このように述べています。
スーパーインテリジェンスの貢献と脅威
では、このスーパーインテリジェンスとは何のことでしょうか。
スーパーインテリジェンスとは、人間の能力を超越する人工知能、そのことを言います。
あらゆるタスクや問題において、人間よりも優れた能力を持つと言われています。
AGIが人間と同等レベルの人工知能と呼ばれていますので、スーパーインテリジェンスはそれがさらに進化したものということが言えます。
これらAGI、そしてスーパーインテリジェンスに関して言うと、これまで実現できなかったことが実現されることにより、社会的な課題解決や人類全体の幸福度向上、これらに貢献することも期待されますが、一方で、大きな脅威となる懸念もあります。
これらの技術が悪用されること、そして何よりも人間の正義を超えてしまうリスク、こういったことも慎重に議論すべき、そのような声が大きく上げられているわけです。
しかし、AIに関して言うと、OpenAI、マイクロソフト、Googleなど、ビックテックを中心に競争が激化しているというのが現状です。
そこで、サツキバー氏は、安全性が確保できるまではサービスとしてAIを市場に投入しない、そういったポリシーを持つセーフ・スーパーインテリジェンスという会社を立ち上げたということなんです。
ビジネスでの競争を考えると、サツキバー氏のチャレンジは簡単ではない。
そういった戦いになりそうな気はするんですが、我々一般人としては、ビジネスよりも安全性を重視する、このようなスタンスの方がAI業界を牽引する中にいてくださるのはありがたいことなんじゃないかと思います。
まとめ
ということで、今日は、OpenAIの共同創業者イリヤ・サツキバー氏が、新たなAI企業セーフ・スーパーインテリジェンス設立を発表した、このニュースについて解説をしました。
今後のサツキバー氏とセーフ・スーパーインテリジェンスの動きにも注目していきたいと思います。
タカハシのVoicyの放送はこちらからお聴きいただけます。
チャンネルのフォロー、コメント、SNSでのシェアなどなど、楽しみにお待ちしております。 では、また。
