OpenAIとイーロン・マスク 2024 年 3 月 5 日
https://openai.com/blog/openai-elon-musk
OpenAIとイーロン・マスク
私たちは OpenAI の使命に専念し、あらゆる段階でそれを追求してきました。
OpenAI の使命は、AGI が全人類に確実に利益をもたらすことです。これは、安全で有益な AGI を構築することと、広範囲に分散される利益の創出を支援することの両方を意味します。私たちは現在、私たちの使命を達成するために学んだことと、イーロンとの関係に関するいくつかの事実を共有しています。私たちはイーロンの主張をすべて却下するつもりです。
AGI の構築には、当初の想像よりもはるかに多くのリソースが必要になることに気づきました。
Elon は、OpenAI への最初の 10 億ドルの資金提供を発表する必要があると述べました。合計すると、この非営利団体はイーロンから 4,500 万ドル未満を調達し、他の寄付者からは 9,000 万ドル以上を集めました。
2015 年後半に OpenAI を立ち上げたとき、グレッグとサムは当初 1 億ドルを調達する計画を立てていました。イーロンは電子メールで次のように述べた。「絶望的に思われないようにするには、1億ドルよりもはるかに大きな数字を使う必要があります…私たちは10億ドルの資金調達コミットメントから始めていると言うべきだと思います…他の人が提供しないものは何でもカバーします」[1]
私たちは、AGI への妥当な道筋を構想するのに多くの時間を費やしました。2017 年の初めに、私たちは AGI の構築には膨大な量のコンピューティングが必要であることに気づきました。私たちは、AGI がおそらくどのくらいのコンピューティングを必要とするかを計算し始めました。私たちの使命を成功させるには、さらに多くの資本が必要であることを誰もが理解していました。年間数十億ドルは、私たちの誰も、特にイーロンが非営利団体として調達できると考えていたよりもはるかに多かったです。
私たちとイーロンは、これらのリソースを取得するには営利団体が必要であると認識しました
私たちが使命を推進するために営利組織について話し合っていたとき、イーロンは私たちがテスラと合併することを望んでいたか、それとも完全な支配権を望んでいたのです。Elon 氏は、Google/DeepMind に関連する競合他社が必要であり、自分でそれを行うつもりであると述べ、OpenAI を去りました。彼は、私たちが自分たちの道を見つけるのを応援すると言いました。
2017 年末、私たちとイーロンは、この使命の次のステップは営利団体を設立することであると決定しました。イーロンは過半数の株式を取得し、取締役会を最初に管理し、CEOになることを望んでいました。こうした議論の最中に、彼は資金提供を保留した。リード・ホフマンは給与と業務をカバーするために溝を埋めた。
私たちは、個人が OpenAI を完全に制御することは使命に反すると感じたため、Elon と営利契約の条件に同意することができませんでした。その後、代わりに OpenAI を Tesla に統合することを提案しました。2018年2月初旬、イーロンはOpenAIが「ドル箱としてテスラに加わる」べきだと示唆する電子メールを私たちに転送し、「まさにその通りだ…テスラこそがグーグルに対抗できる唯一の道である」とコメントした。それでも、Google に対抗できる可能性は低いです。ただゼロではないんです。」[2]
Elon はすぐに OpenAI を離れることを選択し、私たちの成功の可能性は 0 であり、Tesla 内に AGI の競合他社を構築する計画があると述べました。2018 年 2 月下旬に退職したとき、彼は私たちのチームに対し、私たちが数十億ドルを調達する独自の道を見つけることを支持していると伝えました。2018年12月、イーロンは私たちに次のようなメールを送ってきました。「数億を集めても十分ではありません。これにはすぐに年間数十億ドルが必要です、さもなければ忘れてください。」[3]
私たちは広く利用可能な有益なツールを構築することで使命を推進します
私たちは、オープンソースへの貢献などを通じて、人々に力を与え、日常生活を改善する方法で、自社のテクノロジーを広く利用できるようにしています。
私たちは、何億人もの人々が毎日使用している無料版を含む、今日の最も強力な AI への幅広いアクセスを提供します。たとえば、アルバニアは OpenAI のツールを使用して EU 加盟を最大 5.5 年加速させています。Digital Green は、OpenAI を基盤とすることで農業普及サービスのコストを 100 分の 1 に削減し、ケニアとインドの農家の収入増加に貢献しています。ロードアイランド州最大の医療提供者であるライフスパンは、GPT-4 を使用して手術同意書を大学の読解レベルから 6 年生のレベルまで簡素化しています。アイスランドはアイスランド語を保存するために GPT-4 を使用しています。
Elon は、その使命が AGI のオープンソース化を意味するものではないことを理解していました。イリヤはイーロンに次のように語った。openAI のオープンとは、AI が構築された後は誰もが AI の成果から恩恵を受ける必要があることを意味しますが、科学を共有しなくてもまったく問題ありません...」と言うと、イーロンは「そうです」と答えました。[4]
私たちが深く尊敬していた人物、つまり私たちに高みを目指すよう鼓舞し、その後失敗するだろうと言い、競争相手を始め、私たちが OpenAI の使命に向けて有意義な前進を始めたときに訴訟を起こした人物とこのようなことになったことを残念に思います。彼なし。
私たちは使命を推進することに集中していますが、道のりは長いです。私たちはツールをどんどん改良し続けているので、これらのシステムを導入してすべての個人に力を与えることに興奮しています。
私はブログをもう少し一般の人々にアピールするように配置することを好みます。私たちが成功するためには、パブリックなルートを持つことには多くの価値があります。そして、募集用に、より長く、より詳細な、野球内部のバージョンを用意することを好みます。 、一般公開版の最後にそのリンクが付いています。
Google や Facebook が費やしている金額と比べて絶望的だと思われないようにするには、1 億ドルよりもはるかに大きな数字を採用する必要があります。私たちは 10 億ドルの資金調達コミットメントからスタートしていると言うべきだと思います。これは本物です。他の人が提供していないものはすべてカバーします。
テンプレートは、デフォルトとして権利確定現金ボーナスに移行することを除けば、問題ないようです。オプションで、これを YC 株または潜在的に SpaceX 株（これがいくらになるかを理解する必要があります）に変えることができます。
また、AGI を達成するには計算能力が必要 (そしておそらく十分である) だろうと強く疑っています。過去の傾向が何らかの兆候であるとすれば、AI の進歩は主にシステム (コンピューティング、データ、インフラストラクチャー) によって推進されています。私たちが現在使用しているコアアルゴリズムは、90 年代からほとんど変わっていません。それだけでなく、どこかの論文で発表されたアルゴリズムの進歩は、ほぼ即座に再実装して組み込むことができます。逆に、アルゴリズムの進歩だけでは、それを怖がらせる規模がなければ不活性です。
私には、今日の OpenAI は現金を浪費しており、その資金調達モデルは Google (800 億企業) と真剣に競争できる規模に到達できないように思えます。真剣に競争できないのに公開で研究を続けている場合、実際には状況を悪化させて「無料」で彼らを支援している可能性があります。なぜなら、進歩したものはコピーしてすぐに大規模に組み込むのが非常に簡単だからです。
営利目的のピボットは、時間の経過とともにより持続可能な収益源を生み出す可能性があり、現在のチームでは多額の投資をもたらす可能性があります。しかし、製品をゼロから構築することは AI 研究の焦点を奪い、長い時間がかかり、企業が Google の規模に「追いつく」ことができるかどうかは不透明であり、投資家は間違った方向に過度の圧力をかける可能性があります。私が思いつく最も有望な選択肢は、先ほども述べたように、OpenAI がドル箱として Tesla に所属することです。他の大規模な容疑者 (Apple、Amazon など) への添付ファイルは、企業の DNA に互換性がないため失敗すると思います。ロケットに例えると、テスラはモデル 3 のサプライチェーン全体とその搭載コンピューター、永続的なインターネット接続を備えたロケットの「第 1 段」をすでに構築しています。「第 2 段階」は、大規模なニューラル ネットワーク トレーニングに基づく完全な自動運転ソリューションであり、OpenAI の専門知識がその加速に大きく役立つ可能性があります。完全な自動運転ソリューションが機能すれば、2 ～ 3 年以内に多くの車やトラックが売れるようになるでしょう。これを本当にうまくやれば、運輸業界は十分に大きいので、テスラの時価総額を O(~100,000) の高い水準まで引き上げ、その収益を適切な規模の AI 開発に資金を提供することができます。
10年以内に持続可能なGoogle規模の資本に到達する可能性のあるものは他に見当たりません。
数億集めても足りない。これにはすぐに年間数十億ドルが必要です。さもなければ忘れてください。
残念ながら、人類の未来は次の手にかかっています。。
そして彼らはこれ以上のことを行っています。
私が間違っていることを本当に願っています。
エロン
、明けましておめでとうございます。！
Falcon 9 の着陸おめでとうございます。素晴らしい成果です。今すぐ艦隊を構築しましょう！
最近、あなた (そしてサムや他の OpenAI 関係者) が、AI のオープンソース化の長所を称賛する多くのインタビューを行っているのを見てきましたが、これが安全性の問題を魔法のように解決してくれるような万能薬ではないことは理解しているのではないでしょうか? あなたがとっているアプローチが実際に非常に危険であり、実際に世界へのリスクを増大させる可能性がある理由については、多くの適切な議論があります。より明白な点のいくつかは、このブログ投稿で詳しく説明されており、すでにご覧になっていると思いますが、他にも重要な考慮事項があります:
http://slatestarcodex.com/2015/12/17/Should-ai- be-open/
これらの点に対する反論を聞きたいです。
最高
AI の構築に近づくにつれて、オープン性が低下し始めるのは当然のことです。openAI の「オープン」とは、AI の構築後に誰もが AI の成果から恩恵を受けるべきであることを意味しますが、科学を共有しなくても全く問題ありません (たとえすべてを共有することが採用目的において短期的、そして場合によっては中期的には間違いなく正しい戦略であるとしても)。
Comments
Post a Comment