AI ユートピアかディストピアか? パンドラの箱を解き放つ前に再帰双曲線を理解する。

フリーダム・プリーサム

フォローする

模倣体

--

聞く

共有

マーク・アンドリーセンは最近、AI がどのように世界を救うかについて興味深い投稿を書きました。 私も彼の指摘のいくつかに同意し、終末シナリオを主張する過激派を非難する彼を応援します。 私は、彼が取り上げている特定の記事への類似点やリンクが気に入っています。 私は彼の最終的な提案さえ好きです。 ブラボー！

しかし、彼が「道徳的パニック」、「AI安全崇拝」、そして「AIを抑圧」しようとする人々のような用語を使って、思考プロセスを一種のプロパガンダに二分化し始めたとき、私を失いました。 AIの安全性を追求しています！ 誰もがレトリックを理解しているわけではありません。 実際に「あなたの側」にいて、現実の現在の危険である AI の安全性に焦点を当てている人々のためのパラグラフまたはセクションを専用にすることもできたはずです。 クールではありません！

彼は目先の利益に焦点を当てるのではなく、「向こう側」がいかに理解していないのかについて暴言を吐き始め、また極端なユートピアの立場をとった。 つまり、反対側はどちらですか？ どの「カルト」ですか？

マークのユートピアと彼が正当にディストピアを描いた他の人々についてのこの見方は、突飛であり、真実からは遠く離れています。 はっきりさせておきますが、私はマークをベンチャーキャピタリストとして尊敬していますが、このテーマに関しては彼が理解できていないと思います。 攻撃するつもりはありませんが、特に AI のブラック ボックス内に潜む数学的な複雑さを考慮すると、詳細な技術的な議論を行うことができるとは思えません。

マークが提示しているのは主に彼の道徳的世界観であり、皮肉なことに、彼はそれを、収容所、カルト、バプテスト、密造業者が使っていると非難しているのと同じ幅広い筆で描いている。 そのような人々のほとんどを「強気アーティスト」と呼び、AI への投資を利用するために道徳の善悪や美徳/悪徳についてセンセーショナルを煽りたくなる人もいるかもしれません。 言葉の使用がいかに感情を呼び起こし、正直に言うと不注意になる可能性があるかがわかりましたか? しかし、もし私たちがそんなことをしたとしたら、私たちは彼らよりも優れているわけではありません。 このようなユートピアやディストピアのアプローチは還元主義的であり、目前にある本当の問題から逸脱しており、率直に言ってやや幼稚です。

テクノロジーに関して言えば、AI は他の追随を許しません。 人工知能と過去の他の技術革新とを類似させるのは、重大な間違いです。 テクノロジーに対する歴史的な抵抗、かつてのラッダイトの主張は、AI が私たちに提示する途方もない挑戦を包括し始めることはできません。 AI は単なる指数関数的な進歩ではなく、歴史上見たことのない現象である再帰的双曲的特性を示します。 AI 革命は、ダーウィンの原則が今日でも完全に理解するのが難しい出来事であるカンブリア爆発と類似しています。

私の意見では、AI の影響を予測する現在の経済モデルはすべて、まったくダーウィン的です。 正直に言うと、私たちの中には未来を確実に予測する方法を知っている人はいないため、これから起こることを描くことに関しては、やや無知です。 それがディストピアになるのか、ユートピアになるのか、あるいはその中間になるのかはわかりません。 私たちにできることは、この獣の性質をできるだけ包括的かつ迅速に理解することに集中することだけです。

たとえば、双曲線成長の性質は通常、Riccati の微分方程式によって捉えられます。 しかし、天文学的な速度で知能を自己永続させる J カーブに特有の再帰双曲線の未知の領域には、定義されたモデルがありません。 この前例のない技術的飛躍の崖っぷちで私たちがよろめいている中、将来の指針として過去の経済予測に頼ることは、私たちを誤らせるだけです。

終末のシナリオに焦点を当てている過激派がいるとしても、なぜ彼らに焦点を当てるのでしょうか? それらは関係ありません。 政策立案や規制に関することであれば、私はマルク氏と一緒です。 どちらの極も規制による取り締まりに乗り出さないように戦いましょう。 それがなかったら、なぜ安全対策を構築するために懸命に働いているすべての人々を、「社会の破壊を避けるためには AI の出力に対する劇的な制限が必要だと主張したくなるだろう」というバスの下に放り込まれなければならないのでしょうか? 正直言って不注意。

いいえ、これが唯一の視点ではありません。 現場の実際の人々は、レトリックのどちらかの側に進んでいるわけでも、この「雇用の乗っ取り」や「世界殺人機械」の議論に参加しているわけでもありません。 彼らは、安全かつ慎重にイノベーションが起こるようにしています。 AI の安全性を極端なレトリックで軽視しないでください。

私はこのテーマ (AI モデルにおけるゴースト) について広範囲に渡って執筆し、自分の意見を表明し、さまざまなプラットフォームで数多くの議論を行ってきました。 私のスタンス？ 再帰双曲線のマッピングへの投資を倍増させ、現在のモデルの無分別な普及を控えめにし、カードのスタックによる伝播エラーを回避してください。これは過小評価できる猛獣ではありません。

私は規制には全く賛成しません。 私は許可不要のイノベーションを強く信じています。 尺度、指標、フレームワークが不足している数学的複雑さを真に理解するには、その側面に投資し、イノベーションを上回るだけです。

私たちの状況の深刻さを説明するために、次の例えを考えてみましょう。 事故の可能性を理由に、安全対策が講じられていない銃器の製造に賛成しますか? 複雑な例をいくつか挙げてみましょう。

さて、私たちが AI に対して、そして確率的に人工超知能に対して効果的に考え出した警戒措置や指標は何でしょうか? 念のために言っておくと、GPT4 や GPT5 のような幼児モデルでは幻覚や制御異常は発生しません。 これらは ASI に匹敵するものではありません。 これについては、「GPT4 のようなモデルにおける幻覚を数学的に評価する」に書きました。

これらの例と同様に、慎重さが絶対に譲れない場合、私たちは人工超知能の出現にも最大限の慎重さをもって取り組む必要があります。

私たちが優先しなければならないのは、再帰双曲埋め込み空間の多遺伝子エラーを適切に理解し、測定し、封じ込めるための数学的イノベーションへの大規模な投資です。 残念ながら、この重要な投資を求める人々は、カルトの一員として不当に解雇されたり、政治的レトリックの対象となったりすることがよくあります。 このアプローチは、良く言えば問題の大幅な単純化であり、悪く言えば資本主義のプロパガンダの兆候です。

結局のところ、進むべき道は明らかです。AI を完全に解き放つ前に、この獣を理解する必要があります。 この場合、無知は至福ではありません。 それは潜在的な災害の前兆です。 予防措置を講じながらテクノロジーをうまく活用すれば、人類を良い方向に変えることができます。 覚えておいてください、私たちがこの獣を理解していなければ、必要なのは一度の災害だけです。

したがって、これらのレトリックやプロパガンダを抑圧したり、迷子になったりしないようにしましょう。 代わりに、この猛獣を理解する能力を最も備えている数学、物理学、AI 研究の人々が、袖をまくり上げて、最も重要な部分に力を入れて、イノベーションの針を動かさなければなりません。

人類を救うためにすべてのオタクとオタクに呼びかけます...他の誰もそれができません。