私たちは力を合わせるべきだ
数学の外にいる人たちが大勢押し寄せ、井戸に石を投げ込み、どっと笑って立ち去っていきます。
数学の外にいる人で、こんなことを考えた人はほとんどいません。数学という、真っ先に衝撃を受けている分野で、新しく適切な業界の規範を築き、人間とAIが調和して共存することができなければ、これからほかの分野が衝撃を受け、新たな秩序を築かなければならなくなったとき、いったいどこに、参考にして経験を学べるよい例があるのでしょうか。混乱は、何度も何度も、ほかの業界を襲うことになります。
AIがある分野を「攻略」するたびに、その力の伸びは、1+1=2という単純な足し算では到底測れません。コードを書く能力は、AIに恐るべき実装能力を与えます。そして数学の能力が人間を超えるということは、きわめて強力なモデル化能力と、難問を突破する力を備えることを意味します。この二つの力は、互いを増幅します。つまり、AIがある業界の城を落とすたび、その能力は何倍にも膨らむのです。異なる分野が互いを強め合い、やがて、まともに向き合うことさえできず、誰にも打ち勝てないほどの強さになるまで。
これからAIがほかの業界に入り込めば、圧倒的な力による問題のモデル化、コーディング、理論の核心部分での突破によって、ほかの理工系分野もあっさり陥落するでしょう。マルチモーダル分野での突破の速さも、ますますとんでもないものになっています。AIは現実世界につながるインターフェースを次々と手に入れている。もしかすると、将来は実験科学さえも、堅固な堀であり続けるとは限らないのかもしれません。
AIという分野そのものを研究していれば、比較的安全かもしれないと考える人もいます。でも、最先端のモデルはすでに自己改良を始めています。将来、モデルの訓練や公開といったこと自体を人間が行う必要がなくなったとき、本当にこれほど大勢のAI研究者や技術者が必要なのでしょうか。
身体性を備えたAIの開発でも、次々と成果が出始め、現実世界で行動するAIの能力が高まり始めています。労働の現場、実験操作、現実世界からのフィードバック。これらもすべて陥落します。AIが大半の分野で人間の生きる道を脅かすという状況は、もはやSFの中だけの空想ではありません。
OpenAIが一連の数学論文を公開してから、ここ数日、数学研究者を攻撃する投稿を本当にたくさん目にしました。Taoは真っ先に批判の矢面に立たされ、世間の話題のネタとして消費される対象になりました。
私たちは、力を合わせるべきです。
コメントと議論
ご質問、ご指摘、さらに考えたことなどをお寄せください。すべての言語版で同じコメント欄を共有しています。
コメントはボタンを押したときにのみ読み込まれ、Giscus と GitHub に接続します。投稿には GitHub アカウントが必要です。
GitHub で議論を開く ↗