私にウェールズの詩人ディラン・トーマスの「その良き夜に穏やかに死んではいけない」を思い出させる。

「穏やかな特異点」は、静かに降りかかる運命の手であり、優しくも抗うことのできないものである。まるで、死にゆく老人が穏やかにその「良き夜」に入っていくように、静かに人類を未知の深淵へと招いている。

人類は運命の潮流に対して怒りをあげて抗うことはないかもしれないが、むしろ夕暮れの中で老人が好奇心と従順さを持って穏やかに特異点に飲み込まれていく。

Altmanを読む前に、私たちは詩のこの一節を心の中で唱えるべきです：

その良い夜に優しく行かないで；
怒り、光の消えゆくことに抗え

以下はブログの全文、中英対照：

ザ・ジェントル・シンギュラリティ
サム・アルトマン
サム・オルマン
私たちは事象の地平線を越えました。離陸が始まりました。人類はデジタル超知能を構築することに近づいており、今のところそれは思っているほど奇妙ではありません。

私たちはイベントホライズンを越えました；離陸は始まりました。人類はデジタルスーパーインテリジェンスを構築しようとしており、少なくとも現時点では、その形態は私たちが想像しているほど奇妙ではありません。

ロボットはまだ街を歩いておらず、私たちのほとんどは一日中AIと話しているわけではありません。人々はまだ病気で亡くなっており、私たちは簡単に宇宙に行くことができず、宇宙について理解できていないことがたくさんあります。

机器人尚未遍布街头,我们大多数人也还未整日与人工智能对话。 人们依旧会は病気で亡くなりました,我们仍然无法轻易地进入太空,多くの我们不理解的奥機密があります。

それなのに、最近では、いろいろな意味で人よりも賢いシステムを構築し、それを使う人のアウトプットを大幅に増幅できるようになったのです。 仕事の最も可能性の低い部分は私たちの後ろにあります。 GPT-4やo3のようなシステムに私たちを導いた科学的な洞察は苦労して勝ち取ったものでしたが、私たちを非常に遠くまで連れて行ってくれるでしょう。

しかし、私たちは最近、多くの面で人間よりもはるかに賢いシステムを構築しており、それらはユーザーの生産性を大幅に向上させることができます。この作業で最も実現が難しいと思われた部分はすでに完了しています。GPT-4やo3のようなシステムを生み出した科学的洞察は容易ではありませんが、それらは私たちを非常に遠くに導くでしょう。

AIはさまざまな方法で世界に貢献しますが、AIが科学の進歩を加速させ、生産性を向上させることで生活の質が向上することは莫大です。 未来は、現在よりもはるかに優れている可能性があります。 科学の進歩は、全体的な進歩の最大の原動力です。 どれだけ多くのことができるかを考えると、とてもワクワクします。

人工智能将从多方面为世界造贡献,但由人工智能推动的更快科学进步和更高生产力所带来的生活质量提升将是巨大的; 未来可能远比现在更加美好。 科学进步是整体进步的最大驱动力; もっと持てると思うと、とてもワクワクします。

大きな意味で、ChatGPTはすでにこれまでに生きたどの人間よりも強力です。 何億人もの人々が毎日、ますます重要なタスクにそれに依存しています。 小さな新機能が大きなプラスの影響を生み出すことができます。 小さなミスアライメントが何億人も増えると、大きな悪影響を及ぼす可能性があります。

ある意味で、ChatGPTは生きている人間よりも強力です。毎日数億人がそれに依存して、ますます重要なタスクを処理しています。小さな新機能が巨大なポジティブな影響を生むことができますが、ほんの小さなミスも数億人によって拡大されると、巨大なネガティブな影響を引き起こす可能性があります。

2025年には、真の認知作業を行うことができるエージェントが登場しました。 コンピュータコードを書くことは決して同じではありません。 2026年には、新しい洞察を導き出すことができるシステムの登場が見られるでしょう。 2027年には、現実世界でタスクをこなすことができるロボットが登場するかもしれません。

2025年は、真の認知作業を行うことができるエージェントの誕生を目撃する年となるでしょう。コンピュータコードの作成方法は、この時から変わります。2026年には、新しい洞察を発見できるシステムが登場する可能性があります。2027年には、現実世界でタスクを実行できるロボットが現れるかもしれません。

より多くの人々がソフトウェアやアートを作成できるようになります。 しかし、世界は両方をもっと望んでおり、新しいツールを受け入れる限り、専門家はおそらく初心者よりもはるかに優れているでしょう。 一般的に言えば、2030年には一人の人間が2020年よりもはるかに多くのことを成し遂げることができるようになることは、大きな変化であり、多くの人々がその恩恵を受ける方法を見出すことになるでしょう。

更多的人将能够创造软件和艺术。 但世界对这两者的需求也会大大增加,只要专家们拥抱新工具,他们可能仍然会比新手出色得多。 总的来说,一个人在2030年能完成工作的量远超2020年,这将是一个显座的变化,许多人会找到从中受益的方法。

最も重要な点では、2030年代は大きく異なるわけではないかもしれません。 人々は今でも家族を愛し、創造性を発揮し、ゲームをし、湖で泳ぎます。

それに加えて、2030年代は変化の世界かもしれません。 使用人は今でも家族を愛し、力を発揮し、水泳をし、湖で泳ぎます。

しかし、それでも非常に重要な点で、2030年代はこれまでとは大きく異なるものになる可能性が高いです。 人間レベルの知能をどこまで超えられるかはわかりませんが、私たちはそれを見つけようとしています。

但在一些仍然非常重要的方面,2030代可能会与以往任何时代都截然不同。 我们不知道我们能超越人类水平的智能多远,但我们即将找到答案。

2030年代には、知性とエネルギー—アイデア、そしてアイデアを実現する能力—が非常に豊富になるでしょう。この二つは長い間、人間の進歩の基本的な制限要因でした。豊富な知性とエネルギー(、そして良いガバナンス)があれば、理論的には他のすべてを手に入れることができます。

2030年代には、知性とエネルギー、つまりアイデアとそれについて考える能力が豊富になります。 这两者长期以来一直是人类进步的根本限制因子; 十分な知性とエネルギー(そして優れたガバナンス)があれば、私はすべてを手に入れることができます。

すでに私たちは信じられないほどのデジタルインテリジェンスとともに生活しており、最初のショックの後、私たちのほとんどはそれにかなり慣れています。 私たちは、AIが美しく書かれた段落を生成できることに驚いていたのが、いつになったら美しく書かれた小説を生成できるのか疑問に思うようになります。 または、命を救う医療診断を下すことができることに驚くことから、いつ治療法を開発できるのか疑問に思うことまで。 または、小さなコンピュータープログラムを作成することに驚くことから、いつまったく新しい会社を作成できるのか疑問に思うことまであります。 これがシンギュラリティのやり方で、驚異が日常茶飯事になり、そしてテーブルステークになるのです。

我们已经生活在令人难以置信的数字智能中,在最初的振惊之后,我们大多数人已经习以为常。 我们很快就从惊叹于AI能生成一段文笔优美的段落,转而思考它何时能写出一部文笔优美小说; 从惊叹于它能造猻疗诊断,转而思考它何时能研发出治方法; 从惊叹于它能创建一个小程序,转而思考它何时能创建一家全新的公司。 奇点就是这样发生的:奇迹变为常态,然后成为基本要求。

科学者からは、AI導入前に比べて生産性が2倍から3倍向上したという話をすでに聞いています。 高度なAIは多くの理由で興味深いものですが、おそらく、それを使用してAI研究を高速化できるという事実ほど重要なものはありません。 新しいコンピューティング基板、より優れたアルゴリズム、そして他に何があるかは誰にもわからないことを発見できるかもしれません。 10年分の研究を1年、あるいは1ヶ月で行うことができれば、その進捗速度は明らかにかなり違ったものになるでしょう。

我们已经听到科学家们说,他们的生产力是使用人工智慧智能之前的两到三倍。 先进的人工智慧智能之所以引人入胜,原因はたくさんあります,但或许没有哪一点比我们能用它来人工知能研究を加速することがより重要です。 我们或许能够发现新的计算基底、更好的算法,以及天知道还有什么。 如果能在一个月或一年内完成十才能完成研究,那么进步的速度显然将截然不同。

ここから、私たちがすでに構築したツールが、さらなる科学的洞察を見つける手助けをし、より良いAIシステムの構築を支援します。もちろん、これはAIシステムが完全に自律的に自分のコードを更新することとは同じではありませんが、それでもこれは再帰的自己改善の幼虫版です。

从现在开始,我们已经构建的工具将帮助我们发现更深入的科学见解,并协助我们创造更优秀的人工智能系统。 当然,这与一个人工智能系统完全自主地更新自己的代码并非一回事,但这已是递归式自我改进的雏形。

他にも自己強化ループが作用しています。 経済的価値の創造は、これらのますます強力になるAIシステムを実行するための複合的なインフラストラクチャの構築のフライホイールを開始しました。 また、他のロボットを作れるロボット(andある意味では、他のdatacenters)を作れるデータセンターもそう遠くありません。

还有其他的自我强化循环正在发挥作用。 经济价值的创造已经启动了一个飞轮效应,不断推动基础设施建设,以运行这些日益强大的人工智慧智能系统。 而能够制造其他机器人机器人(在某种意义上,能够建其他数据中心的数据中心)也并非遥不可和。

もし最初の100万台のヒューマノイドロボットを従来の方法で製造しなければならないとしても、それらが全てのサプライチェーンを運営できるのであれば—鉱鉱を掘り、精錬し、トラックを運転し、工場を運営し、など—さらに多くのロボットを作ることができ、さらにチップ製造施設やデータセンターなどを建設できるのであれば、進歩の速度は明らかに全く異なるでしょう。

如果我们必须用传统方式制造出最初的一百万个类人机器人,但之后它们能够运营整个供应链——挖掘和精炼矿物、驾驶卡车、运营工厂等等——来制造更多的机器人,而这些机器人又能建更多的chip片制造厂、数据中心等,那么进步的速度显然将截然不同。

データセンターの運用が自動化されるにつれて、インテリジェンスのコストは最終的に電力のコスト近くに収束するはずです。 (People、ChatGPT クエリがどのくらいのエネルギーを使用しているかに興味を持つことがよくあります。 平均的なクエリは約0.34ワット時で、オーブンが1秒強で使用する量、または高効率の電球が数分で使用する量です。 また、約0.000085ガロンの水を使用します。 ティースプーンの約15分の1.)

随着数据中心生产的自动化,智能的成本最终应会趋近于电力的成本。 (ChatGPTの検索にはどれくらいのエネルギーが必要か、よく疑問に思います。 平均一次查询大约消耗0.34 Wa时,相当于一个oven一秒多一点的用量,或一个高效灯泡几分钟的用量。 它还消耗大约0.000085加仑水;约equal to 19,茶spoon的15/1。 ）

技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未敢えて新しい政策概念を考える。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。

歴史が何らかの指針となるならば、私たちは新しいこと、新しいことを望むことを見つけ出し、産業革命が最近の良い変化(job新しいツールを迅速に吸収するでしょう example)。 期待は高まりますが、能力も同じように急速に向上し、私たちは皆、より良いものを手に入れることができます。 私たちは、お互いのためにこれまで以上に素晴らしいものを作り上げていきます。 人間は長期的にはAIよりも重要で好奇心旺盛な優位性を持っています:私たちは他人や彼らが何を考え、何をするかを気にするようにできており、機械にはあまり関心がありません。

歴史が参考になるのであれば、新しいことを見つけ出し、新しい需要を生み出し、急速に新しいツールを吸収することができるでしょう（産業革命後の職業の変遷は良い近代の例です）。期待は高まりますが、能力も同様に急速に向上し、私たちはより良いものを手に入れることができます。私たちはお互いにますます素晴らしいものを創造していくでしょう。人工知能と比較して、人間は長期的で重要かつ特異な利点を持っています：私たちの本質は、他者や他者の考えや行動を気にかけることを決定づけており、機械に対してはそれほど気にしません。

千年前的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作",认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。

新たな驚異が達成される割合は計り知れません。 2035年までに何が発見されているのか、今日では想像することさえ困難です。 もしかしたら、ある年は高エネルギー物理学を解くことから、翌年には宇宙植民地化が始まるかもしれません。 あるいは、ある年の主要な材料科学のブレークスルーから、翌年には真の高帯域幅ブレインコンピューターインターフェースに発展するかもしれません。 多くの人は、ほぼ同じように生活することを選ぶでしょうが、少なくとも一部の人々はおそらく「プラグイン」することを決定するでしょう。

新奇迹实现的速度将是巨大的。 今日我们甚至难以想象到2035年会有什么发现; 也许我们会在一年内解决高能物理问题,然后在下年开启太空コロニー; 或者在年内得重大材料科学のブレークスルー,然后在下年实现真高バンド宽脑机接口。 许多人会选择以大致相同的方式生活,但至少有些人可能会决定"接入"。

展望未来,这一切听起来似乎难以理解。 但亲身经历时,可能会覺得shock但尚可应对。 从相对论的视角看,奇点是点滴发生的,Fusion is 缓慢进行的。 我们正攀登在指数级技术进步的漫长arc线上; 前看总是显得陡,后看则显得平,but 它是一条平滑的曲线。 (回想一下2020年,如果有人说2025年将出现接近通用人工智慧智能的东西,听起来会是什么感觉,再对比一下过去5年实际的经历。 ）

大きな利点と共に直面する深刻な課題があります。技術的および社会的に安全性の問題を解決する必要がありますが、経済的な影響を考えると、超知能へのアクセスを広く分配することが極めて重要です。前進するための最良の道は、次のようなものかもしれません:

巨大な利益と共に、直面すべき厳しい挑戦もあります。私たちは確かに技術的および社会的な観点から安全問題を解決する必要がありますが、その経済的影響を考慮すると、スーパーインテリジェンスへのアクセスを広く普及させることも重要です。最良の進むべき道は次のようなものでしょう：

アライメントの問題を解決することで、AIシステムが長期的に集合的に本当に望んでいることに対して学習し、行動することを堅牢に保証できる(social メディアフィードは、AIの不整合の一例です。 これらを動かすアルゴリズムは、スクロールを続け、短期的な好みを明確に理解させるのに非常に優れていますが、それは脳内の何かを利用することによって行われます。 長期的なpreference)を上書きします。

解决对齐问题,意味着我们能够有力地保证人工智能系统学习并按照我们集体的长期真实意愿行事(社交媒体的信息流是未对齐人工智能的一个例子; 驱动它们的算法在让你不停滚动方面表现出色,并能明確なあなたの短期の好みを理解し,但它们是通过利用你大脑中某种压倒你长期偏好的东西来做到这一点的)。

次に、超知能を安価で広く利用できるようにし、人、企業、または国に集中しすぎないようにすることに焦点を当てます。 社会はレジリエントで、創造的で、迅速に適応します。 人々の集合的な意志と知恵を活用できれば、多くの間違いを犯し、いくつかのことが本当にうまくいかないこともありますが、私たちは迅速に学び、適応し、これを利用できるようになります 最大限のアップサイドと最小のダウンサイドを得るためのテクノロジー。 社会が決定しなければならない広範な範囲内で、ユーザーに多くの自由を与えることは非常に重要であるように思われます。 これらの広範な境界が何であるか、そして私たちが集団のアライメントをどのように定義するかについて、世界が会話を始めるのが早ければ早いほど良いです。

然后,专注于让超级智能变得廉价、普及,并且不过度集中于任何个人、公司或国家。 社会具有韧性、创造力并且适应快速。 如果我们能够驾驭人类的集体意愿和智慧,那么尽管我们会犯很多错误,有些事情会出错,但我们将迅速学习和适应,并能够利用这项技术来获得最大的好处和最小的坏处。 在社会必须决定的广泛境界内,给予用户大量的自由似乎非常重要。 世界越早开始就这些广泛境界是什么以及我们如何定义集体对齐展开对话,就越好。

我们(整个行业,不仅仅是OpenAI)正在为世界构建一个大脑。 它将是高度个性化的,并且对每个人来说都易于使用; 我们将受限于好的想法。 斉王朝の初期には、初期の企業界の技術者たちは常にそれらの「ジジ氏」をからかっていました。 那些有想法却在寻找团队来实现它的人。 现在 私の目に来,彼 们即将あなた自身の春を歓迎します。

OpenAIは今や多くのことをしていますが、何よりもまず、私たちはスーパーインテリジェンス研究会社です。私たちの前には多くの仕事がありますが、私たちの前にあるほとんどの道は今や明るく照らされており、暗い領域は急速に後退しています。私たちは自分たちのしていることをできることに非常に感謝しています。

現在のOpenAIは多くの役割を担っていますが、まず第一に、私たちはスーパーインテリジェンスの研究会社です。私たちの前にはまだ多くの仕事がありますが、前方の道のほとんどは明るく照らされており、暗い領域は急速に退いています。この事業に関わることができることに、私たちは非常に感謝しています。

測定するには安すぎるインテリジェンスは十分に手の届くところにあります。 これはクレイジーに聞こえるかもしれませんが、2020年に私たちが今日いる場所にいると言った場合、おそらく2030年についての現在の予測よりもクレイジーに聞こえたでしょう。

計り知れないほどの安価な知能が手の届くところにあります。こう言うと狂っているように聞こえるかもしれませんが、もし私たちが2020年に今日の水準に達するだろうと言ったら、それは私たちが現在2030年の予測について話しているよりももっと狂っているように聞こえたかもしれません。

私たちが超知性を通じて、スムーズに、指数関数的に、そして問題なく成長できることを願っています。

私たちがスムーズに、指数関数的に、そして波乱のない形で超知能時代に向かって進むことができますように。