Sam Altman 寫給未來的 AI 真實觀察：奇點不會大爆炸，而是悄悄吞噬一切

OpenAI 執行長 Sam Altman 昨（11）日於個人部落格發表一篇題為《溫和的奇點》（The Gentle Singularity）的文章，詳細闡述了他對人工智慧（AI）未來發展的願景。Altman 認為，人類已跨越技術「事件視界」，正邁向數位超級智能時代，且這場變革將以平穩而非突兀的方式展開。 （前情提要：年輕人把ChatGPT當人生攻略器！OpenAI執行長Sam Altman：超過35歲完全跟不上） （背景補充：Sam Altman從新手老爸看AI未來：人形機器人要來了，你有準備嗎？） OpenAI 執行長 Sam Altman 昨（11）日發表一篇題為《溫和的奇點》（The Gentle Singularity）的文章，詳細闡述了他對人工智慧（AI）未來發展的願景。Altman 認為，人類已跨越技術「事件視界」，正邁向數位超級智能時代，且這場變革將以平穩而非突兀的方式展開。 在這篇部落格文章中，Altman 提出的幾個核心觀點包括： 當前 AI 系統已在多方面超越人類能力，數億人每天依賴其完成重要任務，顯示 AI 已深度融入日常生活。他預測，2025 年將出現能執行認知工作的 AI 代理，2026 年 AI 系統可能產生全新洞見，2027 年則有望見到實體機器人執行現實世界任務。 Altman 強調，2030 年代將迎來智能與能源的極大豐富，推動科學進步與生產力飛躍，生活品質將大幅提升。他指出，AI 加速自身研究的遞歸自我改進，以及自動化資料中心與機器人供應鏈的自我強化循環，將使智能成本趨近電力成本，從而實現「智能過於廉價而無需計量」的未來。 然而，他也承認挑戰，包括 AI 對齊問題（確保 AI 符合人類長期利益）與超級智能的公平分配。他建議，解決對齊問題後，應專注讓超級智能廉價且廣泛可用，避免過度集中於少數個人或公司手中，以促進社會適應與公平。 以下為 Sam Altman 部落格文章《The Gentle Singularity》全文。 溫和的奇點 雖然部分工作可能消失，但新機會與財富將湧現 我們已越過事件視界，起飛已經開始。人類即將打造出數位超級智能，至少到目前為止，這一切遠比想像中來得不那麼怪異。 街上尚未見到機器人四處行走，多數人也還沒整天與人工智慧（AI）對話。人們仍會因疾病去世，我們仍無法輕易前往太空，宇宙中還有許多我們不理解的事物。 然而，我們最近已建構出在許多方面比人類更聰明的系統，這些系統能大幅提升使用者的產出。最不可能的部分已成為過去；讓我們打造出像 GPT-4 和 o3 這樣系統的科學洞見來之不易，但將帶領我們走得很遠。 AI 將以多種方式為世界做出貢獻，但 AI 推動更快科學進步和提升生產力所帶來的品質提升將是巨大的；未來可能遠比現在美好得多。科學進步是整體進步的最大驅動力；想像我們能擁有更多，這是多麼令人興奮的事。 從某種重要意義上說，ChatGPT 已經比任何曾經存在的人類更強大。數億人每天依賴它，且用於越來越重要的任務；一個小小的全新功能就能帶來極大的正面影響；一個小小的偏差乘以數億人則可能造成巨大的負面影響。 2025 年見證了能執行真正認知工作的代理（agents）的到來；撰寫電腦程式碼將永遠改變。2026 年可能會出現能發現全新洞見的系統。2027 年或許會有能在現實世界中執行任務的機器人出現。 更多人將能創造軟體和藝術。但世界對這兩者的需求也更大，專家可能仍遠優於新手，只要他們擁抱新工具。總的來說，到 2030 年，一個人能完成的工作量遠超 2020 年，這將是個驚人的變化，許多人將會找到如何從中受益的方法。 在最重要的方面，2030 年代可能不會與現在有太大不同。人們仍會愛家人、表達創意、玩遊戲、在湖中游泳。 但在某些仍然非常重要的方面，2030 年代可能與以往任何時代截然不同。我們不知道智能能超越人類水平到什麼程度，但我們即將來探知答案。 在 2030 年代，智能與能源，創意以及實現創意的能力，將變得極為豐富。這兩者長久以來一直是人類進步的根本限制因素；有了充足的智能與能源（以及良好的治理），我們理論上可以擁有任何東西。 我們已經與驚人的數位智能共存，經過最初的震撼後，多數人已相當適應。很快地，我們從驚嘆 AI 能生成一段優美文字，到好奇它何時能寫出一部優美小說；從驚嘆它能做出救命的醫療診斷，到好奇它何時能開發出治療方法；從驚嘆它能創建小型電腦程式，到好奇它何時能創建一家全新公司。這就是奇點的進程：奇蹟變成日常，然後成為基本要求。 我們已聽到科學家表示，他們的生產力是 AI 出現前的兩到三倍。先進 AI 之所以引人注目，有許多原因，但最重要的大概是我們能用它來加速 AI 研究。我們可能發現新的計算基板、更好的演算法，甚至更多未知的東西。如果我們能在一年的時間內完成十年的研究，甚至一個月，那進步的速度顯然會截然不同。 從現在起，我們已建構的工具將幫助我們獲得更多科學洞見，並協助我們打造更好的 AI 系統。當然，這與 AI 系統完全自主更新其程式碼不同，但這仍是遞歸自我改進的雛形。 還有其他自我強化的循環正在發揮作用。經濟價值的創造已啟動了一個不斷擴張的基礎設施建設飛輪，用以運行這些日益強大的 AI 系統。而能製造其他機器人的機器人（以及某種程度上，能建造其他資料中心的資料中心）已不遠。 如果我們必須以傳統方式製造第一批一百萬個人形機器人，但隨後它們能運作整個供應鏈，挖掘和精煉礦物、駕駛卡車、營運工廠等，來製造更多機器人，進而建造更多晶片製造廠、資料中心等，那進步的速度顯然會截然不同。 隨著資料中心生產自動化，智能的成本最終應趨近於電力的成本。（人們常好奇 ChatGPT 一次查詢耗費多少能源；平均一次查詢使用約 0.34 瓦時，相當於烤箱運行一秒多一點，或高效燈泡運行幾分鐘。一次查詢還使用約 0.000085 加侖的水，大約是十五分之一茶匙。） 技術進步的速度將持續加速，而人類適應幾乎任何事物的能力也將持續存在。一些挑戰會很艱難，例如...