最近 Anthropic 的聯合創始人兼首席執行官 Dario Amodei 發布了一篇萬字長文，在推特上引爆了一場討論。
Dario 在這篇長文里深入剖析了人工智能的未來如何讓世界變得更美好，被不少人稱贊為“近來對人工智能發展最理性、最深刻的分析之一”。
在文章開頭，Dario Amodei 就特別說明了，雖然他一直在關注人工智能風險，但這并不意味著他是人工智能末日論的支持者，恰恰相反，他很看好人工智能的積極潛力。
“我關注風險的主要原因之一是，它們是我們與我所看到的基本積極的未來之間的唯一障礙。我認為大多數人都低估了人工智能的巨大優勢，就像大多數人低估了風險的嚴重程度一樣。”
最大化杠桿：強大的市場力量能夠保證人工智能發展帶來的益處。另一方面，風險不是預先定好的，我們的行動可以極大地改變風險發生的可能性。
避免讓人覺得是宣傳：很多公司大談特談人工智能的好處，很容易分散公眾注意力，讓人們忽略掉潛在的風險。并且，“花太多時間‘高談闊論’對你的靈魂有害。”
避免浮夸：很多公眾人物和科技公司也喜歡在宣傳人工智能時夸大自己的使命，就像先知帶領他們的人民走向救贖一樣。這種從宗教角度看待實用技術目標是很危險的。
避免“科幻”包袱：當前一些關于人工智能未來的討論過于“科幻化”，充滿了未被闡明的技術假設和文化包袱，“讀起來就像是狹隘亞文化的幻想，同時讓大多數人感到反感。”
換言之，“上帝的歸上帝，凱撒的歸凱撒。”對于AI帶來的經濟利益的“世俗”部分，應該交給市場來完成；而能力越大，責任也越大，作為對人工智能更了解的從業者，更應該向公眾提示當中的風險。
Dario 的這些想法也體現在了 Anthropic 對人工智能的透明度與可控性的執著追求。
這種堅持不無緣由：畢竟 Dario 從 OpenAI 離開正是因其對 OpenAI 在商業化上加速發展的理念存疑，Dario 更強調在構建強大的人工智能系統時需要更加嚴格的安全保障。
Dario 和其他幾位 OpenAI 前員工創業時，也將 Anthropic 定位為更注重安全的 OpenAI 替代方案，將透明和可控置于首位。
這份安全執念背后是 Dario 對人工智能潛力的深刻信念：人工智能能夠將人類未來 50-100 年取得的進展壓縮到 5-10 年。這也被他稱為“壓縮的 21 世紀”。
Dario 把未來 5-10 年內實現的人工智能定義為強大的人工智能，認為其能力將超越諾貝爾獎獲得者，能夠在多個領域（如數學、編程、寫作等）表現出色。
強大的人工智能將擁有多種人機交互接口（文本、音頻、視頻等），以較快的速度吸收信息和生成結果，自主完成復雜任務。它還可以控制物理工具和設備，甚至可以設計自己的機器人。
關于技術進步，部分人持有兩種極端觀點：一種認為技術會迅速引發“奇點”，立刻解決所有問題，一種認為技術進步已經趨于飽和，而且優于人類的智能進展有限。
因此，Dario 借用經濟學的觀點，提出了智能的邊際效應：當智能達到較高水平時，與智能互補的其他因素就會成為限制因素。他認為人們應該考慮在特定情況下其他生產要素如何與智能互補，并且可能成為限制因素。
首先是生物學領域，許多生物學家長期以來一直對人工智能和“大數據”在生物學中的價值持懷疑態度。但 Dario 認為人工智能并不只是分析數據的工具，它能執行、指導和改進生物學家所做的幾乎所有事情。
Dario 指出，生物學進步往往依賴于某個重大發現。如果我們能擁有更有才華更有創造力的研究人員，這些發現的出現頻率可以提高 10 倍或更多。
例如，人們在 80 年代就發現了 CRISPR 是細菌免疫系統中天然存在的組成部分，但花了 25 年才意識到它可以用于一般基因編輯。
而人工智能能夠把發現的速度提高 10 倍，但由于實驗不可能一次成功，相關的硬件設施的更新速度也有限，人工智能不可能憑空把發現的速度提升至 100 倍。
Dario 認為未來人工智能能夠幫助我們預防或治療大部分疾病，包括傳染病、癌癥、阿爾茨海默病等，還可能讓人們可以自由改變外貌、體重等，并極大地延長人類的壽命。
類似的加速效應也適用于神經科學、心理健康、經濟等領域，不過 Dario 警告，人工智能不會主動促進民主和和平，而是需要我們作為個體行動者去推動這一結果。
文章的最后，Dario 談到了一個經典的問題，“有了人工智能做一切，人類還有什么意義呢？人類將如何在經濟上生存？”
短期內，人工智能和人類之間會保持良性競爭的狀態，人工智能的優秀工作表現實際上會催生一系列新的人類工作，用以補充和放大人工智能所擅長的領域。
在討論文章內容的同時，也有很多網友提問 Opus 3.5 什么時候抬上來？大家等得花都謝了。
Dario 自己也說他的計劃是每三個月左右推進一次前沿工作。說不定月底我們就能用上最新的 Claude 3.5 Opus 了。
不過，Dario 構想的未來人工智能和 Claude 這樣的大模型只是形式上類似，可能基于不同的架構，也可能涉及多個交互模型，還可能以不同的方式進行訓練。
這不禁讓人猜測，Claude 3.5 Opus 有沒有可能會在多模態技術上發力，推出類似于 GPT-4 的圖像識別功能？遲遲沒有推出是不是因為有了類似 AGI 的重要改進？
上個世紀，我們成功消滅了天花等古老疾病，但仍有許多疾病等待被攻克。生物科學不僅能治愈疾病，還能延長健康壽命、增強我們對身體的掌控力，并解決一些看似無解的健康問題。
然而，人工智能在生物學中的應用面臨數據、現實世界速度和內在復雜性等挑戰。這些因素相互關聯，使得臨床試驗進展緩慢。
例如，細胞培養或化學反應可能需要數天到數周，而動物和人體實驗則可能耗費數月或數年。此外，數據質量常常不高，因果關系模糊，令科學家們難以理解生物現象。
生物過程的復雜性使得精確干預變得困難。想象一下人類新陳代謝的生物化學圖表，你就會明白這其中的挑戰。再加上臨床試驗中官僚和監管的要求，進展往往受到拖延。
因此，許多生物學家對人工智能和大數據的有效性持懷疑態度。盡管過去 30 年取得了一些進展，但真正的突破卻屈指可數。
例如，CRISPR 早在 80 年代就被發現，但花費了 25 年才得到應用。這表明科學界對有前景方向的支持不足。
我認為，對人工智能的悲觀看法是一種誤解。我想重申：我討論的人工智能是用于執行、指導和改進生物學家幾乎所有工作的。
生物學的進步往往源于少數重大突破，這些突破通常與新技術和測量工具相關。每年都會有約一項重大突破，這些突破推動了 50% 以上的生物學進展，使我們對生物過程的理解和控制得以提升。
我相信，強大的人工智能將大幅加速這些發現的速度，讓我們在 5 到 10 年內實現 50 到 100 年的生物進步。雖然實驗時間和序列依賴性等因素仍然存在，但大規模的并行研究可能會推動這一進程。盡管臨床試驗面臨官僚主義，但嚴格的藥物評估也促使進展加快。例如，新冠疫苗的批準速度就遠快于傳統藥物。
最終，生物醫學的成功部署記錄相對較強。盡管藥物開發過程復雜，但一旦成功，它們通常會被有效利用，使生物醫學在技術領域具有獨特優勢。
綜上所述，我的基本預測是，人工智能支持的生物學和醫學將使我們能夠將人類生物學家在未來 50-100 年取得的進展壓縮到 5-10 年。我將其稱為“壓縮的 21 世紀”。
雖然預測強大的人工智能能做什么有難度，但我們可以參考 20 世紀的成就，來想象未來可能的進展。
對抗傳染病：在壓縮的21世紀，我們有望有效預防和治療幾乎所有 17 種自然傳染病。借助 mRNA 疫苗等技術，我們可能能根除傳染病，當然，這也取決于貧困和不平等的問題。
消除癌癥：隨著癌癥死亡率每年下降 2%，我們可能在本世紀消滅大多數癌癥。人工智能將幫助我們開發個性化的治療方案，預計癌癥的發病率和死亡率能大幅降低。
預防遺傳病：通過更好的胚胎篩選和 CRISPR 技術，我們將能夠預防和治療大多數遺傳病，但對全身疾病的干預可能仍具挑戰。
阿爾茨海默病的突破：雖然該病因復雜，但通過人工智能，我們有望找到更好的治療方法，甚至預防這種疾病。
生物自由的實現：個人將能更好地控制自己的生物特征，如體重和生育，這將使每個人都有機會選擇自己的生活方式。
人類壽命的延長：如果我們能找到減緩衰老的有效方法，預期壽命可能從75歲增加到150歲。這并非不可能，已有藥物能顯著延長某些動物的壽命。
如果這些預測在未來 7 到 12 年內實現，世界將會大變樣。這將是人類的一次巨大勝利，消除長期以來困擾我們的疾病。未來的孩子們可能再也聽不到關于癌癥或阿爾茨海默病的故事，而是享有更高的生物自由和更長的壽命。
這些變化將對我們的社會產生深遠影響，特別是在社會保障和醫療保健方面。若新技術得以廣泛應用，未來的挑戰可能會轉向如何確保人人能享有這些成果。雖然生物學可能是人工智能成功加速的唯一領域，但即使如此，世界也會因此發生翻天覆地的變化。
其實，神經科學是生物學的重要部分，心理健康對我們的生活影響更直接。數億人因成癮、抑郁等心理問題生活質量受到嚴重影響，還有數十億人在面對輕度心理挑戰。
之前提到的生物學框架同樣適用于神經科學。這個領域的進展往往依賴一些關鍵發現，比如光遺傳學和 CLARITY 技術。人工智能有潛力加速這些進展，因此“5-10 年實現 100 年進展”的觀點也適用神經科學。20 世紀，神經科學取得了顯著進展，例如 20 世紀 50 年代人們明白了神經元如何放電，因此期待人工智能推動神經科學迅速發展是合理的。
可解釋性就是一個重要例子，雖然生物神經元和人工神經元不同，但它們在“如何協同計算”的問題上相似。這種可解釋性最近在小鼠大腦中得到了驗證。
在人工神經網絡上實驗比在真實神經網絡上簡單，因此可解釋性成為理解神經科學的重要工具。強大的人工智能可能比人類更有效地開發和應用這些工具。
同時，人工智能教給我們的訓練方法可能會引發神經科學的革命。許多人關注的學習問題與我認為的不一樣。簡單的目標函數和大量數據可以驅動復雜行為，使我們更關注目標，而忽視細節。盡管我沒有密切關注這一領域，但我覺得計算神經科學家還沒有完全吸取這些教訓。
我認為神經科學家應結合這些基本見解與人腦的獨特性，尋找神經科學中的關鍵難題。盡管某些問題與人工智能有關，人工智能神經科學家可能更有效地利用這一思路，加速研究進展。
傳統生物學：人工智能將加速藥物研發，這些藥物能調節神經遞質、影響情緒和認知。它還可能加快對精神疾病遺傳基礎的研究。
細致的神經測量與干預：使用光遺傳學和神經探針等技術，我們能測量和干預單個神經元的活動，從而改善神經科學的理解。
先進的計算神經科學：現代人工智能的見解可以應用于復雜疾病的研究，幫助揭示精神病和情緒障礙的根本原因。
行為干預：盡管我在討論中沒有深入，但精神病學和心理學已有很多行為干預方法，人工智能有潛力加速這些方法的發展，并幫助患者堅持治療。
我猜測，即使不考慮人工智能，這四個途徑的共同作用可能在未來 100 年內治愈或預防大多數精神疾病，可能會合理地完成在人工智能加速的 5-10 年內。具體來說，我認為：
治愈大多數精神疾病：例如，創傷后應激障礙（PTSD）、抑郁癥和成癮等疾病可能通過這四個方向得到有效治療。
有效的基因預防：精神疾病具有遺傳性，人工智能可能幫助我們通過基因篩查預防疾病，盡管這涉及復雜的倫理問題。
提升人類的體驗：許多人渴望更深的創造力、同情心和滿足感，人工智能有潛力改善我們的認知和情感能力。
雖然“思維上傳”的概念常常被提及，但我認為這一想法面臨巨大的技術和社會挑戰，短期內難以實現。
總之，人工智能將極大改善精神健康，提升我們的認知和情感能力，為人類創造一個更加美好和人性化的未來。這不僅會影響個體，還可能改善社會中許多其他看似無關的議題。
前兩節討論了新技術在治愈疾病和提升人類生活質量方面的潛力，但一個顯而易見的問題是：“每個人都能享受到這些技術嗎？”
開發治療疾病的方法是一個方面，但要在全球范圍內根除這些疾病則是另一個挑戰。目前，許多健康干預措施尚未在全球普及，技術改進也同樣如此。
許多地區的生活水平依然貧困。例如，撒哈拉以南非洲的人均 GDP 約為 2，000 美元，而美國則達到 75，000 美元。
如果人工智能只幫助發達國家，而對發展中國家貢獻甚微，那將是一個嚴重的道德失敗。因此，理想情況下，強大的人工智能應當幫助發展中國家追趕上發達國家的步伐。
我對人工智能能否有效解決不平等問題的信心沒有對其發明基礎技術的信心強。這是因為經濟問題往往涉及許多復雜的人類因素，而技術創新則能更輕易地克服復雜性和數據不足的障礙。
即使在理論上，人工智能也無法解決“社會主義計算問題”，我對政府將經濟政策托付于這樣的實體持懷疑態度。
在發展中國家，腐敗現象的普遍存在使情況更加復雜。腐敗造成惡性循環，貧困加劇腐敗，而腐敗又導致更多貧困。因此，人工智能驅動的經濟發展計劃需要考慮到這些人類面臨的挑戰。
盡管如此，我仍然保持樂觀。歷史上已經有國家成功根除疾病，很多地方也從貧窮走向富裕，這表明這些決策的高智力回報。人工智能或許能夠比現有做法更有效地解決這些問題。
最重要的是，我們必須努力去嘗試。人工智能公司和發達國家的政策制定者需要確保發展中國家能夠參與其中，這不僅是道德責任，也是我們集體努力的目標。雖然成功沒有保證，但我們的行動可以帶來改變。
許多疾病已經通過集體努力得以消滅，比如天花和脊髓灰質炎的病例已降至極低水平。人工智能可以在這一過程中發揮重要作用，它能夠更有效地進行疾病模型分析和優化物流配送。
希望人工智能能幫助提升健康慈善機構的效率，讓更多人受益。新型疫苗的研發，比如針對瘧疾的單針注射疫苗，正在簡化疫苗分發的復雜性。
此外，通過釋放經過基因改造的蚊子來消滅病原體的可能性也在增加。總體而言，我預計未來 5 到 10 年，發展中國家的健康狀況將顯著改善，甚至有可能超過一些發達國家。
上世紀末，東亞一些國家實現了年均 10% 的 GDP 增長，成功彌補了與發達國家的差距。未來，人工智能或能幫助這些國家創造類似的經濟奇跡。
通過實施有效的經濟政策和發展關鍵產業，發展中國家的政府可以在尊重自決的前提下，吸收人工智能帶來的增長紅利。
此外，人工智能在非健康領域的應用，比如更高效的能源和運輸技術，也將為發展中國家帶來新的機遇。盡管面臨挑戰，經濟增長率達到 20% 是一個可實現的目標。
在農業領域，先進的作物技術，如更高效的肥料和農藥，將幫助提高作物產量。基因工程的應用可以進一步推動這一進程，為發展中國家帶來第二次綠色革命，減輕饑餓問題。
發展中國家更易受到氣候變化的影響，因此，人工智能在應對氣候變化方面的技術進步，可能會幫助這些國家找到減少碳排放的方法，比如清潔能源和實驗室培養的肉類。這不僅能緩解環境問題，還能助力經濟發展。
隨著先進健康技術的出現，不平等現象可能會加劇，但我對發達國家的情況持樂觀態度。市場機制通常會降低高成本技術的門檻，加上政治機構的響應能力，能更好地推動技術的普及。
發達國家和發展中國家都擔心的一個問題是人們選擇退出人工智能帶來的福利，最終可能會出現糟糕的反饋循環。但歷史表明，盡管存在反對聲音，大多數人最終會接受有益的技術。因此，我們需要努力提高公眾的科學素養，讓他們理解人工智能的價值。
總的來說，我對人工智能能夠為發展中國家帶來生物學進步和經濟增長持樂觀態度。盡管面臨挑戰，我們仍需共同努力，推動這一進程，以便讓每個人都能享受到技術發展的紅利。
假設一切順利：疾病、貧困和不平等顯著減少，人類生活水平大幅提升。然而，這并不意味著痛苦消失，人類仍然面臨彼此的威脅。
盡管技術和經濟發展有助于促進民主與和平，但這種進步并不穩固，歷史上經常出現倒退。例如，20世紀初人們認為戰爭已成過去，隨后卻經歷了兩次世界大戰。
二十年前，美國政策制定者認為與中國的自由貿易會推動中國自由化，但結果卻是我們面臨一個復興的獨裁集團的挑戰。
遺憾的是，我并不相信人工智能會自然而然地促進民主和和平，盡管我認為它在健康和減貧方面有積極作用。人類沖突往往對抗性強，人工智能可能同時服務于“好人”和“壞人”。尤其是，人工智能可能增強宣傳和監視的能力，這些都是獨裁者的工具。
因此，作為個體，我們必須努力推動人工智能朝著促進民主和人權的方向發展。這比關注國際不平等更為緊迫：自由民主的勝利并非理所當然，反而可能需要巨大的努力和犧牲。
人工智能推動的威權主義令人憂慮，因此，民主國家需要制定條件，引導強大的人工智能進入世界，以避免被威權主義壓倒并保護人權。
實現這一目標的最佳方式可能是“協約戰略”，即民主國家聯盟通過保護供應鏈、加快發展等手段增強實力。這種聯盟可利用人工智能獲得軍事優勢，并將其好處分配給更多國家，以換取對其民主戰略的支持。目標是孤立對手，使其在談判中處于劣勢，從而放棄與民主國家的競爭。
如果能夠做到這一點，民主國家將在全球舞臺上處于領先地位，能夠抵御獨裁國家的破壞，并可能將人工智能的優勢轉化為持久力量。
這可能帶來“永恒的 1991 年”，實現福山的夢想。但這需要私營人工智能公司與民主政府緊密合作。
即使一切順利，國家內部的民主與專制斗爭依然存在。雖然難以預測未來，我對人工智能促進民主持樂觀態度。強大的人工智能環境下，民主政府可利用優勢贏得信息戰，反制獨裁政權。通過全球信息渠道，民主國家能創造自由信息環境，限制獨裁政權對信息的控制。
心理健康、福祉和教育的改善可能推動民主，因為這三者與對獨裁的支持呈負相關。滿足其他需求后，人們更希望自我表達，而民主正是自我表達的一種形式。相反，威權主義則因恐懼和仇恨而繁榮。
此外，信息流通有助于削弱獨裁統治。未經審查的人工智能可能為個人提供工具，幫助推翻。專制政府往往通過剝奪人們的常識而生存，導致他們無法意識到真實問題。
我們還應考慮如何利用人工智能讓民主國家更好，而不僅僅是防止獨裁。盡管法律承諾人人平等，實踐中仍存在不公。人工智能能否提高決策公正性？雖然人們擔心它加劇歧視，但也應關注其增強民主的潛力。
法律的初衷是公正，但通常由有偏見的人來解釋。人工智能可能是解決這一難題的鑰匙，因為它能以可重復的方式進行模糊判斷。我建議人工智能作為決策輔助工具，與人類協作，而非替代法官。這樣的系統需透明，允許人們理解其訓練過程并評估可能的偏見。
此外，人工智能可匯總公眾意見，幫助尋找共識，解決沖突。知情的公民能更好地強化民主制度。在政府服務方面，人工智能能幫助人們獲取健康福利和社會服務，以通俗易懂的方式理解法規，增強對民主治理的尊重。
盡管這些想法可能顯得模糊，但我們應追求人工智能作為自由、個人權利和法律平等的保障者的愿景。在21世紀，人工智能支持的政體可以成為個人自由的有力保護者，成為全球向往的政府形式的燈塔。
即使我們在減少疾病、貧困和不平等方面取得了進展，自由民主成為主流形式，現有的民主國家也變得更好，但仍然面臨一個重要問題：在人工智能如此先進的情況下，人類的存在意義何在？他們將如何生存？
這個問題比其他問題更復雜，主要因為它涉及社會組織的宏觀問題，通常只能隨著時間的推移自然而然地解決。歷史上的狩獵采集社會可能會覺得，沒有狩獵和相關儀式的生活毫無意義，而對我們如今的社會缺乏理解。
盡管如此，我仍想談談這個問題。認為人工智能做得更好就意味著人類的任務毫無意義，未必正確。大多數人并不是在任何領域都是最優秀的，但這并不妨礙他們找到價值。
意義更多來自人際關系，而不是單純的經濟勞動。在后人工智能的世界中，追求復雜任務的成就感和競爭感依然存在。
然而，關于經濟的問題更棘手。我們可能面臨的挑戰是，未來大多數人可能無法為高度依賴人工智能的經濟做出有意義的貢獻。
盡管短期內，比較優勢可能會幫助人類保持相關性并提高生產力，但長期來看，人工智能的廣泛應用可能會改變這一格局。
歷史上，文明成功地經歷了多次經濟轉型，例如從狩獵采集到農業、再到工業。未來我們可能需要新的解決方案，這些解決方案今天尚不可預見，可能包括普遍基本收入等方法。
面對這些挑戰，我們需要探索、試驗并努力避免潛在的剝削和反烏托邦的局面。未來將需要更多的討論和思考，才能找到合適的出路。
在前面的討論中，我描繪了一個美好的未來：如果人工智能發展順利，世界將比現在更美好。然而，要實現這個愿景，需要很多勇敢的人共同努力。每個人，包括人工智能公司，都要積極參與，以防范風險、分享收益。
如果在接下來的五到十年內，我們能戰勝大多數疾病、推動人類自由和民主，幫助數十億人擺脫貧困，那么每個人都會為這種變化感到震驚。我們不僅會驚嘆于新技術帶來的好處，更會為長久以來的理想逐步實現而感動。
在寫作過程中，我意識到這個愿景相當激進，可能讓許多人覺得荒謬，甚至有人不同意其中的價值觀和政治選擇。
在 Iain M. Banks 的《文化》系列中，主角來自一個與我描述的原則類似的社會。他們在一個專制帝國中，通過復雜的戰斗游戲決定領導權。主角以文化的價值觀戰勝皇帝，表明即使在競爭激烈的環境中，合作與同情依然是勝利的關鍵。
我相信，文化的價值觀是一種成功的策略。這些價值觀源自人們對公平、合作和自主權的共識，讓我們能更容易形成團結的力量。大家都認同兒童不應因疾病而死，每個孩子都應該平等享有權利。在這個基礎上，我們可以攜手運用智慧實現這一目標。
人們普遍同意，懲罰那些不必要攻擊或傷害他人的行為是合理的，并且這種一致性應該體現在法律和制度中。同時，個體對自己生活和選擇的自主權也是顯而易見的。
最終，這些直覺的邏輯推導將引領我們走向法治、民主和啟蒙價值觀。人工智能的出現為我們實現這些目標提供了機會，清晰了未來的方向。
