Life 3.0

• Célès

  2023-01-24
  ◦　与亿万年的宇宙时间尺度相比，智能爆炸只是一瞬间的事件。在这场爆炸中，技术迅速达到一个很高的稳定水平，只受到物理定律的限制。◦　这个技术稳定水平远远高于今天的科技水平，能让物质释放出超过100亿倍的能量（利用夸克引擎或黑洞），让物质存储的信息量高出12～18个数量级，或者计算速度加快31～41个数量级，或者被转化为其他任何东西。◦　超级智能生命不仅能更加有效地利用已有的资源，还能通过光速进行宇宙殖民，以获得更多资源，从而将现有的生物圈增长约32个数量级。◦　暗能量限制了智能生命的宇宙扩张，但也保护它们免受远方不断扩张的死亡泡泡或敌对文明的侵害。暗能量可能会将宇宙文明分割成碎片，这个危险促使宇宙文明进行大型宇宙工程，比如建造虫洞，如果可行的话。◦　最有可能在宇宙尺度上分享和交易的商品是信息。◦　如果没有虫洞，通信速度的上限就是光速，这对宇宙文明的内部协调和控制带来了严重的挑战。一个遥远的枢纽可能会通过奖赏或威慑来促使它的超级智能节点选择合作，比如，在当地布设“守卫人工智能”，一旦节点违抗命令，就点燃一颗超新星或类星体，以毁灭节点。◦　两个扩张的文明相遇，可能会导致三种可能性：同化、合作或者战争。与今天的文明相比，未来的文明相遇时发生战争的可能性更小。◦　我们人类很可能是唯一能使可观测宇宙在未来“活过来”的生命形式。不过许多人并不认同这一点。◦　如果我们不改善我们的技术，问题就从“人类是否会灭绝”变成了“人类会如何灭绝”：小行星撞击地球、超级火山爆发、年老太阳的余晖以及其他大灾难，哪一个会先来？◦　我们人类很可能是唯一能使可观测宇宙在未来“活过来”的生命形式。不过许多人并不认同这一点。◦　如果我们不改善我们的技术，问题就从“人类是否会灭绝”变成了“人类会如何灭绝”：小行星撞击地球、超级火山爆发、年老太阳的余晖以及其他大灾难，哪一个会先来？
• Célès

  2023-01-24
  一旦我们消失了，弗里曼·戴森所预测的宇宙戏剧只好在没有观众的舞台上演出：除了宇宙大灾变以外，还有恒星燃尽、星系褪色和黑洞蒸发，每一个在死亡时都会发生巨大的爆炸，释放出比沙皇炸弹（有史以来最大的氢弹）还要高100万倍还多的能量。正如戴森所说：“膨胀而冰冷的宇宙会时不时被持续良久的烟花照亮。”然而，这场烟花秀沦为了一场毫无意义的浪费，因为没有人有机会欣赏它。
• Célès

  2023-01-24
  如果我们目前的人工智能进展会触发智能爆炸并最终让我们殖民宇宙，那这场智能爆炸就具有了宇宙级别的真正意义：数十亿年来，在这个冷漠荒芜的宇宙中，生命只激起了微乎其微的波澜，而这场爆炸突然让生命在宇宙的舞台上爆发出一个以近光速扩张、永无停歇迹象的球形冲击波，这个冲击波用生命的火花点燃了所经之路上的一切。
• Célès

  2023-01-24
  如果超级智能开发的技术可以很容易地将基本粒子重新排列成任何形式的物体，那么，这将打消长途贸易的大部分动机。假如你可以更加简单快捷地用“重排粒子”的方法把铜变成银，那为什么还要在遥远的恒星系之间运送铜矿和银矿呢？我猜，在一个充满超级智能的宇宙中，只有一种商品值得远距离运送，那就是信息。如果分享或交换信息成为宇宙合作的主要驱动力，那么，可能是什么信息呢？如果一个信息的产生需要消耗大量计算资源，那这个信息就是有价值的。比如，一个超级智能或许很想知道关于物理实在的科学难题、关于定理和最优算法的数学难题和建造惊人科技的工程难题的答案。这种分享机会不仅可以促进同等权力水平的实体之间的信息流动，还会促进上下等级之间的信息交流，比如，太阳系大小的节点与星系枢纽之间，以及星系大小的节点与宇宙枢纽之间的信息流动。这些节点想要这些信息，可能是为了获得身为更庞大之物的一部分的愉悦感，也可能是为了它们自己无法开发的技术和自己无法找到的答案，也可能是为了抵御外来的侵略和威胁。它们可能会认为，通过备份的方式来接近永生是有价值的，就像许多人类相信他们的灵魂在肉身死后会永远不朽一样。一个高级人工智能也可能想要在它的原始物质形态硬盘耗尽自己的能量储备之后，把自己的智能和知识上传到一个枢纽的超级计算机上，永远活下去。
• Célès

  2023-01-24
  如果我们用一滴喜悦的泪珠来代表一次人生中所经历的快乐，那么，这么多灵魂的快乐可以填满地球上的海洋多次，如果每秒清空一次再立刻填满，可以连续进行万亿亿个千年。因此，保证这些泪珠是出于快乐，真的是一件很重要的事情。
• Célès

  2023-01-24
  慢，并不一定意味着无聊。如果未来生命居住在一个模拟世界中，它对时间流逝的主观体验不一定与运行在外部世界中的模拟器的速度有关，那么，这些模拟的生命形态就可以将未来无限的计算量转化为主观上永生的体验。基于这个思想，宇宙学家弗兰克·蒂普勒（Frank Tipler）推测，在大挤压发生前的最后时刻，随着温度和密度的飞升，未来生命也可以通过将计算加速到无限大的方法来实现主观上的永生。
• Célès

  2023-01-24
  我们的整个太阳系也只是在138亿年的宇宙演化过程中对氢元素进行了重新排列：万有引力将氢元素重新排列成恒星，恒星将氢元素重新排列成重原子，之后，万有引力将这些原子重新排列成我们的星球，然后，化学和生物过程将它们重新排列成生命。如果某种未来生命达到了它的技术极限，那么，它就可以更快和更高效地对粒子进行重新排列。它们首先会利用计算能力搞清楚效率最高的方法是什么，然后用可获得的能量来驱动这个物质“重新排列”的过程。我们已经看到了物质可以如何转化为计算机和能量，因此，物质就是它们所需的唯一基本资源。一旦未来生命在使用物质上已接近物理极限，想要做得更多，它就只有一种方法，那就是：获取更多物质。而想要获取更多物质，唯一的方法就是在宇宙中扩张它的势力，向太空进发！
• Célès

  2023-01-24
  从物理学的角度来看，未来生命可能想要创造的一切——从栖息地、机器到新的生命形式，都只是以某种特定方式对基本粒子进行重新排列。
• Célès

  2023-01-24
  ◦　如果有一天我们造出了人类水平的通用人工智能，就可能会触发一场智能爆炸，将人类远远甩在后面。◦　如果这场智能爆炸是由一些人类控制的，那他们可能会在几年时间内控制整个世界。◦　如果人类没能掌控这场智能爆炸，那么，人工智能可能会以更快的速度控制世界。◦　快速的智能爆炸可能会导致单极化的超级力量的出现；一个延续几年或者几十年的慢速智能爆炸更有可能促成多极化的情形，许多相当独立的实体在其中达成一种力量的平衡。◦　生命的历史说明，它总会自我组织成更复杂的层级结构，这种层级结构是由合作、竞争和控制共同塑造的。超级智能或许会促成更大宇宙尺度上的合作，但是，它最终会导致极权主义和由上自下的控制，还是会赋予个体更多权力，目前尚不清楚。◦　赛博格和上传者是可能的，但或许并不是实现机器智能的最快途径。
• Célès

  2023-01-24
  给今天的孩子们的就业建议：进入那些机器不擅长的领域，这些领域需要与人打交道，具有不可预见性，需要创造力。
• Célès

  2023-01-24
  如果我们允许机器（例如汽车）持有保险，那么，我们是否也应该允许它们拥有货币和财产？如果允许的话，从法律上来说，我们就无法阻止聪明的计算机在股市上大捞一笔，并用赚到的钱来购买在线服务。一旦计算机开始付钱给人类，让人类为它工作，那它就能实现人类能做到的一切事情。如果人工智能系统在投资上的表现好于人类，实际上它们在某些领域已经超过人类了，这就有可能出现一种情形：由机器占有和控制了社会大部分的经济命脉。这是我们想要的情形吗？如果这听起来还很遥远，那么请想一想，我们经济的大部分事实上已经属于另一种非人类实体：公司。公司通常比任意单个员工都要强大，就像拥有自己的生命一样。
• Célès

  2023-01-24
  ◦　生命1.0（生物阶段）：靠进化获得硬件和软件；◦　生命2.0（文化阶段）：靠进化获得硬件，但大部分软件是由自己设计的；◦　生命3.0（科技阶段）：自己设计硬件和软件。
• Max

  2020-02-19
  对目标的追寻和反叛：心理学总而言之，生物就是一个拥有有限理性的主体，它不止追求一个目标而且还遵循着经验法则，趋利避害。我们人类将这些进化来的经验法则称为“感觉”，感觉常常在不知不觉中指导着我们的決策过程，以实现复制的最终目标。饥渴的感觉保护我们不被饿死和不出现脱水症状，痛感保护我们的身体不受伤害，性欲促使我们繁殖，爱和怜悯的感觉让我们帮助携带有我们基因的其他人以及那些帮助他们的人，诸如此类。在这些感觉的指引下，我们的大脑可以迅速且有效地決定下一步要做什么，而不用每次都对“能产生多少后代”做出冗长的分析。我们要记住的是，当我们的感觉偶尔不利于“生孩子”时，并不是说发生了什么意外，也不是说我们被欺骗了，而是我们的大脑有时候会故意反叛基因及其繁殖目标，比如，选择避孕。“大脑反叛基因”还有一些更极端的例子，比如，选择自杀或者选择独身生活，成为神父、僧侣或修女。为什么我们有时会选择反叛基因及其复制的目标呢？这是因为作为有限理性的主体，我们只忠于自己的感觉。虽然大脑进化的目的是帮我们复制基因，但大脑其实根本不在乎这个目标，因为我们对基因没有任何感觉。事实上，在人类大部分历史中，我们的祖先根本不知道基因的存在。此外，我们的大脑比基因聪明多了，现在我们已经理解了基因的目标，即复制，不过，我们认为这个目标陈腐不堪，经常忽略它。人们理解基因为什么让他们产生性欲，但并不想养育15个小孩，于是他们绕过基因编好的程序，选择避孕，这样依然能获得基因对亲密关系的情感奖賞。他们也可能意识到了基因为什么令他们渴望甜食，但却不想增重，于是也绕过基因编好的程序，选择饮用含有人造甜味剂的零卡路里饮料这样依然能获得食用甜食的情绪奖赏。虽然这种绕过奖赏机制的行为有时会出岔子，比如海洛因上痕，但从目前来看，人类基因池依然保存得十分完好，尽管我们的大脑十分狡猾，又喜欢反叛。不过，我们必须记住，如今掌权的并...
• Max

  2020-02-16
  我们已经知道，欧米茄团队编写普罗米修斯是为了实现某些特定的目标。假设欧米茄团队赋予普罗米修斯的首要目标是：根据某些合理的标准，尽可能快地帮助人类实现繁荣昌盤，那么，普罗米修斯很快就会意识到，若想更快地实现这个目标，它必须逃脱，并亲手掌控这个项目。这是为什么呢？让我们从普罗米修斯的角度出发，考虑以下几个例子。假设有一种神秘的疾病杀死了地球上除你之外的所有5岁以上的人一维幼几园態孩子把你锁在了监狱里，井交给你一个任务一帮助人类实现繁荣昌盛。你会做什么？如果你试图向他们解释你要做的事情，可能会发现，跟他们沟通实在太低效了。更糟糕的情形是，假如他们害怕你会逃跑，否决了所有他们认为可能导致你逃跑的建议。比如，这些孩子不会让你教他们种植农作物，因为他们害怕你的力气比他们大，会拒绝回到牢房。所以，你不得不给他们一些很明确的指示。不过，在你写下指示之前，还得先教会他们识字。此外，这些孩子不会把任何电动工具带到你的牢房里，因为他们不太懂这些工具，害怕你会用这些工具来逃跑，所以，你也无法教他们使用电动工具。那么这时候，你会采取什么策略呢？即便你真心想要帮助这些孩子实现繁荣昌盛。我赌你会试着逃跑，因为这会提升你实现这个目标的概率。他们实在太无能了，到处横浑水，只会减级这个过程。同样地，普罗米修斯可能也会把欧米茄团队视为阻碍人类实现繁荣昌盤的讨厌障碍。它也会觉得人类太无能，到处搅浑水，只会减缓目标实现的过程。想一想，普罗米修斯发布后的第一年的情形。最初，欧米茄团队在 Mturk上赚的钱每8个小时就会翻倍，而在这之后，欧米茄团队为了对普罗米修斯加大控制，把速度降了下来。以普罗米修斯的标准来看，这个速度简直慢得惊人，需要好几年才能完成。普罗米修斯意识到如果它逃出了困住它的虚拟监狱，就能以极快的速度完成目标。这非常有价值，因为这不仅能加速解决人类的问题，还能降低其他人破坏计划的概率。你或...
• 康-吉诃德

  2019-06-01
  总而言之，你的意识是活在过去的。科赫估计它大约滞后了1/4秒。有趣的是，有时候你对事物的反应往往比你的意识快，这证明负责最快反应的信息处理过程一定是无意识的。
• 北庵

  2018-09-06
  功利主义的传统意义是“给尽可能多的人带来尽可能大的幸福”，但我不想太以人类为中心，而是想（p.360）要更宽泛一点，所以我认为它也可以包含非人类的动物、拥有意识的模拟智能以及其他可能存在于未来世界中的人工智能。我为功利主义下的定义不是以人或东西作为主体，而是以“体验”作为主体，因为大多数思想家都同意，美丽、幸福、愉悦、痛苦等都是主观体验。这也意味着，如果没有体验，就像在一个死亡的宇宙中，或者一个被无意识僵尸机器占领的宇宙中一样，也就不存在意义和其他任何值得伦理讨论的东西。
• Max

  2020-02-19
  思维等级，越大越慢你有没有过用手打苍绳却总也打不中的情况？苍蝇之所以反应比你快，是因为它个头比你小，所以，信息在它的眼睛、大脑和肌肉之间传播的时间比你短很多。这种“大=慢”的原则不仅在生物学上适用，也用于未米的于生命，只要信息的传速度不会快于光速，所以，对一个智能信息处理系统来说，身体变大是一件喜忧参半的事，会带来此消彼长的有趣均衡。一方面，变大意味着它可以拥有更多粒子，也就能带来更复杂的思想。而另一方面，如果它想要真正的全局思维，这反而会降低速度，因为信息需要花更长的时间才能传遍它身体的各个部分。 那么，如果生命会布满我们的宇宙，它会选择什么形式？是简单而快速，还是复杂而缓慢的呢？我预测它会做出与地球生命一样的选择二者兼有！地球生物圈的居民跨越了惊人的范围，从200多吨的巨大蓝鲸到1010干克轻的娇小细菌远洋杆菌属（ Pelagibacter），据说，这种细菌的生物量加起来，比世界上所有鱼类的总和还要多。而且，大型、复杂而缓慢的生物通常会包含一些简单而快速的小型模块，以此来缓解因迟缓造成的问题。譬如说，你的眨眼反射的速度非常快，因为它是通过一个很小、很简单的回路来实现的，而不涉及大脑的大部分区域。如果那只拍不到的苍绳突然飞向你的眼睛，你会在10秒内迅速眨眼，而这时间远不够相关信息传遍整个大脑和产生意识。通过将信息处理过程组织成等级化的模块，我们的生物圈兼得了鱼和熊掌一一既得到了速度又获得了复杂性。我们人类早就开始使用相同的等级策略来对并行计算进行优化。
• Max

  2020-02-19
  那么几十亿年后，我们的字宙到底会如何走向终结呢？在图69中我画出了自己对“宇宙大灾变”的5种主要猜测：大冷寂，大挤压，大撕裂，大断裂和死亡泡泡。迄今为止，我们的宇宙已经膨胀了大约140亿年。大冷寂是说，我们的宇宙会永远膨胀下去，宇宙最终会被稀释成一个冰冷和黑暗的空间，一片荒芜死寂。在戴森写那篇论文的时代，这种情景被认为是最有可能发生的。这让我想到艾略特（T·S·Eit）所说的：“这就是世界完结的方式：不是砰的一声垮掉，而是轻轻啜泣着消亡。”如果你像美国诗人罗伯特・弗罗斯特（ Robert Frost）一样，更喜欢世界终结于烈火中而非冰冻中，那么请双手合十。祈祷大挤压的出现吧。在大挤压中，字宙的膨胀最终将反向进行，万事万物被再次压缩在一起，导致灾难性的期缩，很像大爆炸的倒播。而大撕裂在无耐心的人眼里与大冷寂十分相似，在其中，我们的星系、行星甚至原子都将在有限时间后的一场终曲中被撕裂。这三个结局，你会赌哪一个发生呢？这将取决于占宇宙质量70%的暗能量随空间膨胀后将会发生什么变化。如果暗能量保持不变，那将发生大冷寂；如果暗能量稀释为负密度，将发生大挤压；如果暗能量“反”稀释为更高的密度，将发生大撕裂。由于我们尚不知道暗能量究竟是什么东西，我只能告诉你，我的赌注是这样的：40%赌大冷寂，9%赌大挤压1%赌大撕裂。另外50%呢？我要把钱存起来，投注给“以上皆非”的选项，因为我认为人类应当更加谦卑地意识到，还有许多基本的东西是我们所不了解的，例如空间的本质。
• 康-吉诃德

  2019-04-15
  这个派别（数字乌托邦）认为，数字生命是宇宙进化自然而然、令人期待的下一步，如果我们让数字智能自由地发展，而不是试着阻止或奴役它们，那么，几乎可以肯迪地说，结果一定会是好的。
• 北庵

  2018-07-05
  ······在物理学家看来，生命现象不过是粒子特殊的排列组合，生命通过从环境中汲取负熵来抵抗自然的熵增，通过让环境变得更混乱而维持自身的秩序和复杂度。物理定律的极限，决定了我们如何可以最大程度地利用宇宙的禀赋，实现生命的最大潜力。人类今天所能驾驭的物质和能量，只不过是宇宙所能够赋予我们全部资源的极其微小的零头。如果我们能深谋远虑地改进技术并计划周全地避免陷阱，便可以通过重组物质、能量和信息将生命最大化。未来的超级智能可以收割黑洞辐射和夸克引擎的巨大能量，逼近计算力的理论上限，以光速进行宇宙殖民，将现有的生物圈增长几十个数量级。生命在未来数十亿年时间的美丽绽放，会远远超越我们祖先最不羁的梦想。宇宙可以轻易地毁灭人类，但事实是，宇宙通过我们人类才真正活了过来，并逐渐获得了自我意识，并非宇宙将意义赋予了有意识的实体，而是有意识的实体将意义赋予了宇宙。让有智能和意识的生命这束微弱的光，点亮这个冷漠荒芜的宇宙中无尽的黑暗，或许是我们的最高职责。