智人之上

• Zane

  2024-09-20
  一开始，这些新的机制如蛛网般脆弱，缺乏那种要重塑人类社会所需的强大力量。《皇家学会哲学学报》的编辑不像那些猎巫专家，无权严刑拷打或处决任何人。法国科学院也不像天主教会，并没有庞大的领地或预算。但这些科学机构就是因为一个特别的原因而得到信赖，进而逐渐积累其影响力。教会叫众人相信它，给出的理由是教会掌握了绝对真理，而形式就是一本无懈可击的宗教经典。相对而言，科学机构之所以能取得权威，是因为它们有强大的自我修正机制，能够揭露并修正自身的错误。科学革命真正的引擎正是这些自我修正机制，而不是印刷技术。换句话说，人类是因为发现了自己的无知，才推动了科学革命。”那些信奉某本经典的宗教，会觉得它们已经取得了无懈可击的知识来源。基督徒有《圣经》，穆斯林有《古兰经》，印度教徒有《吠陀经》，佛教徒有佛经。但科学文化并没有这样的神圣经典，也从未宣称某位科学泰斗是绝不会犯错的先知、圣人或天才。科学革命从一开始就不相信有绝对正确这种事，其打造的信息网络也认为错误本就不可避免。当然，大家经常谈到哥白尼、达尔文与爱因斯坦如何有天赋，但并不会说其中任何一位绝对完美无缺。这些科学家都犯过错误，即便是最著名的科学著作肯定也会有错误与疏漏。
• Zane

  2024-09-20
  教会想把整个社会都关进一个回声室里，只允许那些支持教会的书传播，因为几乎所有书都支持教会，民众当然也就会相信教会。即使是不识字、不读书的一般人，也会因为看到大家在诵读或阐述这些珍贵的经文而心生敬畏。于是，因为相信像《新约》这样的超人类技术理论上应该绝对正确，反而导致天主教会这种极度强大的人类机构崛起，它把所有反对意见视为“谬误”，不允许任何人质疑。雅克·富尼耶这些天主教的信息专家成天读着托马斯·阿奎那如何解读奥古斯丁对圣保罗书信的解读，最后还再加上他们自己的解读。这些相互关联的文本并不是在呈现现实，而是创造了一个新的信息领域，甚至比扰太拉比所创造的信息领域更大更强。中世纪的欧洲就这样被笼罩在这个信息茧房里，所有日常活动、思想与情感都是由关于文本的文本塑造的。
• Zane

  2024-09-20
  在2000年前，犹太人已经预想到了区块链的概念，开始为这份神圣法典制作大量的副本，所有犹太社群都该在自已的犹太教堂或研习之所至少摆上一份。”这样做有两个目的。第一，大量传播《圣经》可以推动宗教的迅速普及，并能严格限制潜在的独裁者的权力。过去埃及法老王与亚述国王的档案库都以牺牲大众利益为代价，为难以估量的王权官僚制度赋予权力。但犹太人的宗教经典是将权力交给大众，即便将来遇上最厚颜无耻的领导者，他们也能要求他遵从神的律法。第二，也是更重要的一点，同一本书有许多副本，就能避免有人对文本动手脚。要是有几千份同样的副本分别位于不同的地方，哪怕只是想改动《圣经》中的一个字也很容易被识破。凭借在许多相隔遥远的地方都摆了大量的（圣经》犹太人便能以神的主权取代人类的专制。于是，凭借书这种技术，社会秩序得到了保障，至少表面上看起来如此。
• Zane

  2024-09-20
  这些自我修正机制想要发挥作用，就必须取得合法性。如果人一定会犯错，那么自我修正机制不也会犯错吗？为了避免像这样无限循环下去，人类常常幻想能有某种超人类、绝不会犯错的机制，能找出并纠正人类的错误。今天，大家可能都希望人工智能能够提供这样的机制。比如，马斯克在2023年4月宜称：“我准备开始一项计划，我称之为真相GPT（TruthGPT），这是一个极致寻求真理真相的人工智能，目的是了第宇声的本质。我们会在后面的章节讨论为什么这是一个危险的幻想。在以前的时代，这类幻想会以另一种样式出现——宗教。
• GoTill

  2024-09-03
  据我们所知，在故事出现之前，宇宙中只有两个现实层次。故事增加了第三个层次。在讲故事之前的两个现实层次是客观现实和主观现实。客观现实由石头、山脉和小行星等事物组成——无论我们是否知道它们存在，它们都存在。例如，一颗飞向地球的小行星，即使没有人知道它在那里，它也是存在的。然后是主观现实：像疼痛、快乐和爱这样的事物，它们不是“在那里”，而是“在这里”。主观事物存在于我们对它们的意识中。没有感觉的疼痛是一个矛盾。但是，有些故事能够创造第三层现实：主体间现实。主观事物，如疼痛，存在于单个意识中，而主体间事物，如法律、上帝、国家、公司和货币，存在于大量意识之间的联系中。更具体地说，它们存在于人们相互讲述的故事中。人类交换的关于主体间事物的信息并不代表信息交换之前已经存在的东西；相反，信息交换创造了这些东西。
• 懒残僧

  2025-03-26
  2016一2017年，一个名为若开罗兴亚救世军（ARSA）的小型极端组织发动了一系列袭击，希望在若开邦建立一个独立的伊斯兰国家，他们杀害、绑架了几十名非穆斯林平民，还袭击了多个军事前哨。作为回应，缅甸政府军与佛教极端分子发动了一场针对整个罗兴亚人社群的种族清洗，摧毁数百个罗兴亚人村庄，杀害了7000~25000名手无寸铁的平民，强奸或虐待了18000~60000名男女，并且粗暴地将大约73万名罗兴亚人赶出缅甸。这些暴力活动是出于对所有罗兴亚人的强烈仇恨，而这种仇恨又是出于对罗兴亚人的负面宣传，其中大部分是在脸书上传播的。到2016年，脸书已经是缅甸数百万人的主要新闻来源，也是缅甸最重要的政治动员平台。一位叫迈克尔的援助人员于2017年住在缅甸，他谈到了当时脸书页面动态消息的状况：“网络上对罗兴亚人的仇恨愤怒简直难以置信，不管是数量还是暴戾的程度，简直是铺天盖地…那就是当时缅甸人民动态消息的全部样子。它不断强化一种这些人都是恐怖分子的观念，觉得他们不配享有权利。”在当时的脸书上，除了有若开罗兴亚救世军真实暴行的报道，还充斥着各种假新闻，内容都是各种凭空捏造的“暴行”，以及想象准备实施的“恐怖攻击”。民粹主义阴谋论声称，大多数罗兴亚人根本不是缅甸人，而是新近从孟加拉国涌入的移民，这些人准备带头发起一场反佛教圣战。佛教徒在缅甸人口中占了将近九成，却十分担心自己会被取代，或成为少数。要不是因为那些宣传，若开罗兴亚救世军这种乌合之众发起的零星攻击，根本不可能导致对整个罗兴亚社群的全面进攻。脸书的算法在整场宣传活动里扮演着重要角色。脸书的算法决定了要推广哪些帖子。有机构研究发现：“算法主动在脸书平台上强化、推广的那些内容，煽动了针对罗兴亚人的暴力、仇恨与歧视。联合国的事实调查团在2018年得出的调查结论也认为，通过散播充满仇恨的内容，脸书在这场冲突中扮演了“...
• Zane

  2024-09-26
  货币应该是一种被普遍采用的价值标准，而不是只适用于每分线的价值象征。随若越来越多的东西的价值以信息来衡量，而从货币来看却都是“免费”的，在某种程度上，如果还是只看个人或企业销有多少美元或比索来判断他们是否富有，是无法反映现实的。如果一个人或。家企业在银行里没什么钱，但拥有庞大的数据库，这个人或这家企业有可能才是该国最高有或最强大的实体。虽然理论上也可以用货币来鱼化这些信息的价值，但并不需要真的把这些信息换成美元或比索。既然具用信息就能换到他们想要的东西，为什么还需要美元呢？
• Zane

  2024-09-26
  如果各国政府还是想对这些交易课税，就需要重新思考一些最基本的概念，比如“链接性”（nexus）。在税务规定上，“链接性”指的是个别实体与特定司法管辖区之间的链接。传统上，要判断某个企业是否与某个特定国家有链接性，就要看该企业在该国是否有实体存在，例如设有办公室、研究中心或实体店面等。想要解决计算机网络造成的税收难题，一种方法就是重新定义链接性。经济学家马尔科·科腾伯格就说：“目前对链接性的定义是基于在一国的实体存在，这有必要改变，我们应引入数字存在的概念。”8也就是说，即使谷歌与字节跳动在乌拉圭并没有实体存在，但基于乌拉圭人会使用其线上服务这一事实，也必须在乌拉主纳税。壳牌与英国石油公司只要在某国开采石油，就会向该国纳税；同理，科技企业也该向它们采集信息数据的国家纳税。
• Zane

  2024-09-26
  这样的论点不是太天真，就是太虚伪。脸书、亚马逊这些科技巨头，绝不只是像忠仆一样满足着用户的奇思妙想，遵循着政府的法规，而是正在越来越多地塑造着这些奇思妙想与法规。这些企业不但能直接联络到全球最强大的政府，还能投下巨额资金进行游说，以阻挠那些可能破坏其商业模式的法规。比如，它们曾经极力维护1996年《美国电信法》第230条，该条款规定线上平台无须对用户在平台发布的内容负责。正是这则条款让脸书无须在罗兴亚人冲突这件事上负责任。2022年，几家科技巨头在美国的游说费用接近7000万美元，在欧盟各国的游说费用更是高达1.13亿欧元，比石油与天然气公司及制药公司的游说费用还高。？各大科技巨头也能直接影响民众的情感系统，而且它们还是操控用户与选民想法的大师。如果说这些企业都听从选民与用户的意愿，但它们同时也能塑造选民与用户的意愿，那么究竟是谁控制了谁？
• Zane

  2024-09-26
  计算机的制造与运行需要消耗大量的电力、燃料、水、土地、珍贵的矿物质与其他资源。目前仅各个数据中心就占了全球能源使用量的1%~1。5%；大型数据中心占地数百万平方英尺‘，每天需要几十万加仑“的淡水来防止它们过热。
• Zane

  2024-09-26
  在一开始，计算机大概还是会先模仿人类的文化原型，编写出类人类写出的文本，创作出类似人类谱出的音乐。这不是说计算机缺乏创意，毕竟人类艺术家也是如此。巴赫的音乐不是凭空创作的，而是深爱前人音乐作品、《圣经》故事与其他先前存在的文化产物的影响。然而，就像巴赫这样的人类艺术家能够打破传统、进行创新一样，计算机也能做到文化创新，创作出与人类以往创作的任何作品都略有不同的音乐或图像作品。这些创新反过来又会影响下一代计算机，于是它们会越来越偏离人类原始的模型，特别是人类的想象会受到演化与生化的限制，但计算机则能够轻松摆脱这些限制。几千年来，人类一直是活在其他人的梦里，但在接下来的几十年里，我们可能会发现自己活在某个高深莫测的智能机器所编织的梦中。
• Zane

  2024-09-26
  即使没有创造“虚假的亲密关系”，计算机在掌握语言之后也会对人类的观点和世界观产生重大影响：把这种计算机顾问给的建议，当成一站式的神谕。如果我可以直接要求计算机这位神使提供神谕，又何必花心思自己去搜索和处理信息呢？这样一来，被淘汰的除了搜索引擎，还包括大部分的新闻业与广告业。如果可以直接询问神使今天有什么新鲜事，又何必去读什么报纸？如果神谕可以直接指示该买些什么，广告又有什么用呢？
• Zane

  2024-09-26
  在这个事件中，最耐人寻味的并不是勒莫因的主张（真相应该并非如此），而是他居然愿意为了一个聊天机器人程序，不惜赌上自己的那份高薪工作，而且最后谷歌还真的如了他的愿。如果聊天机器人已经让人愿意为它们赌上工作，是不是也可能让我们愿意为它们做些别的什么？在一场争夺思想与人心的政治斗争中，亲密关系是一种强大的武器，而像谷歌的LaMDA与OpenAI的GPT-4这样的聊天机器人程序，正逐渐发展出与数百万人大规模建立亲密关系的能力。在21世纪10年代，大家在社交媒体这个战场争夺的是人类的注意力，但到了20年代，争夺的可能会变成亲密关系。当计算机之间展开一场与人类建立亲密关系的竞争，用来说服人类投票给特定的政治人物、购买特定产品，或是接受某些极端的信仰时，人类社会与人类心理会发生什么变化？如果LaMDA遇上匿名者Q，又会发生什么？
• Zane

  2024-09-26
  但是为什么算法决定助长的是愤怒而不是慈悲呢？就算是对脸转评最严厉的人，也不会觉得脸书的人类管理者就是想煽动大居杀。脸书位于加州的那些高管非但对罗兴亚人并无恶意，甚至儿乎不知道罗兴亚人的存在。事情的真相更为复杂，但可能也更令人震惊。在2016-2017年，脸书的商业模式依赖于提升用户参与度，也就是用户在脸书上所花的时间与所做的活动（例如点赞、分享帖子给朋友）。只要用户参与度增加，脸书就能收集更多数据，卖出更多广告，在信息市场占据更大份额。此外，提升用户参与度能给投资人留下好印象，从而有利于推高脸书股价。用户在脸书停留的时间越久，脸书就越有钱。根据这种商业模式，人类管理者给脸书算法定了一个首要目标：提升用户参与度。随后，算法用几百万用户做实验，发现最能提升参与度的办法就是让人愤慨。比起慈悲的布道，充满仇恨的阴谋论更能提升人类的参与度。所以，为了追求用户参与度，算法就做出了一个致命决定：传播愤怒。20种族冲突从来都不是单方的错，是许多方面都出了问题，有许多责任方必须共同承担。有一点很清楚，对罗兴亚人的仇恨早在脸书出现在缅甸之前就已存在，而之所以会发生2016一2017年的暴行，最大的责任应落在相关的责任人身上。至于脸书的工程师与高管也该承担部分责任，他们写了算法的代码，赋予算法太多的权力，而没能对它们好好地管控。很重要的一点是，算法本身也逃不了干系。通过反复实验，算法学到了愤怒会提升参与度，而且在没有上级明确指示的情况下，算法自己决定要助长愤怒。这正是人工智能的典型特征一虽然它们是机器，但它们拥有自己学习与行动的能力。即使我们说这里算法只需要承担1%的责任，这也会是历史上第一个“部分归咎于非人类智能决策”的种族冲突事件。而且这不会是最后一次。现在，算法已经不局限于在有血有肉的极端分子创造出假新闻与阴谋论之后，再加以推送传播，在21世纪20年代初，算法已经能够自行制造假新...
• censored dump

  2025-03-03
  在2016年美国大选期间产生的2000万条推文中，有380万条（将近20%）是由机器人程序生成的。……根据2020年的一项研究，目前所有推文的43.2%由机器人程序产生。数据分析工具Similarweb 2022年的一项更全面的研究发现，机器人程序可能只占推特用户的5%，但却“发布了20.8%～29.2%的推特内容”
• 芝麻

  2024-12-14
  一个著名的案例就是苏联衣学家特罗菲姆·李森科提出的各种假理论。他拒绝相信各种主流遗传学与自然选择演化论，反而提出了一套自己的理论，认为“再教育”可以改变动植物的性状，甚至能让一个物种变成另一个物种。李森科这套“再教育”理论让斯大林大为惊艳，觉得在意识形态或政治上简直是潜力无穷。当时许多科学家站出来反对李森科，继续捍卫自然选择演化论，结果几千人丢了工作，甚至锒铛入狱或遭到处决。比如，植物学家和遗传学家尼古拉·瓦维洛夫曾是李森科的导师，但他后来毫不留情地对这个门生进行了严厉批评。瓦维洛夫在1941年7月与植物学家列昂尼德·戈沃罗夫、遗传学家格奥尔基·卡尔佩琴科以及农学家亚历山大·邦达连科四人一同受审。后三者遭到枪决，瓦维洛夫则在1943年死于萨拉托夫的一个集中营。在压力之下，全苏列宁农业科学院于1948年8月宣布，从此之后，该机构将以李森科主义作为唯一正确的理论来教授。但正是因为这个声明，全苏列宁农业科学院从此不再是个科学机构。苏联关于遗传学的教条是一种意识形态，而不是一门科学。虽然机构想怎么取名都行，但只要没有健全的自我修正机制，它就算不上是个科学机构。
• GoTill

  2024-08-25
  占星学的例子表明，错误、谎言、幻想和虚构也是信息。与信息的天真的观点相反，信息与真理没有本质联系，它在历史上的作用不是代表先前的现实。相反，信息的作用是通过将不同的事物联系起来（无论是情侣还是帝国）来创造新的现实。它的决定性特征是联系而不是代表，信息是将不同的点连接成网络的任何事物。信息并不一定告诉我们事情。相反，它把事物组织起来。占星术把情侣组织成星相，宣传广播把选民组织成政治，行军歌曲把士兵组织成军事。
• 芝麻

  2024-11-29
  有时候，就算呈现的是错误的现实，也可能成为一种社会联结。比如，数百万登月阴谋论的追随者，看着一段声称美国从未成功登月的YouTube（油管）视频。虽然这些视频图像传达的是错误的现实，但仍然能让人对政府义愤填膺，或是对自己的智慧扬扬得意，于是形成一个有凝聚力的新群体。
• 芝麻

  2024-10-13
  2023年，包括中国、美国与英国在内的近30个国家和欧盟签署了关于人工智能的《布莱切利宣言》，其中就承认：“这些人工智能模型所具备的最重要的功能可能会造成严重的甚至是灾难性的伤害，无论是有意的还是无意的。”虽然以上使用的是这种仿佛描述世界末日的语词，但专家与政府并不是让人联想到那些好莱坞电影的画面，好像有机器人造反，在街上奔跑射杀人类。这种情节一来实在不太可能发生，二来只会让人们忽略真正的危险。专家真正要警告的是另外两种情况。第一，人工智能的力量可能会大幅加剧人类既有的冲突，让人类形成内斗。正如20世纪冷战时期的铁幕分隔出几个彼此敌对的势力，21世纪的硅幕（不再是铁丝网，而是由硅基芯片和计算机代码组成的）也可能区隔出不同的敌对势力，引发一场新的全球冲突。这场人工智能军备竞赛将会制造出更具破坏性的武器，于是即使只是一个小小的火花，也可能引发灾难性的大火。第二，硅幕所分隔的或许不是彼此敌对的人类，而是一边为所有人类，另一边为我们新的人工智能霸主。不论在哪里生活，我们都可能被一张看不透的算法大网束缚，控制着我们的生活，重塑着我们的政治与文化，甚至是去改造我们的身体与思想，但人类却再也无法理解这些控制着我们的力量，更别说加以阻止了。如果21世纪真会有某个极权主义网络成功征服世界，其背后的掌控者可能并不是人类的独裁者，而是某种非人类智慧。有些人以为，如果人类将会迎来极权主义噩梦，主要来源应该是俄罗斯或后民主时代的美国等国，但这是对极权主义威胁的一种误解。事实上，不管是俄罗斯人、美国人还是其他人，真正面对的可能是由非人类智慧引发的极权威胁。