控制之匙 —埃隆·马斯克的战斗内幕 以及对未来人工智能的恐惧

       埃隆·马斯克为未来而战

沃尔特·艾萨克森  

         ELON MUSK'S FIGHT FOR THE FUTURE OF AI             

     By WALTER ISAACSON

          控制之匙

      埃隆·马斯克的战斗内幕

     以及对未来人工智能的恐惧

                            沃尔特·艾萨克森 著  翻译 赵深学

2012年的一次会议上，埃隆·马斯克遇到了视频游戏设计师兼人工智能研究员戴密斯·哈萨比斯，他与人合作创办了一家名为DeepMind的公司，该公司试图设计能够学习如何像人类一样思考的计算机。

 “埃隆和我一见如故，我去他的火箭工厂拜访了他，”哈萨比斯说。坐在食堂里俯瞰装配线时，马斯克解释说，他建造可以飞往火星的火箭的原因是，这可能是在世界大战、小行星撞击或文明崩溃的情况下保护人类意识的一种方式。哈萨比斯告诉他在名单上添加另一个潜在威胁:人工智能。机器可能变得超级智能，超越我们这些凡人，甚至可能决定抛弃我们。

马斯克默默地停顿了近一分钟，处理这种可能性。他认为哈萨比斯关于人工智能的危险可能是对的，并迅速在DeepMind投资了500万美元，以监控它在做什么。

在与哈萨比斯的这次谈话几周后，马斯克向谷歌的拉里·佩奇描述了DeepMind。他们已经认识十多年了，马斯克经常住在佩奇在加州阿尔托的朋友家里。在他们的深夜谈话中，人工智能的潜在危险成为马斯克会提起的一个话题，几乎是痴迷地提起。佩奇对此不屑一顾。

 在马斯克2013年在加州纳帕谷的生日派对上，他们进行了一场激烈的辩论。马斯克认为，除非我们建立保护措施，否则人工智能系统可能会取代人类，使我们的物种变得无关紧要甚至灭绝。

佩奇反驳道，他问，如果有一天机器在智力甚至意识方面超越人类，这有什么关系呢？这将是进化的下一个阶段。

马斯克反驳道，人类意识是宇宙中珍贵的闪光，我们不应该让它熄灭。佩奇认为这是感情用事的胡说八道。如果意识可以在机器中复制。为什么它没有同样的价值呢？

 他指责马斯克是一个“物种主义者，一个偏袒自己物种的人。”嗯，是的，我支持人类，马斯克回应道。“我他妈的喜欢人类，伙计。”

 因此，当马斯克在2013年底听说佩奇和谷歌计划收购DeepMind时，他感到沮丧。马斯克和他的朋友卢克·诺塞克试图筹集资金来阻止这笔交易。在洛杉矶的一次聚会上，他们去楼上的壁橱里与哈萨比斯进行了长达一小时的Skype通话。“人工智能的未来不应该由拉里控制，马斯克告诉他。

 这一努力失败了，谷歌于2014年1月宣布收购DeepMind。佩奇最初同意创建一个“安全委员会”。以马斯克为成员。第一次也是唯一一次会议在太空探索技术公司举行。佩奇、哈萨比斯、谷歌董事长埃里克·施密特以及雷德·霍夫曼和其他一些人出席了会议。马斯克总结说，该委员会基本上是一派胡言。

 因此，马斯克开始主持自己的一系列晚餐讨论，讨论对抗谷歌和促进人工智能安全的方法。他甚至联系了奥巴马总统，后者同意在2015年5月进行一对一会谈。马斯克解释了风险，并建议对理事会进行监管。“奥巴马明白了，”马斯克说。“但我意识到，这不会上升到他会采取任何行动的水平。

   然后，马斯克转向萨姆·奥特曼，一个紧密捆绑在一起的软件企业家、跑车爱好者和生存主义者，在他光鲜的外表下，有着马斯克般的热情。在帕洛阿尔托的一次小型晚宴上，他们决定共同创建一个非营利性的人工智能研究实验室，并将其命名为OpenAl。它将使其软件开源，并试图对抗谷歌在该领域日益增长的主导地位。“我们希望有一个类似于人工智能的Linux版本，不受任何个人或公司的控制，”马斯克说。

 他们在晚餐时讨论的一个问题是，什么更安全:由大公司控制的少量人工智能系统还是大量独立系统？他们的结论是，大量相互竞争的系统，相互制衡，会更好。对马斯克来说，这就是让OpenAT真正开放的原因，这样的话更多的人可以基于它的源代码来构建系统。

  另一种确保安全的方法。马斯克认为，是将机器人与人类紧密联系起来。它们应该是个人意志的延伸，而不是可能失控并发展自己的目标和意图的系统。这将成为Neuralink的理论基础之一，他将创立neuralink公司，制造可以将人脑直接连接到计算机的芯片。

 马斯克在自己的公司开发人工智能能力的决心导致了2018年与OpenAl的决裂。他试图说服奥特曼，OpenAI应该并入特斯拉。OpenAI团队拒绝了这个想法，Altman担任了实验室的主席，成立了一个盈利性的部门，能够筹集股权资金，包括来自微软的一笔重大投资。

 因此，马斯克决定建立竞争对手人工智能团队，致力于一系列相关项目。其中包括Neuralink，它的目标是在人脑中植入微芯片；擎天柱，一个类人机器人；以及Dojo，一台可以使用数百万视频来训练人工神经网络以模拟人脑的超级计算机。这也促使他痴迷于推动特斯拉汽车的自动驾驶。

 起初，这些努力是相当独立的，但最终马斯克将它们联系在一起，并与他创建的新公司xAIto一起追求通用人工智能的目标。

 2023年3月，OpenAl向公众发布了GPT-4。谷歌随后发布了一款名为Bard的竞争对手聊天机器人。因此，OpenAl-Microsoft和Deep Mind Google之间的竞争舞台已经搭建起来，他们要创造出能够以自然的方式与人类聊天并执行一系列基于文本的智能任务的产品。

 马斯克担心这些聊天机器人和人工智能系统，特别是在微软和谷歌手中，可能会被灌输政治思想，甚至可能被他所谓的woke-mind病毒感染。他还担心自学的人工智能系统可能会对人类产生敌意。在更直接的层面上，他担心聊天机器人可能会被训练成用虚假信息、有偏见的报道和金融诈骗充斥Twitter。当然，所有这些事情人类已经在做了。但是部署数千个武器化聊天机器人的能力将使问题恶化两到三个数量级。

他的强迫冲出去救援冲动开始发作了。他怨恨自己创立并资助了OpenAI，但现在却被排除在争斗之外。AI正在酝酿最大的风暴。没有人比马斯克更容易被风暴吸引。

 2023年2月，他邀请萨姆·奥特曼在Twitter上与他会面，并请他带来OpenAI的创始文件。马斯克要求他证明如何合法地将一个由捐款资助的非营利组织转变为一个可以赚取数百万美元的营利性组织。奥特曼试图表明这一切都是合法的，他坚称自己个人不是股东，也没有套现。他还向马斯克提供了新公司的股份，但马斯克拒绝了。

 相反，马斯克对OpenAI发起了一连串的攻击。奥特曼是痛苦的，不像马斯克，他敏感和非对抗。他觉得马斯克没有深入研究人工智能安全问题的复杂性。然而，他确实感觉到马斯克的批评来自于一种真诚的关注。“他是个混蛋，”奥特曼告诉卡拉·斯威舍。“他的风格和我想给自己留着不一样。但我认为他真的很在乎，他对人类的未来感到非常紧张。"

人工智能的燃料是数据。新的聊天机器人正在接受海量信息的训练，例如互联网上数十亿的网页和其他文件。谷歌和微软凭借其搜索引擎和云服务以及对电子邮件的访问，拥有大量数据来帮助训练这些系统。

马斯克能给派对带来什么？一项资产是Twitter 服务费，其中包括多年来发布的超过1万亿条推文，每天增加5亿条。这是人类的蜂群思维，世界上最及时的真实人类对话、新闻，兴趣、趋势、争论和行话。此外，这也是聊天机器人测试真实人类对其反应的绝佳训练场。马斯克在收购Twitter时并没有考虑到这些数据的价值，后来他将Twitter重新命名为X。他说:“实际上，这是一个附带的好处，我是在收购后才意识到的。”

Twitter相当宽松地允许其他公司使用这些数据流。2023年1月，马斯克在他的Twitter会议室召集了一系列深夜会议，以制定出对其收费的方式。“这是一个赚钱的机会，”他告诉工程师们。这也是限制谷歌和微软使用这些数据来改进他们的人工智能聊天机器人的一种方式。今年7月，他决定暂时限制观众每天可以看到的推文数量，引发了一场争议；目标是防止谷歌和微软“收集”数百万条推文，用作训练其人工智能系统的数据。

马斯克还有另一个数据宝藏:特斯拉每天从车上的摄像头接收和处理1600亿帧视频。这些数据不同于基于文本的数据通知聊天机器人的文件。这是人类在现实世界中导航的视频数据。它可能有助于为物理机器人创造人工智能，而不仅仅是生成文本的聊天机器人。

通用人工智能的圣殿是建造能够在物理空间像人一样操作的机器，例如在工厂和办公室以及在火星表面，而不仅仅是用脱离现实的聊天来让我们惊叹。特斯拉和Twitter可以一起为这两种方法提供数据集和处理能力:教会机器在物理空间中导航用自然语言回答问题。

 今年3月，马斯克给我发短信说，“我有几件重要的事情想和你谈谈。只能亲自动手。”当我到达奥斯汀时，他在Shivon Zilis的家里，这位Neuralink高管是他两个孩子的母亲，自八年前OpenAI成立以来，他一直是他在人工智能方面的智力伴侣。他说当我们坐在外面的时候，我们应该把手机留在家里，因为，他说，有人可以用它们来监听我们的谈话。但他后来同意我可以在我的书里用他说的关于AI的话。

他和齐里斯（Zilis）光着脚盘腿坐在泳池边的露台上，他们的双胞胎Strider和Azure，现在16个月大，坐在他们的腿上。齐里斯煮了咖啡，然后把咖啡放进微波炉里加热，这样他就不会喝得太快了。

怎样做才能让AI安全？”马斯克问道。“我一直在纠结这个问题。我们可以采取什么行动来最大限度地减少人工智能的危险，并确保人类意识的生存？”

 他说话低沉单调，不时被一阵阵近乎狂躁的笑声打断。他指出，人类的智力水平正在下降，因为人们没有足够的孩子。与此同时，计算机智能的数量呈指数增长，就像类固醇上的摩尔定律一样。在某种程度上，生物智能将会被数字智能超越。

此外，新的人工智能机器学习系统可以自己摄取信息，并自学如何生成输出，甚至升级自己的代码和功能。数学家约翰·冯·诺依曼和科幻作家弗诺尔·文奇曾用“奇点”一词来描述人工智能以不可控制的速度独自前进并将我们人类抛在身后的时刻。“这可能会比我们预期的更快，”马斯克以一种不祥的语气说道。

有那么一会儿，我被这奇怪的景象惊呆了。在一个阳光明媚的春日，我们坐在郊区一个宁静的后院游泳池旁的院子里，两个眼睛明亮的双胞胎正在学习蹒跚学步，马斯克忧郁地猜测着在人工智能世界末日摧毁地球文明之前，在火星上建立一个可持续人类殖民地的机会之窗。

 马斯克陷入了长时间的沉默。正如齐利斯（Zilis）所说，他是“批处理”，指的是一台老式计算机在有足够的处理能力时，会提示一些任务，并按顺序运行它们。“我不能只是坐在那里，什么也不做，”他终于轻声说道。“随着人工智能的到来，我有点怀疑是否值得花那么多时间考虑Twitter。当然，我可能会使它成为世界上最大的金融机构。但是我一天只有这么多的大脑周期和时间。我是说，我并不需要变得更有钱什么的。"

 我开始说话，但他知道我要问什么。“那么我的时间应该花在什么地方呢？”他说。“让星舰发射。到达火星现在更为紧迫。”他停顿了一下，再次，然后补充道，“还有，我需要专注于让AI安全。这就是为什么我要创办一家人工智能公司。”

     这是马斯克戏称为xAI的公司。他亲自招募了前DeepMind的Igor Babuschkin，但他告诉我他将亲自运营。我估计这意味着他将管理六家公司:特斯拉、太空探索技术公司及其Starlink子公司、Twitter、the Boring Co .、Neuralink和xAL。这是史蒂夫·乔布斯(苹果，皮克斯)巅峰时期的三倍。

  他承认，在创造一个可以对问题做出自然语言回答的聊天机器人方面，他的起步远远落后于OpenAI。但特斯拉在自动驾驶汽车和机器人擎天柱方面的工作，使其在创造在物理世界导航所需的人工智能类型方面遥遥领先。这意味着他的工程师实际上领先于OpenAI创造了成熟的通用人工智能，这需要两种能力。“特斯拉的现实世界人工智能被低估了，”他说。“想象一下，如果特斯拉和OpenAI不得不互换任务。他们必须制造自动驾驶，我们必须制造大型语言模型聊天机器人。谁赢了？我们。”

     4月份，马斯克给巴布什金和他的团队分配了三大目标。第一个是制造一个可以编写计算机代码的人工智能机器人。程序员可以开始用任何编码语言打字，xAI机器人会自动完成他们最有可能采取的行动。第二款产品将是Open-AI GPT系列的聊天机器人竞争对手，该产品使用算法并在数据集上进行训练，以确保其政治中立性。

     马斯克给球队的第三个目标更加宏大。他压倒一切的使命一直是确保人工智能以一种有助于保证人类意识持久的方式发展。他认为，实现这一目标的最佳途径是创造一种能够“推理”、“思考”并以追求“真理”为指导原则的通用人工智能教。你应该可以给它一些大任务，比如“制造一个更好的火箭发动机”。

 马斯克希望，有一天，它能够解决更宏大、更现实的问题。它将是“一个最大限度寻求真理的人工智能”。它会关心对宇宙的理解，这可能会导致它想要保护人类，因为我们是宇宙中有趣的一部分。”这听起来有点熟悉，然后我意识到为什么。

 他开始了一项类似于《形成》中记载的任务(也许太形成化了？)他童年时代的圣经，帮助他走出青春期存在主义抑郁的那本银河系漫游指南，其中有一台超级计算机，旨在找出“生命、宇宙和一切的终极问题的答案”    。

艾萨克森是《时代》杂志的前编辑，杜兰大学的历史学教授和广受众多好评的传记作者。2023版权所有。改编出自沃尔特艾萨·克森的《埃隆·马斯克》一书，西蒙与舒斯特公司出版，经许可印刷  2023-10-9