西岸/编译
关于雄心、恐惧和金钱的故事。
2015年7月，埃隆 · 马斯克（Elon Musk）的妻子妲露拉 · 莱莉（Talulah Riley）在加州纳帕谷举办了一场为期三天的生日派对，庆祝其44岁生日，参加派对的都是他们的亲朋好友。
当时马斯克还没有收购推特（Twitter），特斯拉刚实现盈利。
马斯克的好朋友、谷歌（Google）首席执行官拉里 · 佩奇（Larry Page）也被邀请参加了派对。两位亿万富翁是十多年的好朋友。马斯克曾经说过，他偶尔会去佩奇家里通宵打游戏，困了就在沙发上呼呼大睡。
他们坐在游泳池附近的火堆旁，讨论人工智能。当时人工智能刚刚进入公众视野，被用来识别油管（YouTube）上的猫，准确率只有16%。
那个晴朗的夜晚，两人就人工智能最终会造福人类还是毁灭人类展开了争论，气氛逐渐变得剑拔弩张，引得30多位参加派对的宾客聚集到他们身边围观。
因为受到一种不同寻常的声带疾病十多年的困扰，所以佩奇说话声音很轻，他低声描述了对数字乌托邦的愿景。他认为，人类最终将与人工智能机器融合，未来会有多种智能争夺资源，最好的将会获胜。马斯克则有些悲观，他说，如果发生这种情况，我们就完蛋了，机器会毁灭人类。
佩奇对不能说服马斯克感到沮丧，他坚持要追求他理想中的乌托邦。最后，他称马斯克为“物种主义者”，即比起未来的数字生命形态，他更偏爱人类。
马斯克后来说，那次侮辱是“压倒两人友谊的最后一根稻草”。
宾客们虽然听得目瞪口呆，但也觉得有趣，他们只是把这当作硅谷聚会上经常爆发的一场深奥辩论。
不得不感叹，他俩当时的争论的确有先见之明。人工智能将帮助世界还是摧毁世界（至少造成严重破坏）？与之对应的这项技术应该自由发展还是严格受控？这些问题在硅谷创始人、聊天机器人用户、学者、立法者和监管机构之间展开了持续的辩论。
这些辩论让世界上最富有的人互相对立：除了马斯克、佩奇，还有Meta（脸书Facebook的新名字）的首席执行官马克 · 扎克伯格（Mark Zuckerberg）、科技投资人彼得 · 蒂尔（Peter Thiel）、微软首席执行官萨蒂亚 · 纳德拉（Satya Nadella）以及OpenAI的联合创始人萨姆 · 奥特曼（Sam Altman）。所有人都希望从这个有朝一日可能价值数万亿美元的行业里分一杯羹，并且争夺塑造它的权力。
行业大佬们竞争的核心是一个让人费解的悖论。那些说自己最担心人工智能的人，恰恰也是最坚决要创造人工智能并享受其所带来财富的人。他们坚信，只有他们才能阻止人工智能危害地球。
2015年的夏日派对结束后不久，马斯克和佩奇便不再交流。几周后，马斯克在加州门洛帕克的罗斯伍德酒店，与当时正在经营一家科技孵化器公司的奥特曼以及几名研究人员共进晚餐。这里是一个谈生意的好地方，临近的沙丘路汇集了众多风险投资机构。
这次晚宴促成了当年晚些时候OpenAI的创立。在马斯克和其他资助者数亿美元的支持下，该实验室承诺保护世界不受佩奇乌托邦愿景的影响。凭借ChatGPT聊天机器人，OpenAI从根本上改变了科技行业，并向世界展现了人工智能的风险与潜力。据熟悉OpenAI最新一轮融资的两名相关人士透露，该公司的估值超过800亿美元。
不过马斯克和奥特曼的合作并未成功。
“我们之间存在着分歧和不信任，我们也都是自负的人，”奥特曼说，“人们的目标方向越接近，就越容易产生分歧。你在教会斗争中也能看到这样的现象，最亲密的人之间也会有激烈的斗争。”
2023年11月，OpenAI的董事会发生内讧就是最好的证明。4名董事试图迫使奥特曼下台，因为他们不再相信他能制造出造福人类的人工智能。在那混乱糟糕的五天里，OpenAI看起来好像要崩溃了，直到董事会迫于投资者和员工的巨大压力做出让步。
OpenAI的内讧闹剧让世界第一次看到了那些决定人工智能未来的人之间的激烈争斗。
但在OpenAI几近崩溃的几年前，硅谷就曾发生过一场鲜为人知但却十分激烈的竞争——以争夺对这项技术的控制权。从儿童教育方式到战争方式，这项技术正在迅速重塑世界。《纽约时报》采访了80多位高管、科学家和企业家，讲述了这些关于雄心、恐惧和金钱的故事，其中包括2015年参加马斯克生日派对的两位。
DeepMind的诞生
在纳帕谷那场派对发生的五年前，以及YouTube上猫咪视频大获成功的两年前，34 岁的神经科学家德米斯 · 哈萨比斯（Demis Hassabis）走进了彼得 · 蒂尔在旧金山的联排别墅举办的鸡尾酒会，他意识到自己获得了机会。在蒂尔那俯瞰着当地的艺术宫和天鹅池的客厅里，摆放着一副棋盘。哈萨比斯博士曾经是 14 岁以下级别中世界排名第二的棋手。
“我为那次会面准备了一年，”哈萨比斯博士说，“他喜欢下棋，我以此切入。”
2010 年，居住在英国的哈萨比斯博士和他的两位同事，正在寻找资金来着手构建通用人工智能或称为A.G.I.，这是一种可做任何大脑能做的事情的机器。当时，经过半个世纪的研究，人工智能领域未能产出任何接近人脑的东西，所以很少有人对人工智能感兴趣。
尽管如此，一些科学家和思想家已经开始关注AI的负面影响。许多人都与互联网哲学家、自学成才的人工智能研究员埃利泽 · 尤德科夫斯基（Eliezer Yudkowsky）有联系，就像这三位来自英国的年轻人一样。
尤德科夫斯基先生是一个自称为理性主义者的团体的领袖，几年后，改称有效利他主义者。
他们相信人工智能可以找到治疗癌症的方法或解决气候变化问题，但他们担心人工智能机器人可能会做出违背其创造者意图的事情。如果机器变得比人类更聪明，机器可能会反过来对付他们的创造者。
蒂尔通过对Facebook的早期投资以及和马斯克在贝宝（PayPal）早期的合作，积累了巨额财富。他对奇点产生了浓厚的兴趣。奇点是科幻小说中的一个比喻，用来描述智能技术不再受人类控制的时刻。
在蒂尔的资助下，尤德科夫斯基扩建了他的 AI实验室，并创建了一个关于奇点的年度会议。多年前，哈萨比斯博士的两位同事之一遇到了尤德科夫斯基。他为他们争取到了在会议上发言的机会，确保他们被邀请参加蒂尔的派对。
尤德科夫斯基把哈萨比斯博士介绍给了蒂尔。哈萨比斯博士认为，派对上的很多人都想从蒂尔那里讨要赞助。他的策略是再安排一次会议。他告诉蒂尔，国际象棋里的象和马，两枚棋子具有相同的价值，但最优秀的玩家知道它们的优势是截然不同的。
这一招很管用。被迷住的蒂尔邀请他们第二天再来，在厨房见面。蒂尔刚刚完成早晨的锻炼，穿着闪亮的运动服，还在流汗。一个管家递给他一瓶无糖可乐。他们3人讲述了自己的方案。很快，蒂尔和他的风险投资公司同意向他们的初创公司投入 140 万英镑（大约 225 万美元）。他是他们的第一位重要投资者。
他们将公司命名为DeepMind，这是对神经科学以及科幻小说《银河系漫游指南》中的“深思”超级计算机的致敬。到了 2010 年秋天，他们已经在构建自己梦想中的机器。他们坚信，因为了解其中风险，所以他们对于保护世界有独特的优势。
“我不认为这是一个矛盾的立场，”DeepMind的3位创始人之一穆斯塔法 · 苏莱曼（Mustafa Suleyman）说，“这些技术将带来巨大的好处。我们的目标不是消除或暂停它们的发展，而是减少它们的负面影响。”
在赢得蒂尔的支持后，哈萨比斯博士逐渐进入了马斯克的视野。大约两年后，他们在蒂尔的投资基金组织的一次会议上相遇，该基金也投资了马斯克的公司 SpaceX。哈萨比斯博士参观了SpaceX的总部。之后，在天花板挂着火箭外壳的餐厅，两人共进午餐并进行了交谈。
马斯克解释说，他的计划是殖民火星，以应对地球上人口过剩和其他危险。哈萨比斯博士回应说，这个计划是可行的，只要超级智能机器不跟随前往，因为它会摧毁火星上的人类。
马斯克无言以对。他从未考虑过这个特别的危险。马斯克很快就和蒂尔一起投资了DeepMind，这样他就能更接近这项技术的创造。
资金充裕的DeepMind聘请了专门研究神经网络的研究人员。神经网络以人脑为原型，本质上是一个巨大的数学系统，它需要花费数天、数周甚至数月的时间来识别大量数据中的模式。这些系统最初在 1950 年代被开发出来，它们可以学会自行处理任务。例如，在分析了数百个信封上手写的姓名和地址后，它们可以阅读手写文本。
DeepMind进一步发展了这个概念。它构建了一个系统，可以学习玩经典的雅达利游戏，如《太空侵略者》《乒乓》和《打砖块》，以展示其潜力。
这引起了另一家硅谷巨头谷歌的注意，尤其是拉里 · 佩奇。他看到了DeepMind的机器玩雅达利游戏的演示。他也想参与其中。
人才拍卖
在 2012 年秋季，多伦多大学一位 64 岁的教授杰弗里 · 辛顿（Geoffrey Hinton）和两名研究生发表了一篇研究论文，向世界展示了人工智能的潜力。他们训练了一个神经网络来识别常见的物体，如花朵、狗和汽车。
这项技术的准确性令其他科学家感到惊讶不已，并引起了人工智能研究员余凯的特别注意。余凯在一次研究会议上认识了辛顿博士，那时他已开始为百度工作。据3位知情人士透露，百度曾向辛顿博士和他的学生们开价 1200万美元，邀请他们加入位于北京的公司。
辛顿博士虽然拒绝了百度，但这笔钱引起了他的注意。
这位毕业于剑桥大学的英国侨民，除了偶尔在微软和谷歌工作外，大部分时间都在学术界度过，并不特别看重金钱。但他的孩子正遭受神经系统疾病，这笔钱对他而言意味着经济上的保障。
“我们不知道自己值多少钱。” 辛顿博士说。他咨询了律师和收购专家，然后提出了一个计划：“我们将组织一场拍卖，出售我们自己。”这场拍卖后来在年度人工智能会议上进行。
大科技公司也在关注。谷歌、微软、百度等公司开始相信，配备神经网络的机器，将不仅能拥有看的能力，而且还能听、写、说，最终甚至能思考。
佩奇在他公司的人工智能实验室“谷歌大脑”（GoogleBrain）看到了类似的技术，他认为辛顿博士的研究可以提升他手下科学家的工作水平。他给了谷歌高级工程师副总裁艾伦 · 尤斯塔斯（Alan Eustace）一张相当于空白支票的支票，让他聘请自己需要的任何人工智能专家。
尤斯塔斯先生和负责GoogleBrain实验室的杰夫 · 迪恩（Jeff Dean）飞到了太浩湖（位于加州和内华达州的边缘），并在拍卖前一晚约了辛顿博士和他的学生去酒店里一家牛排餐厅吃饭。迪恩博士回忆说，那里弥漫着浓烈的烟味。他们劝说辛顿博士和他的学生来Google工作。
第二天，辛顿博士在他的酒店房间里进行拍卖。由于背部的旧伤，他很少坐下。他把一个垃圾桶倒扣在桌子上，把笔记本电脑放在上面，然后在接下来的两天里看着报价滚滚而来。
Google出了一个报价，微软也是。随着价格的上涨，DeepMind很快就退出了。根据拍卖详细文件，这些行业巨头将出价推高到2000万美元，然后是 2500万美元。当价格超过3000万美元时，微软退出了，但却在3700万美元时重新加入竞标。
“我们感觉像在拍电影一样。”辛顿博士说。
然后，微软第二次退出竞标。只剩下百度和Google，他们将竞标价格推到4200万美元。最后，在 4400万美元时，辛顿博士和他的学生终止了拍卖。尽管出价仍在上涨，但他们想为Google工作，而且这笔钱数目已经足够惊人。
这是一个明确的迹象，表明资金雄厚的公司决心购买最有才华的人工智能研究人员。DeepMind的哈萨比斯博士也意识到这一点，他一直告诉自己员工，DeepMind将保持独立运营。他认为，这是确保其技术不会变成危险品的最佳方式。
但随着大型科技公司加入人才竞赛，他认为自己已经别无选择：是时候出售了。
到 2012 年底，据三位知情人士透露，Google和Facebook都在寻求收购这家伦敦实验室。哈萨比斯博士和他的联合创始人坚持了两个条件：DeepMind的技术不能用于军事目的，其人工智能技术必须由一个由技术人员和伦理学家组成的独立委员会进行监督。
Google的出价是6.5亿美元。Facebook的扎克伯格向DeepMind的创始人提供了更高的价格，但不同意这两个条件。DeepMind最终卖给了 Google。
扎克伯格决定建立一个自己的人工智能实验室。他聘请了法国计算机科学家扬 · 勒昆（Yann LeCun）来管理这个实验室，他也做过开创性的人工智能研究。在辛顿博士拍卖会一年后，扎克伯格和扬 · 勒昆博士飞往太浩湖参加同样的人工智能会议。在哈拉斯赌场的一间套房里，扎克伯格先生穿着袜子四处走动，亲自面试顶级研究人员，这些人员很快获得了数百万美元的薪水和股票。
人工智能一度被人一笑置之。现在，硅谷最富有的人为了不掉队，不惜砸出数十亿美元。
迷失的道德委员会
当马斯克投资DeepMind时，他打破了自己的非正式规则 —— 他不会投资任何不是自己经营的公司。这个决定的负面影响，在他的生日争吵后仅一个月左右就显现了，他又要面对他的前朋友兼亿万富翁佩奇了。
这个场合是DeepMind伦理委员会的首次会议，于 2015 年 8 月 14 日举行。在创始人的坚持下，该委员会的成立是为了确保他们的技术在出售后不会造成任何伤害。据3位知情人士透露，委员会成员在马斯克于SpaceX的办公室外一个会议室集合，窗户外就能看到他的火箭工厂 。
但是，这也是马斯克控制权结束的地方。当Google收购DeepMind时，它买下了整个公司。马斯克被挤出局。虽然他赚了很多钱，但他并不开心。
现在，3位Google高管牢牢地控制了DeepMind：佩奇、Google的联合创始人谢尔盖 · 布林（Sergey Brin，特斯拉投资者）以及Google董事长埃里克 · 施密特（Eric Schmidt）。其他出席者包括另一位PayPal创始人里德 · 霍夫曼（Reid Hoffman），以及一位在研究“存在风险”的澳大利亚哲学家托比 · 奥德（Toby Ord）。
DeepMind的创始人报告说，他们正在推进其工作，但他们意识到这项技术存在严重风险。
DeepMind联合创始人苏莱曼做了一个名为“揭竿而起的人们即将到来”的演讲。他告诉董事会，人工智能可能导致虚假信息的爆炸式增长。他担忧，随着这项技术在未来几年取代无数的工作，公众会指责Google剥夺了他们的生计。他认为，Google需要与数百万失业的人分享其财富，并提供“全民基本收入”。
马斯克对此表示赞同。但很明显，他那些来自Google的客人并未打算对他们的财富进行再分配。施密特先生表示，他认为这些担忧完全被夸大了。佩奇先生以他惯常的轻声细语附和施密特。他辩称，人工智能创造的就业机会将超过它夺走的就业机会。
8个月后，DeepMind取得了令 AI界和全世界震惊的突破。一个名为AlphaGo的DeepMind机器击败了世界上最好的围棋选手之一。这场比赛通过互联网直播，全球有两亿人观看。大多数研究人员曾认为，AI需要再过十年才有能力做到这一点。
理性主义者、有效的利他主义者以及其他担心人工智能风险的人声称，计算机的胜利证实了他们的担忧。
“这是另一个迹象，表明人工智能的发展速度超过了许多专家的预期。”即将加入DeepMind担任人工智能安全研究员的维多利亚 · 克拉科夫娜（Victoria Krakovna）在博客文章中写道。
DeepMind的创始人们越来越担心Google会如何使用他们的发明。在 2017 年，他们试图脱离该公司。作为回应，Google提高了DeepMind创始人及其员工的薪水和股票奖励。他们选择了留下。
道德委员会，从未开过第二次会议。
分道扬镳
马斯克确信佩奇对人工智能的乐观完全错误，并对失去DeepMind感到愤怒，于是建立了自己的实验室。
OpenAI于 2015 年底成立，就在他和奥特曼在硅谷瑰丽酒店会面几个月后。马斯克向这个实验室注入大量资金，他的前 PayPal 伙伴，霍夫曼先生和蒂尔先生，也加入了进来。三人和其他人承诺向这个项目投入 10 亿美元，当时 30 岁的奥特曼将协助运营。为了启动这个项目，他们从Google挖来了伊尔亚 · 苏茨克维 （Ilya Sutskever）。（苏茨克维博士是Google在辛顿博士的拍卖中“买下”的研究生之一。）
最初，马斯克想要将OpenAI作为一个非营利机构运营，避免受到像Google这样的公司所驱动的经济利益的影响。但是，当Google以其围棋表演震惊科技界时，马斯克正在改变他对OpenAI应如何运营的看法。他迫切希望OpenAI能发明出一些能够吸引全世界的注意力、并缩小他们和Google差距的东西，但作为一个非营利机构，它并未能完成这项工作。
据4位知情人士透露，2017 年底，马斯克策划了一个计划，试图从奥特曼和其他创始人手中夺取实验室的控制权，将其转变为一个商业机构，与特斯拉联手，并依赖该汽车公司正在开发的超级计算机的公司。
当奥特曼和其他人反对时，马斯克选择退出，并表示他将专注于特斯拉本身的人工智能工作。2018 年 2 月，他在一家改建的卡车工厂的创业公司办公室的顶楼，向OpenAI的员工宣布了他的离职。当他说OpenAI需要加快步伐时，一名研究人员在会议上反驳说，马斯克太鲁莽了。
马斯克骂那个研究员是“笨蛋”，然后愤然离去，也带走了他的雄厚财力。
OpenAI突然间急需新的融资。奥特曼飞到了太阳谷参加一个会议，遇到了微软的首席执行官萨蒂亚 · 纳德拉（Satya Nadella）。两者的联合似乎自然而然。奥特曼认识微软的首席技术官凯文 · 斯科特（Kevin Scott）。微软曾从OpenAI董事会成员霍夫曼那里收购了领英（LinkedIn）。纳德拉委任斯科特去完成这件事。这笔交易在 2019 年完成。
奥特曼和OpenAI在原有的非营利组织下成立了一家营利性公司，他们拥有 10 亿美元的新资本，而微软也找到了一种将人工智能融入其庞大的云计算服务的新方法。
但不是OpenAI里的每个人都为此感到开心。
研究员达里奥 · 阿莫代伊（Dario Amodei）与有效利他主义社区有联系，当OpenAI在瑰丽酒店诞生时，他就已经在现场。阿莫代伊博士一边说话一边不停地捻着手指间的卷发，他正在领导实验室建立一个名为大型语言模型的神经网络，该网络可以从大量的数字文本中学习。通过分析无数的维基百科文章、电子书和留言板，它可以自己生成文本。但它也有一个不好的习惯，那就是编造事情。它被称为 GPT-3，于 2020 年夏天发布。
OpenAI、Google以及其他公司内部的研究人员认为，这种迅速改进的技术可能是通向 A.G.I. 的路径。
但是，阿莫代伊博士对微软这笔交易感到不满，因为他认为这正将OpenAI带向一个非常商业化的方向。据5位知情人士透露，他和其他研究人员曾试图向董事会施压，希望赶走奥特曼先生。但他们失败了，最后自己无奈离开。就像之前的DeepMind创始人一样，他们担心微软会将商业利益置于安全之上。
在 2021 年，大约 15 名工程师和科学家创建了一个名为 Anthropic的新实验室。他们的计划是按照有效利他主义者认为应该的方式来构建人工智能，即采用非常严格的控制。
“Anthropic的联合创始人并没有试图将奥特曼从OpenAI中踢出。”Anthropic的发言人莎莉 · 奥尔德斯（Sally Aldous）说，“联合创始人们达成一致，希望离开OpenAI去创办自己的公司，并将这一想法告知了OpenAI的领导层，并在几周内就双方同意的退出条款进行了谈判。”
Anthropic接受了来自亚马逊的 40 亿美元投资，两年后又从Google那里获得了 20 亿美元的投资。
新的启程
当OpenAI从微软那里获得了额外 20 亿美元的投资后，奥特曼和另一位高管格雷格 · 布罗克曼（Greg Brockman）前往比尔 · 盖茨位于西雅图郊外华盛顿湖畔的豪宅。尽管这位微软创始人已经不再参与公司的日常运营，但他仍然与公司的高管定期保持着联系。
在晚餐时，盖茨告诉他们，他不确定大型语言模型能否奏效。他表示，除非这项技术能完成需要批判性思维的任务，例如，通过大学生所修课程里的生物学考试，否则他将保持怀疑态度。
五个月后，也就是 2022 年 8 月 24 日，奥特曼和布罗克曼回来了，并带来了一位名叫切尔西 · 沃斯（Chelsea Voss）的OpenAI研究员，她在高中时曾是国际生物奥林匹克竞赛获得者。纳德拉先生和其他微软高管也在场。
在盖茨的客厅外的一个大型数字显示器上，OpenAI团队展示了一项名为 GPT-4 的技术。
布罗克曼先生让这个系统做了一次高级生物学考试的多选题，沃斯女士对答案进行了评分。第一个问题涉及极性分子，这是一种原子群，一端带正电，另一端带负电。系统正确地回答了问题，并解释了它的选择。“我们只训练了它提供答案，”布罗克曼先生说，“对话的特性却神奇地显现了出来。”换句话说，它正在做他们并没有真正设计它去做的事情。结果是：60个问题，GPT-4 只答错了1个。
盖茨先生坐直了身子，眼睛睁得大大的。1980 年，当研究人员向他展示成为现代个人电脑基础的图形用户界面时，他有过类似的反应。他认为 GPT 具有那样的革命性。
到十月份，微软已经在其在线服务中，包括其必应搜索引擎中，添加了这项技术。两个月后，OpenAI发布了其ChatGPT聊天机器人，现在每周有 1 亿人使用。
OpenAI已经打败了Anthropic的有效利他主义者。佩奇在Google的乐观派赶忙发布了他们自己的聊天机器人Bard，但人们普遍认为，在与OpenAI的竞争中，他们输了。在ChatGPT发布三个月后，Google的股票下跌了 11%。马斯克先生则无处可寻。
但这一切，只是开始。
资料来源 The New York Times
本文作者凯德 · 梅茨（Cade Metz）的写作涉及人工智能、无人驾驶汽车、机器人、虚拟现实和其他新兴技术领域等主题；
凯伦 · 怀斯（Karen Weise）主要关注亚马逊和微软两家公司；
尼科 · 格兰特（Nico Grant）是一位科技记者，在彭博新闻社工作了五年，专注于谷歌和云计算；
迈克 · 艾萨克（Mike Isaac）是《纽约时报》驻旧金山的科技记者