Anthropic拿出3208亿，这是为AI灭世论“买单”吗？

在Anthropic联合创始人杰克·克拉克宣称“奇点已经开启”的次日，该公司计划拿出5%的股份，用于处理AI可能引发的社会问题。

按照5月9650亿美元的估值，这笔股份价值约480亿美元（约合3208亿元人民币）。资金用途包括应对AI导致的就业冲击，甚至直接向受影响人群发放补贴。

过去几年，从超级智能失控、人类灭绝，到数百万白领失业，Anthropic一直是AI末日论的主要倡导者之一。

然而，这家“最担忧”AI毁灭世界的公司，自身却在加速开发更强大的AI，甚至准备冲刺万亿美元级别的IPO。

曾经，AI末日论是Anthropic证明自身前沿地位的招牌，但随着上市临近，这套叙事开始反过来带来压力。

10月14日，纽约市审计长马克·莱文致信阿莫迪，要求Anthropic暂停IPO。他负责监管总资产超3250亿美元的纽约市公共养老基金，其中约700万美元通过私募股权投资间接配置于Anthropic。

莱文在信中列举了Anthropic近期的警告：9月9日，研究员雅各布·考克森离职时表示，公司内部有人相信AI可能在2030年前杀死所有人；对齐科学负责人Evan Hubinger认为，未来十年AI导致人类灭绝的概率超10%。三天后，阿莫迪发表长文，呼吁放缓前沿模型能力增长，警告AI自我改进可能超出人类控制。9月底，Anthropic将末日预言写入IPO申报草案，261页正文中，业务介绍仅48页，风险披露却约80页，明确警告先进AI可能造成灾难性威胁。

莱文表示，既然Anthropic呼吁放缓AI发展，在推进IPO时也应同样谨慎。类似批评并非首次。今年8月，科技投资人加文·贝克公开批评阿莫迪，认为他渲染AI危险助长了社会抵触情绪。贝克劝他作为即将成为重要科技公司CEO，应为行业说好话。阿莫迪不认同，认为公众负面态度是信任危机，不能归咎于风险警告。

Anthropic花了好几年警告AI危险，如今有人相信了，并要求其付出代价。

阿莫迪相信AI可能失控，也呼吁放缓技术发展，但Anthropic的商业扩张并未停止。9月12日，他呼吁放缓前沿AI能力增长；十天后，公司推出Opus 5.5。随后，9月28日Sonnet 5.5、10月7日Haiku 5.5相继发布，短短半个月更新三款模型，并打起价格战。

模型研发未停，烧钱速度也未放缓。据IPO申报草案，Anthropic未来十年算力和基础设施支出至少5180亿美元，其中约80%为不可取消承诺。最近，华尔街为Anthropic筹措约600亿美元芯片融资，用于采购约1.5吉瓦谷歌TPU，交易代号“北极星计划”，有望成为史上最大芯片融资。投资机构购买芯片后通过五年租赁协议提供，黑石旗下基金拟认购90亿美元高风险债务，票息10%。为获取足够芯片，Anthropic愿承担高昂成本。

庞大投入需更大收入支撑。10月14日，Anthropic召开上市前投资者日，公布第三季度营收168亿美元，连续第二季度实现调整后盈利。但增速放缓，第二季度营收环比涨约145%，第三季度降至45%，部分投资者失望。据路透社，部分投资者开始讨论将IPO估值预期下调至1.5万亿美元。有意思的是，这次阿莫迪虽强调AI安全，却未再主动提及人类灭绝风险。毕竟面对投资者，Anthropic需展示增长潜力，即使阿莫迪认为AI发展太快，公司也很难停下。

某种意义上，AI灭世论是极端技术宣传。Anthropic反复警告AI可能导致数百万白领失业甚至毁灭人类时，也在展示技术强大到足以改变人类命运。技术被描述得越危险，Anthropic需承担的责任越多。

10月15日，Anthropic宣布向非营利AI评估机构METR的六名工作人员开放接近内部员工级别的访问权限。这些外部评估人员可使用公司内部工具和系统检查模型、安全措施及潜在风险，独立发表评估结果。Anthropic不能直接阻止发布，但可要求删除敏感信息。这兑现了阿莫迪一个月前的承诺。对于一家强调AI可能失控的公司，让外人检查自己是否管好AI，比单纯警告更有说服力。

在社会责任方面，Anthropic动作更大。今年6月，公司投入2亿美元成立经济未来研究基金；7月明确研究方向，包括职业转型、失业收入保障及让劳动者分享AI财富。10月18日，Anthropic宣布拿出5%股份成立公益基金。按方案，公司估值每增长50%，董事会可酌情追加2%股份。加上创始人及员工此前捐赠承诺，未来约有20%公司股份用于公共利益。不过，这笔价值约480亿美元的股份仍待股东批准。消息一出，马斯克评论：“我建议直接把股份分给公众。”随后发文：“明年，我会把SpaceX股票分给美国每个孩子。”有网友直言，Anthropic做法恐怕只为公关。

从公开呼吁减速，到接受外部监督，再到拿出巨额股份支持公益，Anthropic试图证明能承担AI风险和社会后果。这或许有真诚责任感，也可能包含上市前形象建设。两者不冲突。只不过，当年讲述AI末日故事时，Anthropic或许没想到，有一天它真需为这些故事付出数百亿美元——而且，这笔钱未必买得来公众信任。如果您想了解更详细的行业动态，可以访问爱游戏正版入口-爱游戏 (AYX)官方网站登录入口获取更多信息。本文来自微信公众号“字母AI”，作者袁心玥，36氪经授权发布。