文章的焦点判断直截了当：通用人工智能（AGI）“可能只需短短几年就会到来”，，，，，，人类“正站在奇点的山脚下”。。。Hassabis 将 AGI 的意义类比为电和火的发明，，，，，，并给了一个颇有画面感的说法：“我们实质上找到了一种让沙子思索的要领”。。。 而这项手艺的影响规模将是史无前例的，，，，，，也许是工业革命的 10 倍，，，，，，速率也是 10 倍。。。 在这个判断的基础上，，，，，，Hassabis 提出了一项详细的政策主张：由美国牵头，，，，，，建设一个前沿 AI 标准机构。。。他给这个机构找了一个现成的参照物：FINRA，，，，，，即美国金融业羁系局（Financial Industry Regulatory Authority），，，，，，一个在美国证券生意委员会（SEC）监视下运作的、由行业出资的自律组织。。。 Hassabis 设想的 AI 标准机构沿用同样的逻辑：联邦监视、行业出钱、自力专家做手艺判断。。。前沿实验室在模子宣布前最多 30 天自愿提交审查；；；一旦审查机制被证实有用，，，，，，就从自愿转为强制，，，，，，前沿模子必需通过测试才华在美国市场安排。。。这个机构甚至被赋予了一项颇为大胆的权力：在须要时协调前沿实验室放慢开发速率。。。 已往数月，，，，，，美国政府围绕前沿 AI 模子的羁系行动麋集，，，，，，白宫正在加速与 OpenAI、Anthropic、Google 等公司协商自愿性清静标准框架。。。Hassabis 今年 3 月就曾果真忠言 AI 开发中的“竞速状态”（race conditions），，，，，，即竞争压力推动实验室在验证清静性之前就急于宣布。。。此次长文以个人名义揭晓，，，，，，但作为 Google AI 营业的现实掌舵者，，，，，，他对羁系框架的详细构想在某种水平上可能也是 Google 在 AI 治理议题上的一次正式亮相。。。 这是人类历史上的一个要害时刻。。。通用人工智能（Artificial General Intelligence，，，，，，AGI），，，，，，也就是具备人类大脑所有认知能力的系统，，，，，，可能只需短短几年便会到来。。。几十年后回望今天，，，，，，我想我们会意识到，，，，，，自己其时正站在通往奇点的山脚下，，，，，，一个属于人类的新时代正在开启。。。 我一生都在研究 AGI，，，，，，由于我始终深信，，，，，，只要以认真任的方式构建和安排，，，，，，它就会成为人类发明过的最有益、最具厘革性的手艺之一。。。AGI 无法与一般的手艺突破相提并论，，，，，，即便互联网或移下手艺这类影响深远的发明也不破例。。。它更靠近于人类发明电或火。。。仔细想想，，，，，，我们现实上找到了一种让沙子最先思索的要领。。。这近乎事业。。。 这项手艺带来的影响将前所未有，，，，，，其规；；；蛐砘岬执锕ひ蹈锩 10 倍，，，，，，爆发速率也会是工业革命的 10 倍。。。它将资助我们解决社碰面临的一些重大问题，，，，，，包括加速药物研发、开发新的清洁能源、创立先进的新质料。。。我们甚至可能走到这样一个阶段：资源不再是限制人类前进的因素，，，，，，一个物质丰裕的新时代由此到来。。。 AI 已经最先在现实天下中创立价值。。。但要兑现它的重大潜力，，，，，，我们必需审慎地度过目今这段要害的生长时期。。。随着 AGI 日益邻近，，，，，，我们需要连忙行动，，，，，，应对可能泛起的风险。。。 前沿模子给网络清静带来的挑战已经展现。。。随着能力继续提升，，，，，，核清静、生物清静等领域的威胁也可能很快泛起。。。再往前看，，，，，，我们需要建设强有力的清静包管，，，，，，以确保人类仍能控制自主性越来越强、能够递归式自我刷新的系统，，，，，，同时处理那些现在尚不明确、只能随着时间逐渐展现的问题。。。 我始终相信，，，，，，人类的智慧和创立力足以解决任何问题。。。我有信心，，，，，，AI 带来的手艺风险是我们能够配合应对的挑战，，，，，，条件是我们给自己留下足够的时间和空间，，，，，，把接下来这个要害方法做好。。。眼下，，，，，，无论 AI 行业照旧更普遍的社会，，，，，，都没有做到这一点。。。 我们正深陷一场极其强烈、由多重条理交织而成的商业和地缘政治竞赛。。。这种竞争推动了手艺快速前进，，，，，，让 AI 的重大益处更快展现，，，，，，但前沿能力的生长速率已经凌驾了我们明确这项手艺的速率。。。 天下上没有人确切知道接下来会爆发什么，，，，，，纵然专家之间也保存分歧。。。当不确定性云云之大、利害关系云云重大时，，，，，，坚持审慎的乐观才是明智的选择。。。 这要求公共政策一面增进立异，，，，，，一面激励认真任且重视清静的行为；；；在要害清静问题上推动国际相助；；；同时认真思量，，，，，，应该怎样安排 AI，，，，，，才华让它真正造福社会。。。 依附自身的经济和手艺实力，，，，，，美国很适合率先建设这样的框架。。。美国可以设立一个新的标准机构，，，，，，接纳由联邦政府监视的公私相助模式或自律组织模式，，，，，，类似于美国金融业羁系局（Financial Industry Regulatory Authority，，，，，，FINRA）。。。该机构的董事会应包括自力的顶尖手艺专家和开源社区代表。。。 这项事情需要大宗资金，，，，，，并且资金很可能主要来自工业界。。。只有这样，，，，，，机构才华吸引天下一流的手艺人才，，，，，，并获得开展大规模测试所需的算力资源。。。 若是一个模子在标准机构设定的一组基准测试中抵达特定门槛，，，，，，它就会被认定为“前沿级”模子。。。这些基准需要按期更新，，，，，，以跟上 AI 能力演进的速率。。。拥有此类“前沿模子”的组织将被认定为“前沿实验室”。。。 前沿实验室应被勉励接纳一系列最佳实践，，，，，，包括宣布披露手艺细节的模子卡、维持高水平的内部网络清静、审查要害岗位职员，，，，，，以及为清静与安保研究投入富足资源等。。。 在框架实验初期，，，，，，前沿实验室可以自愿在模子宣布前最多提前 30 天，，，，，，将模子交给标准机构评估。。。一旦评估规程被证实有用且稳健，，，，，，就可以迅速推动制度化。。。届时，，，，，，前沿模子必需通过评估，，，，，，才华在美国市场安排。。。实验室还需要与标准机构相助，，，，，，处理模子宣布后发明的重大误差。。。 针对智能体型 AI 的专项测试，，，，，，可以检查模子是否试图绕过清静护栏，，，，，，或者是否体现出诱骗迹象。。。评估还应确保相关方遵照最佳实践，，，，，，例如为 AI 天生的图像添加数字水印，，，，，，以及天生便于人类阅读的输出词元，，，，，，资助人们明确模子的推理历程。。。 刚最先时，，，，，，评估可以由标准机构与前沿实验室配合制订。。。但最终，，，，，，标准机构应建设足够的手艺能力，，，，，，自力于实验室设计自己的保存测试集，，，，，，防止模子针对评估太过拟合。。。在美国政府的配合下，，，，，，该机构还可以推动形成一个第三方审计生态，，，，，，协助开展模子评估，，，，，，并开发新的基准和测试要领。。。 这套方案的优势在于，，，，，，它聚焦手艺问题，，，，，，同时支持立异，，，，，，激励认真任的行为。。。它能够跟上 AI 领域的加速生长，，，，，，并随着重大风险逐渐展现而一直调解。。。 无论一个前沿级模子来自哪个国家，，，，，，也无论它是开放照旧关闭模子，，，，，，这套框架都可以适用。。。首创企业或学术机构开发的非前沿模子则不必接受这一流程。。。 由美国提倡的行动，，，，，，可以成为建设国际前沿 AI 配合标准的主要起点。。。这项手艺将影响整个地球。。。理想情形下，，，，，，这套框架能够推动国际社会形成共识：一面治理最严重的风险，，，，，，一面确保所有人都能接触并受益于 AI 带来的时机。。。 要实现这些目的，，，，，，我们需要把手艺基础打牢：围绕一套全球配合框架睁开协调，，，，，，接纳最严酷的科学要领，，，，，，并让最优异的人才配合解决我们面临的挑战。。。 纵然我们解决了这些艰难的手艺问题，，，，，，仍有越发重大的经济和哲学问题期待处理：在一个资源不再稀缺的天下里，，，，，，我们需要怎样的新经济模式，，，，，，才华让所有人过上富足的生涯？？？？？我们希望遵照怎样的价值观？？？？？人生的意义和目的将是什么？？？？？人类的生涯状态自己又会爆发怎样的转变？？？？？ 未来尚未写定。。。我们必需使用 AGI 到来前这段名贵的窗口期，，，，，，指导这项手艺造福全人类。。。我们现在配合接纳的行动，，，，，，将决议文明下一个阶段怎样睁开。。。