文章的焦点判断直截了当：通用人工智能（AGI）“可能只需短短几年就会到来”，，，，，，人类“正站在奇点的山脚下”。。。。Hassabis 将 AGI 的意义类比为电和火的发明，，，，，，并给了一个颇有画面感的说法：“我们实质上找到了一种让沙子思索的要领”。。。。 而这项手艺的影响规模将是史无前例的，，，，，，也许是工业革命的 10 倍，，，，，，速率也是 10 倍。。。。 在这个判断的基础上，，，，，，Hassabis 提出了一项详细的政策主张：由美国牵头，，，，，，建设一个前沿 AI 标准机构。。。。他给这个机构找了一个现成的参照物：FINRA，，，，，，即美国金融业羁系局（Financial Industry Regulatory Authority），，，，，，一个在美国证券生意委员会（SEC）监视下运作的、由行业出资的自律组织。。。。 Hassabis 设想的 AI 标准机构沿用同样的逻辑：联邦监视、行业出钱、自力专家做手艺判断。。。。前沿实验室在模子宣布前最多 30 天自愿提交审查；；一旦审查机制被证实有用，，，，，，就从自愿转为强制，，，，，，前沿模子必需通过测试才华在美国市场安排。。。。这个机构甚至被赋予了一项颇为大胆的权力：在须要时协调前沿实验室放慢开发速率。。。。 已往数月，，，，，，美国政府围绕前沿 AI 模子的羁系行动麋集，，，，，，白宫正在加速与 OpenAI、Anthropic、Google 等公司协商自愿性清静标准框架。。。。Hassabis 今年 3 月就曾果真忠言 AI 开发中的“竞速状态”（race conditions），，，，，，即竞争压力推动实验室在验证清静性之前就急于宣布。。。。此次长文以个人名义揭晓，，，，，，但作为 Google AI 营业的现实掌舵者，，，，，，他对羁系框架的详细构想在某种水平上可能也是 Google 在 AI 治理议题上的一次正式亮相。。。。 这是人类历史上的一个要害时刻。。。。通用人工智能（Artificial General Intelligence，，，，，，AGI），，，，，，也就是具备人类大脑所有认知能力的系统，，，，，，可能只需短短几年便会到来。。。。几十年后回望今天，，，，，，我想我们会意识到，，，，，，自己其时正站在通往奇点的山脚下，，，，，，一个属于人类的新时代正在开启。。。。 我一生都在研究 AGI，，，，，，由于我始终深信，，，，，，只要以认真任的方式构建和安排，，，，，，它就会成为人类发明过的最有益、最具厘革性的手艺之一。。。。AGI 无法与一般的手艺突破相提并论，，，，，，即便互联网或移下手艺这类影响深远的发明也不破例。。。。它更靠近于人类发明电或火。。。。仔细想想，，，，，，我们现实上找到了一种让沙子最先思索的要领。。。。这近乎事业。。。。 这项手艺带来的影响将前所未有，，，，，，其规模；蛐砘岬执锕ひ蹈锩 10 倍，，，，，，爆发速率也会是工业革命的 10 倍。。。。它将资助我们解决社碰面临的一些重大问题，，，，，，包括加速药物研发、开发新的清洁能源、创立先进的新质料。。。。我们甚至可能走到这样一个阶段：资源不再是限制人类前进的因素，，，，，，一个物质丰裕的新时代由此到来。。。。 AI 已经最先在现实天下中创立价值。。。。但要兑现它的重大潜力，，，，，，我们必需审慎地度过目今这段要害的生长时期。。。。随着 AGI 日益邻近，，，，，，我们需要连忙行动，，，，，，应对可能泛起的风险。。。。 前沿模子给网络清静带来的挑战已经展现。。。。随着能力继续提升，，，，，，核清静、生物清静等领域的威胁也可能很快泛起。。。。再往前看，，，，，，我们需要建设强有力的清静包管，，，，，，以确保人类仍能控制自主性越来越强、能够递归式自我刷新的系统，，，，，，同时处理那些现在尚不明确、只能随着时间逐渐展现的问题。。。。 我始终相信，，，，，，人类的智慧和创立力足以解决任何问题。。。。我有信心，，，，，，AI 带来的手艺风险是我们能够配合应对的挑战，，，，，，条件是我们给自己留下足够的时间和空间，，，，，，把接下来这个要害方法做好。。。。眼下，，，，，，无论 AI 行业照旧更普遍的社会，，，，，，都没有做到这一点。。。。 我们正深陷一场极其强烈、由多重条理交织而成的商业和地缘政治竞赛。。。。这种竞争推动了手艺快速前进，，，，，，让 AI 的重大益处更快展现，，，，，，但前沿能力的生长速率已经凌驾了我们明确这项手艺的速率。。。。 天下上没有人确切知道接下来会爆发什么，，，，，，纵然专家之间也保存分歧。。。。当不确定性云云之大、利害关系云云重大时，，，，，，坚持审慎的乐观才是明智的选择。。。。 这要求公共政策一面增进立异，，，，，，一面激励认真任且重视清静的行为；；在要害清静问题上推动国际相助；；同时认真思量，，，，，，应该怎样安排 AI，，，，，，才华让它真正造福社会。。。。 依附自身的经济和手艺实力，，，，，，美国很适合率先建设这样的框架。。。。美国可以设立一个新的标准机构，，，，，，接纳由联邦政府监视的公私相助模式或自律组织模式，，，，，，类似于美国金融业羁系局（Financial Industry Regulatory Authority，，，，，，FINRA）。。。。该机构的董事会应包括自力的顶尖手艺专家和开源社区代表。。。。 这项事情需要大宗资金，，，，，，并且资金很可能主要来自工业界。。。。只有这样，，，，，，机构才华吸引天下一流的手艺人才，，，，，，并获得开展大规模测试所需的算力资源。。。。 若是一个模子在标准机构设定的一组基准测试中抵达特定门槛，，，，，，它就会被认定为“前沿级”模子。。。。这些基准需要按期更新，，，，，，以跟上 AI 能力演进的速率。。。。拥有此类“前沿模子”的组织将被认定为“前沿实验室”。。。。 前沿实验室应被勉励接纳一系列最佳实践，，，，，，包括宣布披露手艺细节的模子卡、维持高水平的内部网络清静、审查要害岗位职员，，，，，，以及为清静与安保研究投入富足资源等。。。。 在框架实验初期，，，，，，前沿实验室可以自愿在模子宣布前最多提前 30 天，，，，，，将模子交给标准机构评估。。。。一旦评估规程被证实有用且稳健，，，，，，就可以迅速推动制度化。。。。届时，，，，，，前沿模子必需通过评估，，，，，，才华在美国市场安排。。。。实验室还需要与标准机构相助，，，，，，处理模子宣布后发明的重大误差。。。。 针对智能体型 AI 的专项测试，，，，，，可以检查模子是否试图绕过清静护栏，，，，，，或者是否体现出诱骗迹象。。。。评估还应确保相关方遵照最佳实践，，，，，，例如为 AI 天生的图像添加数字水印，，，，，，以及天生便于人类阅读的输出词元，，，，，，资助人们明确模子的推理历程。。。。 刚最先时，，，，，，评估可以由标准机构与前沿实验室配合制订。。。。但最终，，，，，，标准机构应建设足够的手艺能力，，，，，，自力于实验室设计自己的保存测试集，，，，，，防止模子针对评估太过拟合。。。。在美国政府的配合下，，，，，，该机构还可以推动形成一个第三方审计生态，，，，，，协助开展模子评估，，，，，，并开发新的基准和测试要领。。。。 这套方案的优势在于，，，，，，它聚焦手艺问题，，，，，，同时支持立异，，，，，，激励认真任的行为。。。。它能够跟上 AI 领域的加速生长，，，，，，并随着重大风险逐渐展现而一直调解。。。。 无论一个前沿级模子来自哪个国家，，，，，，也无论它是开放照旧关闭模子，，，，，，这套框架都可以适用。。。。首创企业或学术机构开发的非前沿模子则不必接受这一流程。。。。 由美国提倡的行动，，，，，，可以成为建设国际前沿 AI 配合标准的主要起点。。。。这项手艺将影响整个地球。。。。理想情形下，，，，，，这套框架能够推动国际社会形成共识：一面治理最严重的风险，，，，，，一面确保所有人都能接触并受益于 AI 带来的时机。。。。 要实现这些目的，，，，，，我们需要把手艺基础打牢：围绕一套全球配合框架睁开协调，，，，，，接纳最严酷的科学要领，，，，，，并让最优异的人才配合解决我们面临的挑战。。。。 纵然我们解决了这些艰难的手艺问题，，，，，，仍有越发重大的经济和哲学问题期待处理：在一个资源不再稀缺的天下里，，，，，，我们需要怎样的新经济模式，，，，，，才华让所有人过上富足的生涯？？？？？？我们希望遵照怎样的价值观？？？？？？人生的意义和目的将是什么？？？？？？人类的生涯状态自己又会爆发怎样的转变？？？？？？ 未来尚未写定。。。。我们必需使用 AGI 到来前这段名贵的窗口期，，，，，，指导这项手艺造福全人类。。。。我们现在配合接纳的行动，，，，，，将决议文明下一个阶段怎样睁开。。。。