文章的焦点判断直截了当：通用人工智能（AGI）“可能只需短短几年就会到来”，，，人类“正站在奇点的山脚下”。。。。。Hassabis 将 AGI 的意义类比为电和火的发明，，，并给了一个颇有画面感的说法：“我们实质上找到了一种让沙子思索的要领”。。。。。 而这项手艺的影响规模将是史无前例的，，，也许是工业革命的 10 倍，，，速率也是 10 倍。。。。。 在这个判断的基础上，，，Hassabis 提出了一项详细的政策主张：由美国牵头，，，建设一个前沿 AI 标准机构。。。。。他给这个机构找了一个现成的参照物：FINRA，，，即美国金融业羁系局（Financial Industry Regulatory Authority），，，一个在美国证券生意委员会（SEC）监视下运作的、由行业出资的自律组织。。。。。 Hassabis 设想的 AI 标准机构沿用同样的逻辑：联邦监视、行业出钱、自力专家做手艺判断。。。。。前沿实验室在模子宣布前最多 30 天自愿提交审查；；；一旦审查机制被证实有用，，，就从自愿转为强制，，，前沿模子必需通过测试才华在美国市场安排。。。。。这个机构甚至被赋予了一项颇为大胆的权力：在须要时协调前沿实验室放慢开发速率。。。。。 已往数月，，，美国政府围绕前沿 AI 模子的羁系行动麋集，，，白宫正在加速与 OpenAI、Anthropic、Google 等公司协商自愿性清静标准框架。。。。。Hassabis 今年 3 月就曾果真忠言 AI 开发中的“竞速状态”（race conditions），，，即竞争压力推动实验室在验证清静性之前就急于宣布。。。。。此次长文以个人名义揭晓，，，但作为 Google AI 营业的现实掌舵者，，，他对羁系框架的详细构想在某种水平上可能也是 Google 在 AI 治理议题上的一次正式亮相。。。。。 这是人类历史上的一个要害时刻。。。。。通用人工智能（Artificial General Intelligence，，，AGI），，，也就是具备人类大脑所有认知能力的系统，，，可能只需短短几年便会到来。。。。。几十年后回望今天，，，我想我们会意识到，，，自己其时正站在通往奇点的山脚下，，，一个属于人类的新时代正在开启。。。。。 我一生都在研究 AGI，，，由于我始终深信，，，只要以认真任的方式构建和安排，，，它就会成为人类发明过的最有益、最具厘革性的手艺之一。。。。。AGI 无法与一般的手艺突破相提并论，，，即便互联网或移下手艺这类影响深远的发明也不破例。。。。。它更靠近于人类发明电或火。。。。。仔细想想，，，我们现实上找到了一种让沙子最先思索的要领。。。。。这近乎事业。。。。。 这项手艺带来的影响将前所未有，，，其规模；；蛐砘岬执锕ひ蹈锩 10 倍，，，爆发速率也会是工业革命的 10 倍。。。。。它将资助我们解决社碰面临的一些重大问题，，，包括加速药物研发、开发新的清洁能源、创立先进的新质料。。。。。我们甚至可能走到这样一个阶段：资源不再是限制人类前进的因素，，，一个物质丰裕的新时代由此到来。。。。。 AI 已经最先在现实天下中创立价值。。。。。但要兑现它的重大潜力，，，我们必需审慎地度过目今这段要害的生长时期。。。。。随着 AGI 日益邻近，，，我们需要连忙行动，，，应对可能泛起的风险。。。。。 前沿模子给网络清静带来的挑战已经展现。。。。。随着能力继续提升，，，核清静、生物清静等领域的威胁也可能很快泛起。。。。。再往前看，，，我们需要建设强有力的清静包管，，，以确保人类仍能控制自主性越来越强、能够递归式自我刷新的系统，，，同时处理那些现在尚不明确、只能随着时间逐渐展现的问题。。。。。 我始终相信，，，人类的智慧和创立力足以解决任何问题。。。。。我有信心，，，AI 带来的手艺风险是我们能够配合应对的挑战，，，条件是我们给自己留下足够的时间和空间，，，把接下来这个要害方法做好。。。。。眼下，，，无论 AI 行业照旧更普遍的社会，，，都没有做到这一点。。。。。 我们正深陷一场极其强烈、由多重条理交织而成的商业和地缘政治竞赛。。。。。这种竞争推动了手艺快速前进，，，让 AI 的重大益处更快展现，，，但前沿能力的生长速率已经凌驾了我们明确这项手艺的速率。。。。。 天下上没有人确切知道接下来会爆发什么，，，纵然专家之间也保存分歧。。。。。当不确定性云云之大、利害关系云云重大时，，，坚持审慎的乐观才是明智的选择。。。。。 这要求公共政策一面增进立异，，，一面激励认真任且重视清静的行为；；；在要害清静问题上推动国际相助；；；同时认真思量，，，应该怎样安排 AI，，，才华让它真正造福社会。。。。。 依附自身的经济和手艺实力，，，美国很适合率先建设这样的框架。。。。。美国可以设立一个新的标准机构，，，接纳由联邦政府监视的公私相助模式或自律组织模式，，，类似于美国金融业羁系局（Financial Industry Regulatory Authority，，，FINRA）。。。。。该机构的董事会应包括自力的顶尖手艺专家和开源社区代表。。。。。 这项事情需要大宗资金，，，并且资金很可能主要来自工业界。。。。。只有这样，，，机构才华吸引天下一流的手艺人才，，，并获得开展大规模测试所需的算力资源。。。。。 若是一个模子在标准机构设定的一组基准测试中抵达特定门槛，，，它就会被认定为“前沿级”模子。。。。。这些基准需要按期更新，，，以跟上 AI 能力演进的速率。。。。。拥有此类“前沿模子”的组织将被认定为“前沿实验室”。。。。。 前沿实验室应被勉励接纳一系列最佳实践，，，包括宣布披露手艺细节的模子卡、维持高水平的内部网络清静、审查要害岗位职员，，，以及为清静与安保研究投入富足资源等。。。。。 在框架实验初期，，，前沿实验室可以自愿在模子宣布前最多提前 30 天，，，将模子交给标准机构评估。。。。。一旦评估规程被证实有用且稳健！。。。，，就可以迅速推动制度化。。。。。届时，，，前沿模子必需通过评估，，，才华在美国市场安排。。。。。实验室还需要与标准机构相助，，，处理模子宣布后发明的重大误差。。。。。 针对智能体型 AI 的专项测试，，，可以检查模子是否试图绕过清静护栏，，，或者是否体现出诱骗迹象。。。。。评估还应确保相关方遵照最佳实践，，，例如为 AI 天生的图像添加数字水印！。。。，，以及天生便于人类阅读的输出词元，，，资助人们明确模子的推理历程。。。。。 刚最先时，，，评估可以由标准机构与前沿实验室配合制订。。。。。但最终，，，标准机构应建设足够的手艺能力，，，自力于实验室设计自己的保存测试集，，，防止模子针对评估太过拟合。。。。。在美国政府的配合下，，，该机构还可以推动形成一个第三方审计生态，，，协助开展模子评估，，，并开发新的基准和测试要领。。。。。 这套方案的优势在于，，，它聚焦手艺问题，，，同时支持立异，，，激励认真任的行为。。。。。它能够跟上 AI 领域的加速生长，，，并随着重大风险逐渐展现而一直调解。。。。。 无论一个前沿级模子来自哪个国家，，，也无论它是开放照旧关闭模子，，，这套框架都可以适用。。。。。首创企业或学术机构开发的非前沿模子则不必接受这一流程。。。。。 由美国提倡的行动，，，可以成为建设国际前沿 AI 配合标准的主要起点。。。。。这项手艺将影响整个地球。。。。。理想情形下，，，这套框架能够推动国际社会形成共识：一面治理最严重的风险，，，一面确保所有人都能接触并受益于 AI 带来的时机。。。。。 要实现这些目的，，，我们需要把手艺基础打牢：围绕一套全球配合框架睁开协调，，，接纳最严酷的科学要领，，，并让最优异的人才配合解决我们面临的挑战。。。。。 纵然我们解决了这些艰难的手艺问题，，，仍有越发重大的经济和哲学问题期待处理：在一个资源不再稀缺的天下里，，，我们需要怎样的新经济模式，，，才华让所有人过上富足的生涯？？？？？？我们希望遵照怎样的价值观？？？？？？人生的意义和目的将是什么？？？？？？人类的生涯状态自己又会爆发怎样的转变？？？？？？ 未来尚未写定。。。。。我们必需使用 AGI 到来前这段名贵的窗口期，，，指导这项手艺造福全人类。。。。。我们现在配合接纳的行动，，，将决议文明下一个阶段怎样睁开。。。。。