关于人工智能政策未来的一些初步看法： 迄今为止，领域内的大多数人都专注于模型——即研发方面。他们隐含地假设，危险/变革性的东西是基础模型本身，而不是它是如何配置、约束和集成到真实系统中的；因此，模型成为了监管或监督的相关“对象”。这可能是对的，也可能不是，我很高兴有很多思考沿着这些方向进行。 但同样，最终重要的可能是通过支架、工具、子代理等利用模型的系统——人们通常所说的“部署”方面。这些系统/服务将根据相关用户、市场和行业的不同而看起来非常不同。这可能意味着几件不同的事情： 首先，我认为部署比通常所暗示的要重要得多。这在关于偏见的辩论中有所内化，显而易见的是，你无法让一个模型同时解决所有可能想到的偏见，而更好的干预点是在部署时，考虑当地法律和背景。以模型为中心的观点有时会鼓励一种与风险实际发生的制度和领域特定背景脱节的推理方式。 其次，要战胜中国、治愈疾病或实现高水平增长，单靠一个超级强大的模型静静地放在地下室是毫无用处的。你实际上需要在各个领域部署技术。我的猜测是，这将相当困难，原因与许多西方经济体在建设任何东西（住房、能源、基础设施、医疗技术、消费金融等）方面的挣扎相同。“部署方面”受到许多遗留的非人工智能法律的制约，这将减缓有用的采用。考虑一下，尽管“能力”是可以自动化的，伦敦仍然有地铁司机。如果你希望AGI帮助社会繁荣，那么你需要解决许多与人工智能无关的政策问题。 第三，如果部署最为重要，那么最近对“主权”人工智能模型的痴迷可能是误导的。经济实力来自于在经济中有效部署人工智能，而不是拥有一个基础模型。这需要修复部署障碍（如上所述）并务实地使用最佳可用模型，而不论其来源。更广泛地说，同样的逻辑适用于模型本身之外。试图通过工业政策或保护主义将一切本地化，忽视了基本的经济现实。比利时从获取数百万本书中受益更多，而不是拥有印刷机；同样，发达经济体从智能专业化和与盟友的贸易中获得的收益，远超过代价高昂的自给自足尝试。 即使人工智能是一种异常技术，经济组织复杂生产的基本原理也没有改变。如果这是正确的，那么未来的政策工作大部分在于减少部署摩擦、促进贸易和建立部门和制度能力：always-has-been-atronaut.gif!