Några trevande ljumma synpunkter på AI-politikens framtid: Hittills har de flesta inom området fokuserat på modeller – dvs R&D-sidan. De antar implicit att det farliga/transformativa är själva basmodellen, snarare än hur den är konfigurerad, begränsad och integrerad i verkliga system; Modellen blir alltså det relevanta "objektet" för reglering eller tillsyn. Detta kan vara sant eller inte, och jag är glad att det finns gott om tankar som går i dessa banor. Men det är också troligt att det som i slutändan betyder lika mycket är systemet som utnyttjar modellen genom byggnadsställningar, verktyg, underagenter med mera - det som folk vanligtvis kallar en "deployment"-sida av saken. Dessa system/tjänster kommer att se väldigt olika ut beroende på relevanta användare, marknader och sektorer. Detta kan betyda några olika saker: För det första tror jag att distributioner betyder mycket mer än vad som vanligtvis antyds. Detta internaliserades till viss del i debatter om partiskhet, där det blev uppenbart att man inte kan få en modell att samtidigt ta itu med alla fördomar man kan tänka sig, utan att det är bättre att ingripa med tanke på lokala lagar och sammanhang. Det modellcentrerade synsättet uppmuntrar ibland till ett resonemang som är skilt från den institutionella och domänspecifika kontext där risker faktiskt materialiseras. För det andra, för att besegra Kina eller för att bota sjukdomar eller för att få höga tillväxtnivåer, är det värdelöst att ha en superkraftfull modell som bara sitter där i din källare. Du behöver faktiskt den teknik som används över hela linjen. Och min gissning är att detta kommer att bli ganska svårt, av samma skäl som många västerländska ekonomier kämpar för att bygga något (bostäder, energi, infrastruktur, medicinteknik, konsumentfinansiering etc.). "Implementeringssidan" är förlamad av de många äldre icke-AI-lagar vi har som kommer att bromsa användbar användning. Tänk på hur London fortfarande har tunnelbaneförare trots att "förmågan" är automatiserad. Om du vill att AGI ska hjälpa samhällen att blomstra måste du ta itu med många politiska problem som inte är relaterade till AI. För det tredje, om distributioner är viktigast, är den senaste tidens besatthet av "suveräna" AI-modeller sannolikt missriktad. Ekonomisk styrka kommer från att implementera AI effektivt i hela din ekonomi, inte från att äga en basmodell. Detta kräver både att man åtgärdar distributionshinder (som ovan) och att man pragmatiskt använder de bästa tillgängliga modellerna oavsett ursprung. Mer allmänt gäller samma logik bortom själva modellerna. Att försöka lägga till allt lokalt, oavsett om det sker genom industripolitik eller protektionism, innebär att man bortser från grundläggande ekonomiska realiteter. Belgien har större nytta av att ha tillgång till miljontals böcker än av att äga tryckpressar. På samma sätt tjänar avancerade ekonomier mer på intelligent specialisering och handel med allierade än på kostsamma försök till autarki. Även om AI är en onormal teknik har grunderna för hur ekonomier organiserar komplex produktion inte förändrats. Om detta är rätt kommer en stor del av det politiska arbetet framöver att handla om att minska friktionen i utplaceringen, underlätta handeln och bygga upp sektoriell och institutionell kapacitet: always-has-been-atronaut.gif!