AI-UPPMANING → AI-VERIFIERING AI-uppmaningar skalas, eftersom uppmaningar är att bara skriva. Men AI-verifiering skalas inte, eftersom verifiering av AI-utdata innebär mycket mer än att bara skriva. Ibland kan du verifiera med ögat, vilket är anledningen till att AI är bra för frontend, bilder och video. Men för allt subtilt måste du läsa koden eller texten djupt – och det innebär att du måste känna till ämnet tillräckligt väl för att korrigera AI:n. Forskare är väl medvetna om detta, vilket är anledningen till att det finns så mycket arbete om evals och hallucinationer. Begreppet verifiering som flaskhals för AI-användare diskuteras dock för lite. Ja, du kan prova formell verifiering, eller kritisera modeller där en AI kontrollerar en annan, eller andra tekniker. Men att ens vara medveten om problemet som ett första klassens problem är halva striden. För användare: AI-verifiering är lika viktigt som AI-uppmaningar.