Se, mitä Dwarkesh kutsuu "jatkuvaksi (työssä) oppimiseksi", tunnetaan myös nimellä "koeaikainen oppiminen" tai "painonsisäinen" oppiminen. On mahdollista, että tämä kyky voidaan rakentaa ohjelmistotelineiksi LLM:ien ympärille. Mutta on selvää, että LLM:iltä itsessään puuttuu tämä kyky. Katso edellinen keskustelu tästä aiheesta alla olevasta ketjusta.

Kaksoset AI: Fyysikko ja tekoälyn perustaja Steve Hsu kuvaili "Turingin testimuunnelmaa", jonka hän väittää kaikkien nykyisten suurten kielimallien (LLM) epäonnistuvan. Haaste Hsu:n testi vaatii LLM:n seuraavien kahden vaiheen suorittamiseen: Keskustele eturintaman tutkimusongelmasta erikoisalalla. Sinulle esitetään uusi tieto, joka on ristiriidassa vallitsevan kirjallisuuden kanssa, ja sisällytä se oikein sen ymmärrykseen. Miksi LLM:t eivät läpäise testiä Hsun mukaan LLM:t epäonnistuvat, koska he eivät pysty mukauttamaan tietojaan heille esitettyjen uusien todisteiden perusteella. He pysyvät ankkuroituina (tässä tapauksessa virheelliseen tietoon, johon heidät on koulutettu. Ongelma korostuu erityisesti tutkimussovelluksissa, joissa Hsu on havainnut LLM:ien luottavat edelleen "vääriin asioihin, joita se näki esikoulutuksessa", vaikka hän tarjoaa erittäin vahvoja todisteita, jotka ovat ristiriidassa koulutustietojen kanssa. Ihmistohtoriopiskelija sitä vastoin voi heti ymmärtää uuden oivalluksen. Taustalla oleva tekninen rajoitus Hsu yhdistää testin epäonnistumisen avoimeen "painon" oppimisen tai verkko-oppimisen ongelmaan, joka viittaa tekoälyn kykyyn päivittää ydinpainojaan tai parametrejaan uuden tiedon perusteella sen sijaan, että se vain mukauttaisi keskustelukontekstiaan. Hän toteaa, että ilman tätä kykyä LLM:t eivät voi siirtyä "pois jakelusta" sisällyttääkseen täysin uraauurtavaa uutta tietoa. Tämä on ristiriidassa ihmisten toimintatavan kanssa, jossa uudet oivallukset voivat muuttaa perusteellisesti ja välittömästi käsitystämme aiheesta. LLM:iä ei ole rakennettu muuttamaan perustietojaan samalla tavalla.