Hyvä postaus @balajis "vahvistusaukosta". Voisit nähdä sen niin, että luomisessa on kaksi tilaa. GAN-terminologian lainaaminen: 1) tuotanto ja 2) syrjintä. esim. maalaus - teet siveltimenvedon (1) ja sitten etsit hetken nähdäksesi, oletko parantanut maalausta (2). Nämä kaksi vaihetta ovat sekoittuneet lähes kaikkeen luovaan työhön. Toinen asia. Syrjintä voi olla laskennallisesti erittäin vaikeaa. - Kuvat ovat ylivoimaisesti helpoimpia. Esimerkiksi kuvageneraattoritiimit voivat luoda jättimäisiä tulosruudukoita päättääkseen, onko yksi kuva parempi kuin toinen. kiitos aivojesi jättimäiselle GPU:lle, joka on rakennettu käsittelemään kuvia erittäin nopeasti. - Teksti on paljon vaikeampaa. Se on luettavissa, mutta sinun on luettava, se on semanttinen, diskreetti ja tarkka, joten sinun on myös pääteltävä (erityisesti esim. koodissa). - Ääni on ehkä vieläkin vaikeampaa IMO, koska se pakottaa aika-akselin niin, että se ei ole edes silmättävissä. sinun on pakko käyttää sarjalaskentaan, etkä voi rinnakkaistaa sitä ollenkaan. Voisi sanoa, että koodauksessa LLM:t ovat romahtaneet (1) ~välittömäksi, mutta ne ovat tehneet hyvin vähän (2) korjaamiseksi. Ihmisen on silti tuijotettava tuloksia ja eroteltava, ovatko ne hyviä. Tämä on suurin kritiikkini LLM-koodausta kohtaan, koska he sylkevät rennosti *reilusti* liikaa koodia kyselyä kohden mielivaltaisella monimutkaisuudella, teeskennellen, ettei vaihetta 2 ole. Näin suuren koodin saaminen on huono ja pelottavaa. Sen sijaan LLM:n on työskenneltävä aktiivisesti kanssasi jakaakseen ongelmat pieniin vaiheisiin, joista jokainen on helpommin todennettavissa. Sen on ennakoitava (2):n laskennallista työtä ja vähennettävä sitä niin paljon kuin mahdollista. Sen on todella välitettävä. Tämä johtaa minut luultavasti suurimpaan väärinkäsitykseen, joka ei-koodaajilla on koodauksesta. He ajattelevat, että koodauksessa on kyse koodin kirjoittamisesta (1). Se ei ole. Kyse on koodin tuijottamisesta (2). Ladataan kaiken työmuistiisi. Käveleminen edestakaisin. Kaikkien reunatapausten läpikäyminen. Jos saat minut kiinni satunnaisesta kohdasta "ohjelmoidessani", luultavasti vain tuijotan näyttöä ja jos minut keskeytetään, olen todella vihainen, koska se on niin laskennallisesti rasittava. Jos saamme vain paljon nopeamman 1:n, mutta emme myöskään vähennä 2:ta (mikä on useimmiten!), niin koodauksen yleinen nopeus ei selvästikään parane (katso Amdahlin laki).