Niinpä, mitäs muuta se ihminenkään on kuin arvauskone. Eli meillähän on itsellämme pään sisällä sellainen kapine, joka pyrkii monella tasolla arvaamaan, mitä seuraavaksi tapahtuu ja mitä sille pitäisi tehdä.
Tekoälyn (tässä: kielimallit) rajoite on - verkon painotusten säädöstä huolimatta - sokea usko sille syötetyn opetusaineiston laatuun. Jos lause "hauki on hyönteinen" toistuu aineistossa useimmin, tekoälyhän sinisilmäisesti uskoo asian.
Ihminen kykenee korjaamaan luetun ja havaitun todellisuuden ristiriitoja. Jos esimerkin hauki sopii paremmin kategoriaan kalat, ei luetulle anneta yhtä suurta painoarvoa. Tekoäly on ainakin toistaiseksi kykenemätön empiiriseen havainnointiin, eikä robotti tekoälyn jatkeena voi kokea maailmaa samalla tavalla kuin ihminen.
Niittyä reunustavaan paimenpoikaan lorottaminen on miehelle kivulias kokemus, mutta robotille saman kokeilun tekeminen on (ainakin toistaiseksi) fysikaalinen mahdottomuus. Ihminen on kaiken mitta, todettiin jo muinoin.
Suurin osa opetusmateriaalista on tietenkin hyväntahtoista ja pyrkii validiin kuvaukseen ympäröivästä maailmasta, mutta kielimallien joukosta tulee varmasti löytymään eri aatesuuntien painotuksia, jotka puoluelehtien tavoin kuvaavat asioita ja ilmiöitä omasta narratiivistaan käsin.