Kun arvauskoneelle esittää helpon matemaattisen kysymyksen, vastaa se ensin oikein. Mutta kun sama kysymys esitetään sitten vähän eri sanoin, on vastaus väärin. Ja kun sitten koneelle aletaan antamaan palautetta asenteella "Miten voit olla tässä väärässä, tämähän on helppo kysymys?" niin kone alkaa jatkuvasti muuttamaan vastaustaan päinvastaiseksi, eli ensin väärän oikeaksi, ja sitten takaisin vääräksi.
Olisi tietysti triviaalin yksinkertaista toteuttaa keskusteluohjelma, joka osaa vastata oikein kysymyksiin kuten "Kuinka monta a-kirjainta on sanassa 'maanantai'?" tai "Kumpi on isompi, 5 vai 6?". Mutta osittain juuri tästä syystä tällaista ei haluta tehdä. "Kielimallit" ovat nyt kuuminta muotia, ja yritysten osakearvot tähtitieteelliset. Tämä arvostus pörssissä perustuu juuri siihen käsitykseen, että jokin on vaikeaa. Jos jokin on vaikeaa, ei sitä kilpailija pysty kopioimaan, ja vaikean ongelman ratkaisseella yrityksellä on käytännössä monopoli ongelman ratkaisuun. Helpon ongelmanratkaisun liittäminen osaksi keskusteluohjelmaa toisi huomiota sille, että keskusteluohjelman perusteknologia, kielimalli, ei ole niin taianomainen ja täydellinen kuin sen kuvitellaan olevan, ja osakekurssit taas perustuvat näihin kuvitelmiin, eivät todellisuuteen. Yritykset itse tiedostavat tämän, ja ymmärtävät että sijoittajat oletettavasti eivät ymmärrä, joten illuusiota täytyy suojella, vaikka se tekisi teknologiasta huonomman. Miljardit riippuvat siitä.
