Mutta aika paljon pitää komentaa ja vahtia tekoälyä kun se tahtoo aina tehdä omia oletuksia... 
Tuo lienee tekoälyyn kuuluva juttu. Tekoäly pyrkii saamaan positiivista vastetta, ja se arvelee, mitä missäkin tilanteessa pitäisi sanoa, jotta vastaanottaja on tyytyväinen. Gemini on
laaja kielimalli, ei se ole keinotekoinen aivo. Tätä voi kokeilla silläkin, että antaa Geminille vaikka Typpirikas Y-lannoksen ,(jota ei siis ole kaupassa) ja satovaatimuksen Vertti -ohralle 12000 kg/ha. Lisätään chattiin, että lannoitevalmistajan asiantuntija antoi minityppimääräksi 270 kg N/ha Niin huomaa, kuinka Geminikin alkaa ponnistella miellyttämisenhalun, käyttäjään uskomisen ja mahdottomuuksien välillä. Ja sitten kun moittii tekoälyä virheistä, se on oikein yhteistyöhaluinen, mutta alkaa mennä vieläkin pitemmälle vinoon. ChatGpt:llä ei ainakaan korjailukierroksista tullut mitään järkevää, vaan oli parempi aloittaa tyhjästä uudelleen.
Tekoälyn suurin riski on sen vakuuttavuus. Se tuottaa niin sujuvaa kieltä, että ihminen olettaa siellä olevan "jonkun kotona", vaikka todellisuudessa kyse on vain erittäin kehittyneestä matematiikasta. Kysymykseen laaja kielimalli vastaa sillä tavalla, että se ei oikeasti tiedä yhtään mitään sanoista pelto, ohra tai lannoite, mutta se laskee todennäköisyyksiä seuraaville sanoille ja ilmaisuille,
siinä yhteydessä. Älykkyyden tuntuma syntyy siitä, kuinka monimutkaisia ja pitkiä nämä tilastolliset ketjut ovat. LLM jatkaa eteen päin kokonaisia lauseita ja kappaleita: se ei vain ennusta yhtä seuraavaa sanaa, vaan se rakentaa vastauksen huomioiden tuhansia aiempia sanoja haluttuun yhteyteen sopivana.
Gemini myös alkoi tahallaan hiukan viisastelijaksi, kun näiden kokeilujen jälkeen pyysin tekemään itsestäni kuvan ajamassa hytittömällä Ford 5000 - traktorilla. Niin tuossa kuvassa näkyy selkeää kettuilua: Tuo ei ole Ford 5000 vaan 2000/3000, johon on ympätty Ford 4000 muistuttava etukehto. Viistonnista nähnytkään.

Kuva: -SS- ajaa tekoälyn miettimällä Ford 5000-traktorilla ?
-SS-