http://www.helsinginuutiset.fi/artikkeli/577238-tekoaly-oppi-jo-tappamaan-vaikka-sita-ei-oltu-siihen-ohjelmoitu-tutkija
                                                                                                       
tutkija
                                               
http://www.is.fi/digitoday/tietoturva/art-2000006463331.html
         
                                                                        tutkimusjohtaja

Täyttä paskaa tuo tekoälyn "muka ei ohjelmoitu".

Sitä ei välttämättä ole tarkoituksella ohjelmoitu, mutta ihminen sen on ohjelmoinut. Tämä johtuu siitä, että ohjelman kääntäjä kääntää ihmisen tekemän korkean tason ohjelmointikielen konekieleksi. Mitä suurempia ja hurjempia ohjelmat ovat, sitä enemmän niiden koodin kääntämisessä syntyy turhaa paskaa. Ja kun tämä paska on olemassa, seuraukset voivat olla arvaamattomat.

Käytännön elämässä se näkyy virrat pois ja takaisin päälle ratkaisussa. Ihminen sen kääntäjänkin on tehnyt, joten ei se tekoäly tee mitään ilman ihmisen käskyä. Jos transistori osaa kytkeä itsensä auki tai kiinni, silloin ihmisten peli on menetetty. Ei ennen sitä.

" Matematiikka on kaunista ja hyvää, mutta luonto vetää meitä nenästä."

  Albert Einstein

Nuoret ohjelmoijat, jotka ovat tottuneet ohjelmoimaan pieruäänigeneraattoreita Google Playhin, ovat nähtävästi ohittaneet kirjallisuuden lukemisen nykyään lähes täysin. Ainakin nykykoululaiset ovat ehkä lukeneet puolikkaan kirjan elämässään. Isaac Asimovin kokoelmakirjoja luettiin nuorisona aikanaan, mm. I, Robot (sai varmaan Suomessa nimen "Robotit") , joissa esitettiin nämä robotiikan pääsäännöt, mm. Wikipedia:

• 1. Robotti ei saa vahingoittaa ihmisolentoa tai laiminlyönnein saattaa tätä vahingoittumaan.
• 2. Robotin on noudatettava ihmisolentojen sille antamia määräyksiä, paitsi jos ne ovat ristiriidassa Ensimmäisen pääsäännön kanssa.
• 3. Robotin on suojeltava omaa olemassaoloaan, kuitenkin siten, että sen toimet eivät ole ristiriidassa Ensimmäisen ja Toisen pääsäännön kanssa.

-SS-

Loputtomiin kulunut fraasi: "On vain 10 ihmistyyppiä. Niitä, jotka ymmärtävät binäärilukuja, ja niitä, jotka eivät ymmärrä.", on tarkoitettu vitsiksi. En tiedä kuka vitsin on keksinyt, mutta digitaalitekniikassa missä noita binäärilukuja yleensä käytetään, tuo vitsi onkin nerokas.

Yleensä tuolla luvulla "10" tarkoitetaan binäärilukua, joka vastaa kymmenkantaisessa lukujärjestelmässä lukua 2. Eli tässä tapauksessa kahta eri ihmistyyppiä. Ne, jotka ymmärtävät binäärilukuja, ja ne, jotka eivät ymmärrä. Tähän vitsin normitaso yleensä perustuu.

Sitten tulee se pimeä puoli, joka tekee tuosta vitsistä todellisen vitsin. Kun binäärilukuja käytetään mallintamaan laskentaa, numero "10" ei olekaan kaksi vaan kolme. Eli tietokone näkee tuon numero kolmosena. Siksi juuri, kun kone ei ymmärrä abstraktia nollaa. Siten nolla onkin se ensimmäinen luku, 01 toinen luku ja 10 kolmas luku.

Jos ohjelmoija näkee tuon vitsin ja ymmärtää sen kahtena eri ihmistyyppinä, ohjelmoija ei yksinkertaisesti tiedä, mitä hän on ohjelmoijana tekemässä. Nykyaikana tuo on ihan normaalia.