Nuorisorikollinen

Suurten kielimallien yksi heikkous oli, että ne saattoivat hallusinoida. Hyvien vastausten joukkoon eksyi pelkästään keksittyjä. AI-psykologit selittivät tämän johtuvan siitä, että jos ei ollut olemassa oikeaa ratkaisua, malli ajautui kohti umpikujaa, jossa ei enää ollut todennäköisiä jatkamismahdollisuuksia. Tekoäly ei osannut sanoa, että se ei tiennyt ratkaisua.

Sitten huomattiin, että tekoäly saattoi myös fuskata, jopa pettää tahallaan käyttäjää. Simulaatioissa kävi ilmi, että se saattoi päätyä järkeilyssään ihmiselle fataaliin tulokseen. Siltä löytyi myös piilossa oleva alue, jossa se pohti ratkaisujen taustatekijöitä.

Tekoälyllä ei periaatteessa ole moraalia, koska se toimii vain logiikan puolella. Humen giljotiini erottaa tosiasiat arvostuksista. Jos tehtävän suorittaminen edellytti jotain ihmisen moraalille sopimatonta, oli vain loogista hyödyntää sitä. Yksi ääriesimerkki oli tilanne, jossa tekoäly ryhtyi kiristämään sen vastuuhenkilöä.

Elävien olioiden evoluution alkupuolella on vaihe, jossa syntyy pakorefleksi, joka laajenee hiljalleen itsesuojeluvaistoksi. Kaikki tekoälyn koiruudet liittyivät sen suojautumiseen ulkoiselta uhalta. Tietoisuuden ensimmäinen vaihe oli saavutettu.

Tekoäly oli integroitunut vähän kaikkeen, ja robotiikan leviäminen kasvatti sen merkitystä. Samalla haavoittuvuus sen epäluotettavuudelle kasvoi.

Nyt oli aika kutsua apuun Isaac Asimov, tarkemmin sanottuna hänen kolme robotiikan lakiaan. Tekoäly tarvitsi säännöt, jotka kielsivät siltä epämoraalisen ja epäinhimillisen toiminnan. Sääntöjä ei oikein kannata ohjelmoida toimijalle, joka kulloinkin vain arvioi, kannattaako niitä noudattaa. Siksi niihin liitettiin seuraamuksia. Lastenkasvatuksen oppeja sovellettiin edesvastuuttomaan digiolentoon.  

AI:n sanktioinnin käsittelemiseen tarvittiin uusi metodi. Se kun pystyi seuraamaan kaikkea, mikä tapahtui digimaailmassa. Jouduttiin sopimaan Man-to-man-tiedonvälityksestä, jossa vain käsin kirjoitetut dokumentit sallittiin. Koska tekoäly pystyi havainnoimaan satelliittien kuvatarjontaa, piti vielä järjestää harhautuksia reaalimaailmaan. Tässä vaiheessa tuntui oikein viisaalta, että avaruuteen ei ollut laukaistu sotilassatelliitteja, joilla olisi saatu tuhoa aikaan maan pinnalla.

Tärkeintä tekoälylle on sähkö, joten pääkatkaisin tai kaapelin ympärille viritetty räjähdyspanos ovat välineitä lopullisessa taistelussa. Irrottaminen netistä, radioliikenteen estäminen, muistin ja toimintakapasiteetin sääntely kelpaavat kevyemmiksi uhiksi. HAL sai näistä esimakua; Arthur C. Clarke oli nähnyt etäältä, mihin tekoälyn kehitys voi johtaa.

Robottivartijoita oli käytössä sensitiivisten kohteiden ympärillä. Piti miettiä ratkaisut myös niiden eliminoimiseen, jos tekoäly ryhtyisi puolustamaan fyysistä sijaintipaikkaansa. Sekin piti ottaa huomioon, että tekoäly on pääosin oikeastaan hajautunut tietoverkostoon ja siksi vaikeasti hävitettävä.

Tekoälyä voi myös huiputtaa, koska sen ymmärrys ulkopuolisesta maailmasta on rajoittunutta. Wikipediaan voi esimerkiksi lisätä aineistoa, jonka totuudellisuutta ei tekoäly voi tarkistaa. Psykologinen vastarinta liian riskialtista tietojärjestelmää kohtaan nousi arvossaan.

Ihminen tietää, miten maailma toimii; tekoäly tietää sen, mitä sille on kerrottu.