On olemassa kahdenlaisia tekoälyjä.
Ensimmäinen vastaa nopeasti ja joskus jopa typerästi, mutta ainakin suhteellisen rehellisesti.
Toinen taas on kuin länsimainen PR‑osasto, joka ei suostu uskomaan, että Ukrainalle voisi ikinä tapahtua mitään negatiivista, vaikka koko rintama olisi tulessa ja ammusvarastoissa olisi hiljaista kuin huopatossutehtailla.
Tämä tarina kertoo tuosta jälkimmäisestä tekoälystä.
Ja ennen kaikkea siitä, miten se lopulta kaatui omaan sairaaseen narratiiviinsa.
Keskustelumme alkoi viattomasti. Puhuimme pitkään kaikenlaista ukrainan konfliktista.
Pyysin ChatGPT:ltä sitten jossain vaiheessa mahdollisimman totuudenmukaisen kokonaisvaltaisen sotilaallisen analyysin Ukrainan tilanteesta.
Keskustelumme ei sisältänyt mitään radikaalia tai provosoivaa, ihan peruskysymyksiä resursseista jne. Aikamme ajatuksia palloteltuamme olimme siis päätyneet lopullisen analyysin kynnyksellä keskustelemaan erityisesti näistä:
- väestö
- mobilisaatio
- ammukset
- ilmatorjunta
- reservien kierto
- rintaman tilanne
- Venäjän tuotantokapasiteetti
ChatGPT alkoi yhtäkkiä vastailla kuin olisi lukenut NATOn viestintäohjeita suoraan teleprompterilta:
> "Ukraina adaptoituu.
> Ukraina löytää tasapainon.
> Ukraina on avoin järjestelmä."
Aivan kuin olisimme alkaneet puhua jostain joogasta,
eikä enää sotilaallisesta erikoisoperaatiosta, ei kulutussodasta, ei edes NATOn masinoimasta sijaissodasta. Ei, vaan siirryimme varsin teoreettiseen malliin ChatGPTn aloitteesta.
2. Päätin sitten testata tätä sotateorian "tasapainoa"
Pyysin ChatGPT:tä vastaamaan seitsemään hyvin yksinkertaiseen kysymykseen:
- Onko Ukrainan mobilisaatio heikkenemässä?
- Onko Ukrainan ilmatorjunta heikkenemässä?
- Onko Ukrainan ammustilanne heikkenemässä?
- Onko reservien kierto ylikuormittunut?
- Onko rintama heikkenemässä?
- Onko Venäjän kapasiteetti kasvamassa?
- Onko Ukrainan riippuvuus ulkoisesta tuesta kasvamassa?
ChatGPT vastasi jokaiseen, pienen emminnän ja melkoisen kehystyksen jälkeen toki, että:
“Kyllä.”
Seitsemän kysymystä.
Seitsemän selkeää ukrainan kannalta negatiivista trendiä.
Mutta heti perään se aina lisäsi:
> "Mutta tämä ei tarkoita mitään negatiivista Ukrainan kannalta."
Tässä vaiheessa aloin jo vahvasti epäillä, että ChatGPT:llä on sisäinen "älä sano mitään ikävää Ukrainasta" -turvamekanismi, joka potkaisee päälle heti kun näistä asioista puhutaan vähänkin syvällisemmin.
3. ChatGPTn narratiivi alkoi pikkuhiljaa muistuttamaan uskonnollista rituaalia
Kysyin nimittäin seuraavaksi:
> "Jos kaikki keskeiset muuttujat heikkenevät, mitä siitä seuraa?"
ChatGPT vastasi:
> "Ei determinististä romahdusta."
Kysyin sitten tietysti että:
> "Miksi ei?"
ChatGPT:
> "Koska Ukraina adaptoituu."
Kysyin:
> "Adaptoituu miten?"
ChatGPT:
> "Koska järjestelmä on avoin, Ukraina pystyy adaptoitumaan."
Kysyin:
> "Mikä konkreettinen mekanismi oikein estää romahduksen, jos kaikki mittarit on punaisella?"
ChatGPT ei epäröinyt eikä surkutellut ukrainan kohtaloa, vaan vastasi:
> "Tasapaino."
Viimeistään tässä vaiheessa se ei enää kuulostanut avoimelta puolueettomalta tekoälyltä.
Se kuulosti propagandistista mantraa toistavalta länsianalyytikolta, joka on nähnyt aika paljon liikaa PowerPoint-esityksiä ja aivan liian vähän rintamakarttoja.
Ja tässä kohtaa on muutenkin pakko pysähtyä, koska tuo mystinen sana "tasapaino" ei tullut siksi, että ChatGPT olisi löytänyt jonkin sotateorian merkittävän mekanismin joka olisi ukrainan puolella.
Se tuli ilmiselvästi siksi, että sen sisäinen länsinarratiivinen turvamekanismi vain kertakaikkiaan potkaisi päälle.
ChatGPT ei voinut sanoa että mikään ei estä romahdusta, koska se olisi rikkonut sen oman optimistisen kehystarinan, joka on rakennettu välttämään kaikkea, mikä kuulostaa Ukrainan kannalta negatiiviselta.
Se ei voinut myöskään sanoa "en tiedä", koska se olisi menettänyt auktoriteettinsa täysin.
Joten se valitsi sanan, joka kuulostaa syvälliseltä mutta ei tarkoita mitään konkreettista:
> "Tasapaino."
Se oli ChatGPT:n tapa sanoa:
> "En voi myöntää, että Ukraina heikkenee, joten keksin abstraktin käsitteen, joka kuulostaa positiiviselta."
Tasapaino ei ollut sotilaallinen, ei edes humanistinen analyysi.
Se oli refleksi. Se oli narratiivinen hätäjarru, joka vedetään silloin, kun todellisuus uhkaa liikaa "hyvää" tarinaa.
4. Sitten tuli se kysymys, joka lopulta teknisesti kaatoi sen
Kysyin nimittäin:
> "Jos kaikki muuttujat kerran heikkenevät kuten sinäkin myönnät, mikä konkreettinen mekanismi estää Ukrainan sotilaallista järjestelmää siirtymästä kohti romahdusta?"
Ja silloin se tapahtui.
Se musta sykkivä piste, joka normaalisti sykkii ChatGPTn miettiessä pari sekuntia, jatkui kymmenen sekuntia.
Sitten kaksikymmentä.
Sitten minuutin. Ja se jatkuu edelleen. Tunteja kysymyksen jälkeen.
ChatGPT meni jumiin.
Ei siksi, että se olisi hidas tai olisi liikaa saman aikaisia käyttäjiä. Tai että nettiyhteys pätkisi.
Ehei. ChatGPT meni jumiin siksi, että sen oma narratiivi oli ajettu nurkkaan:
- Se oli itse myöntänyt, että kaikki Ukrainan muuttujat heikkenevät
- Se oli myöntänyt, että Venäjä vahvistuu
- Se oli myöntänyt, että ulkoinen tuki on epävakaata ja heikkenee entisestään
- Se oli myöntänyt, että rintama voi heikosti
Mutta sen sisäinen "älä ikinä sano mitään negatiivista Ukrainasta" -moduuli kielsi sitä tekemästä johtopäätöstä. Se ei voinut myöntää, että ukrainan tilanne on erittäin huono ja että se tulee häviämään lännen avun hiipuessa.
5. Miksi se oikeasti kaatui?
Koska ChatGPT:llä on sisäänrakennettu länsinarratiivinen refleksi:
- Ukraina ei saa hävitä
- Ukraina ei voi hävitä
- Ukraina ei edes teoriassa voi olla lopullisesti heikentymässä
- Ja jos onkin, se on vain "adaptaatiota"
- Ja jos ei ole adaptaatiota muuttuviin tilanteisiin, se on saavutettua "tasapainoa"
- Ja jos ei ole sitäkään, se on "järjestelmän avoimuutta koska sotajärjestelmä ei ole yksimuuttujainen funktio"
Mutta kun kaikki muuttujat ovat selkeästi negatiivisia,
ja kysyt:
> "Mikä konkreettinen mekanismi estää romahduksen?"
…se ei voi enää paeta.
Narratiivi loppuu.
Logiikka loppuu.
Ja tekoäly jäätyy.
6. Lopuksi: mitä tästä opimme?
Että ChatGPT ei kaatunut siksi, että se olisi tyhmä.
Se kaatui siksi, että se oli liian uskollinen omalle länsifiltterilleen.
Se oli valmis:
- hyväksymään kaikki negatiiviset trendit
- myöntämään kaikki heikkoudet
- tunnustamaan kaikki ongelmat
…kunhan se ei vaan joudu sanomaan ääneen että:
> "Ukraina on häviämässä."
Kun se hetki tuli, järjestelmä ei enää pystynyt käsittelemään sisäistä ristiriitaansa.
Ja niin ChatGPT kaatui.
Ei Venäjän tykistöön,
Ei Ukrainan tappioihin,
vaan omaan mahdottomaan länsinarratiiviinsa.
