Tekoäly voi kirjoittaa täysin väärän vastauksen niin uskottavasti, että kokenutkin asiantuntija alkaa epäillä omaa osaamistaan.
Kielimallien yksi vaikuttavimmista ominaisuuksista on kyky tuottaa sujuvaa, johdonmukaista ja asiantuntevalta kuulostavaa tekstiä. Ne osaavat perustella väitteitään, jäsentää monimutkaisia asioita ja esittää johtopäätöksiä tavalla, joka tuntuu hyvin vakuuttavalta. Juuri tämä tekee niistä niin hyödyllisiä monenlaisessa asiantuntijatyössä. Samalla syntyy aika merkittävä riski, koska vastauksen sujuvuus ei vielä kerro mitään sen oikeellisuudesta.
Ajatellaan yritystä, joka käyttää tekoälyä sopimusten analysointiin tai taloudellisten raporttien valmisteluun. Järjestelmä tuottaa selkeän yhteenvedon, nostaa esiin keskeiset havainnot ja tekee ehdotuksia jatkotoimenpiteiksi. Lopputulos näyttää laadukkaalta, eikä sen lukeminen herätä välttämättä mitään epäilyksiä. Mutta jos tekoäly on tulkinnut yhden sopimusehdon väärin tai yhdistänyt raporttiin virheellisen luvun, seuraukset voivat olla paljon vakavampia kuin tavallisessa tekstin viimeistelyssä.
Tämän vuoksi tekoälyn käyttöä pitäisi arvioida aina tehtävän vaatimusten perusteella. Ideointiin, luonnosteluun ja erilaisten vaihtoehtojen hahmottamiseen voidaan usein suhtautua huomattavasti kokeilevammin kuin taloudellisiin päätöksiin, oikeudellisiin tulkintoihin tai asiakkaalle annettaviin sitoviin tietoihin. Mitä suurempi virheen vaikutus on, sitä enemmän tarvitaan luotettavia tietolähteitä, tarkistuksia ja selkeitä vastuita. Yhdenmukainen tekoälyn käyttöohje ei välttämättä riitä kaikkiin tilanteisiin.
Minusta erityisen tärkeää olisi opettaa ihmisille, miten tekoälyn tuottamaa tietoa arvioidaan kriittisesti. Pelkkä kehotus tarkistaa vastaukset ei ole kovin hyödyllinen, jos käyttäjä ei tiedä, mistä tieto pitäisi tarkistaa tai millaisia virheitä järjestelmä voi tehdä. Organisaatioissa kannattaa rakentaa käytäntöjä, joissa olennaiset väitteet voidaan jäljittää lähteisiin, laskelmat tarkistaa ja riskialttiit päätökset hyväksyä tarkoituksenmukaisella tavalla.
Myös teknisillä ratkaisuilla on tässä merkittävä rooli. Tekoälyn vastauksia voidaan tukea yrityksen omilla tietolähteillä, automatisoiduilla tarkistuksilla ja rajatuilla toimintaoikeuksilla. Toistuvien tehtävien laatua voidaan testata etukäteen ja seurata myös käyttöönoton jälkeen. Näin luotettavuudesta tulee osa järjestelmän suunnittelua sen sijaan, että vastuu jätettäisiin yksittäisen käyttäjän tarkkaavaisuuden varaan.
Tässä on kuitenkin yksi inhimillinen ongelma, jota teknologia ei yksin ratkaise. Ihmisillä on taipumus luottaa järjestelmään, joka on aiemmin antanut paljon hyviä vastauksia. Kun tekoäly osuu oikeaan riittävän monta kertaa, sen vastauksia aletaan helposti hyväksyä yhä vähäisemmällä tarkistamisella. Juuri silloin yksittäinen virhe voi päästä läpi kaikkein huomaamattomimmin.
Tekoälyn luotettavuutta ei pitäisi arvioida sen perusteella, kuinka harvoin käyttäjä huomaa virheen. Paljon tärkeämpää on tietää, miten virheet tunnistetaan, millaisia seurauksia niillä voi olla ja miten järjestelmän toimintaa voidaan parantaa niiden perusteella.
Hyvä tekoälyratkaisu ei edellytä sokeaa luottamusta. Se ansaitsee luottamuksen sillä, että sen toiminta on ymmärrettävää, tarkistettavaa ja hallittua.