Tekoälyagentin rakentaminen alkaa tuntua huomattavasti vakavammalta siinä vaiheessa, kun sille pitäisi antaa oikeus käyttää yrityksen rahaa.
Niin kauan kuin tekoäly vastaa kysymyksiin, kirjoittaa luonnoksia tai analysoi dokumentteja, sen toimintaan on suhteellisen helppo suhtautua kokeilevasti. Vastaus voidaan lukea, virhe korjata ja lopputulos hyväksyä ennen seuraavaa toimenpidettä. Tilanne muuttuu, kun tekoälyagentti saa mahdollisuuden käyttää järjestelmiä, lähettää viestejä, muuttaa tietoja tai tehdä päätöksiä itsenäisesti. Silloin tekoälyn onnistumista ei arvioida enää pelkästään vastauksen laadun perusteella.
Ajatellaan agenttia, jonka tehtävänä on hoitaa yrityksen arjen hankintoja. Se tunnistaa varastosta puuttuvat tuotteet, vertailee toimittajia ja tekee tilauksia sovittujen ehtojen mukaisesti. Ratkaisu kuulostaa järkevältä, sillä se voisi vapauttaa huomattavasti ihmisten aikaa. Mutta entä jos agentti tilaa väärän tuotteen, tulkitsee hintatiedon virheellisesti tai tekee saman tilauksen useampaan kertaan? Kuka huomaa ongelman ja missä vaiheessa?
Ihmisen tekemässä työssä luotamme moniin sellaisiin toimintatapoihin, joita emme edes ajattele. Uusi työntekijä saa käyttöoikeudet tehtäviensä mukaan, suuret hankinnat edellyttävät hyväksyntää ja epäselvissä tilanteissa kysytään apua. Kaikkea ei tarvitse määritellä täydellisesti, koska ihminen ymmärtää organisaation käytäntöjä ja osaa arvioida tilanteita myös niiden tarkoituksen kautta. Tekoälyagentin kohdalla samat rajat on pystyttävä muuttamaan huomattavasti täsmällisemmiksi toimintasäännöiksi.
Siksi agenttien kehittämisessä pitäisi keskustella alusta alkaen myös käyttöoikeuksista, hyväksymisrajoista ja toiminnan valvonnasta. Minkä tiedon agentti saa nähdä? Mitä se saa muuttaa? Kuinka suuren taloudellisen päätöksen se voi tehdä itsenäisesti ja milloin tarvitaan ihmisen hyväksyntä? Entä mitä tapahtuu, jos agentti kohtaa tilanteen, jota sen alkuperäisessä tehtävänannossa ei osattu ennakoida?
Minusta tämä ei ole peruste suhtautua agentteihin pelokkaasti. Päinvastoin, oikein suunniteltuina ne voivat muuttaa organisaatioiden toimintaa merkittävästi. Mutta agentin itsenäisyyden pitäisi kasvaa samaa tahtia sen luotettavuuden ja hallinnan kanssa. Ensin voidaan antaa oikeus valmistella asioita, seuraavaksi tehdä rajattuja toimenpiteitä ja vasta riittävän kokemuksen jälkeen laajentaa itsenäistä päätöksentekoa.
Tekoälyagentti on kiinnostava juuri siksi, että se pystyy tekemään asioita puolestamme. Samasta syystä sen käyttöönotto vaatii enemmän harkintaa kuin tavallisen tekoälytyökalun. Kun tekoälylle annetaan toimintavaltaa, sille pitää samalla rakentaa selkeät rajat ja vastuullinen tapa toimia.
Jos et olisi valmis antamaan uudelle työntekijälle rajatonta pääsyä yrityksen pankkitiliin ja asiakastietoihin, miksi antaisit sen tekoälyagentille? Teknologian kehittyminen ei poista johtamisen vastuuta. Se tekee siitä entistä konkreettisempaa.