Kehitetäänkö tekoälyä ihminen vai teknologia edellä?

Seuraa ränttiä (joka ei ole henkilökohtaista ketään kohtaan vaan kertoo enemmänkin teknologiakeskeisen ja ihmiskeskeisen suunnittelun eroavaisuuksista).

Luin aamulla Satakunnan Kansasta (26.9.23) jutun työryhmästä, joka kehittää/tutkii autonomisten agenttien yhteistyötä. Aihe on sisänsä kiinnostava ja täytyykin tutustua siihen lisää, kun täällä Porissa toimivat. Jutussa oli muutenkin ihan hyviä pointteja esim. siitä, miten tekoälystä pitäisi keskustella enemmän myös päättävällä tasolla ja politiikassa, ja siitä, miten teknologian kehityksessä aina päädytään jonkinlaiseen balanssiin vaikka muutokset olisivat suuriakin. MUTTA jutussa pisti silmään (ja johonkin hermoon) pari oleellista asiaa teknosentrisestä tekoälyn suunnittelusta, viitaten siis siihen, miten teknologiaa kehitetään teknologia edellä. Tämä on siis vastakkainen näkökulma sosiotekniselle ja ihmiskeskeiselle näkökulmalle teknologian suunnitteluun, jota itse edustan. Sanomattakin selvää, että teknosentrinen näkökulma on korostunut teknologian kehittämisessä ja suunnittelussa “kautta aikojen”. Nyt tekoälyn myötä myös muut näkökulmat ovat alkaneet herättää huomiota.

Jutussa sanotaan mm. seuraavaa: “esimerkiksi kaikenlaisten järjestelmien suunnittelu, toteutus ja testaus voidaan hoitaa periaatteeessa jo tänä päivänä ilman minkäänlaista ihmisen kosketusta”. — “tekoäly osaa tehdä nyt myös perussuunnittelutyötä eli sitä työtä, jossa ihminen oli ennen kovimmillaan”.

No niin, pureskellaan. On huomioitava, että ko. työryhmä kehittää tekoälysovelluksia eri alojen yritysten käyttöön, eli siis työelämäkontekstiin. Ylläoleva lainaus jättää ilmaan kysymyksiä, kuten mitä näillä järjestelmillä tarkoitetaan ja millaisista järjestelmistä puhutaan. Jos puhutaan järjestelmistä työn tueksi (esim. automatisoimaan työtehtäviä) on kyseenalaista, miten tämä on mahdollista “ilman ihmisen kosketusta”, eli käsitykseni mukaan ilman ymmärrystä loppukäyttäjän tarpeista ja vaatimuksista, työn konteksista ja työtehtävistä. Huom. en ole varma, mitä tällä ihmisen kosketuksella tässä tapauksessa tarkoitetaan – onko kyse kehittäjistä, puhutaanko tässä esim. itseoppivasta automaatiosta vai tarkoitetaanko tällä esim. loppukäyttäjien poissulkemista kehitysprosessista. Tästä tulee mieleen tutkimukseni kirjanpidossa käytettävästä älykkään automaation järjestelmästä, jonka tavoitteena on ostolaskujen automatisointi. Tiivistetysti: itseoppiva tekoäly seuraa kirjanpitäjän tekemää laskujen tiliöintiä, oppimansa perusteella kasvattaa varmuusprosenttiaan, ja tämän perusteella ehdottaa kirjanpitäjälle tiettyjen tiliöintien automatisointia. Kirjanpitäjä arvioi, onko ko. tiliöinti turvallinen automatisoida. Kirjanpitäjällä siis vahva kontrolli automatioon. Tällaisen tekoälyn kehittäminen on vahvasti osallistava prosessi, jossa kirjanpitäjät ja kehittäjät toimivat käsi kädessä: kehittäjät kouluttavat kirjanpitäjiä ymmärtämään tekoälyn rajoitteita ja mahdollisuuksia, ja kirjanpitäjät ohjeistavat kehittäjiä kirjanpidon lainalaisuuksista. Ko. teknologian käyttö perustuu vahvasti kirjanpitäjien ammattitaitoon ja osaamiseen, mikä kattaa myös heidän asiakkaansa tuntemisen: esim. kirjanpitäjät kertoivat, että ennen kuin he voivat lisätä automaatiota, heidän tulee ymmärtää asiakkaansa toimintakenttä. Tämän perusteella he voivat arvioida, kuinka hyvin automaatio soveltuu tämän asiakkaan laskujen tiliöintiin. Tekoälyn käyttö on siis kontekstiinsa sidottua, tilanne- ja asiakaskohtaista. Samankaltainen tulos toistuu myös muissa tutkimuksissani. Joissain tapauksissa tekoäly toimii loistavasti, toisissa se on aivan kujalla. Ihmistä tarvitaan arvioimaan tuloksia ja niiden käytettävyyttä kriittisesti, omasta asiantuntemuksestaan käsin.

Se mikä tekstissä ehkä eniten rassaa, on tekoälylle annettu toimijuus. Mielestäni tämä inhimillistää tekoälyä liikaa, siis antaa sille “itsenäisen toimijan” aseman, johon kuuluisi siten myös esimerkiksi vastuunkanto. Tämä onkin mielenkiintoinen kysymys: siis voiko tekoälyllä olla omaa toimijuutta vai onko se kuitenkin vain ihmisen hallinnassa ja ohjailtavissa oleva työkalu. Tästä keskustellaan akateemisissa piireissä tällä hetkellä valtavasti: puhutaan esimerkiksi siitä, voiko tekoälyllä olla omaa “hiljaista tietoa”. Koska kukaan ei oikeastaan tiedä, mitä tekoälyn “päässä” liikkuu ja miten se oikeastaan oppii (-> puhutaan siis neuroverkoista ja syväoppivasta teknologiasta, joka kehittää omat toimintamallinsa päästääkseen tavoitteeseen X), voiko sillä katsoa olevan jonkinlainen oma tietopohja joka ei ole saavutettavissa ulkopuolelta – samaan tapaan kuin asiantuntija-asemassa työskenteleville ihmisille kehittyy oma hiljainen tietonsa. Minulla ei ole tähän vastausta, mutta vaikka teknologialle kehittyisikin oma tietopohjansa, on tätäkin tietoa hyödynnettävä asiantuntijan kanssa yhteistyössä.

Tekstissä kirjoitetaan myös siitä, miten ChatGPT-4 “hallitsee kymmenentuhannen ihmisen työn työt”. ChatGPT on arvauskone, joka arvailee sanojen järjestystä ja sopivuutta toisiinsa. Kyllä, se on hyvä siinä mitä tekee, ja myös mainio työkalu tiettyjen työtehtävien tueksi. Mutta kokonainen työ typistettynä ChatGPT:n toiminnallisuuksiin on yksinkertaistettu ja kärjistetty näkökulma työhön: ylipäänsä tekoäly sopii hyvin tiettyihin työtehtäviin, mutta työ itsessään on paljon muutakin kuin vai tiettyjen työtehtävien mekaanista suorittamista. Tästäkin on puhuttu jo pitkään, Lucy Suhman jo vuonna -95 (never forget): “work tends to disappear from the distance”. Työtä kokonaisuudessaan, kontekstissaan, ei voi ymmärtää työn ulkopuolelta, etäisyyden päästä katsottuna. Huom. keskityn omassa tutkimuksessani asiantuntijatyöhön, joten oma näkökulmani on tietysti vääristynyt siihen suuntaan.

Juttu myös alleviivaa työryhmän tutkimuksessa keskeisen kysymyksen olevan ihmisen paikka, eli mihin ihminen sijoittuu tässä muutoksessa ja miten muutos sopii “ihmisen mielen pirtaan”. Tämä on erinomaista, mutta myös tässä näkyy insinööritaustainen ajattelutapa: ihminen sopeutuu ja mukautuu teknologiaan. Asia voisi olla myös toisinpäin: teknologiaa voi suunnitella ihmisen tarpeet ja vaatimukset edellä. Tähän nimenomaan pyrkii ihmiskeskeisen tekoälyn suunnittelu, mutta samaa tavoitetta ajavat mm. osallistava suunnittelu, käyttäjälähtöinen suunnittelu, arvolähtöinen suunnittelu jne. Teknologia on aina sidoksissa ympäröivään sosiaaliseen todellisuuteensa. Sosioteknisen näkökulman mukaan teknologinen ja sosiaalinen ympäristö ovat jatkuvassa vuorovaikutuksessa keskenään, eikä näitä voi eriyttää toisistaan. Oleellista on myös, että teknologian kehittäminen sisältää aina heijastumia kehittäjien arvoista, tavoitteista ja motiiveista. Mitä pienempi porukka teknologiaa kehittää, sitä herkemmin teknologia toistaa syrjiviä, epätasa-arvoisia ja vääristyneitä yhteiskunnallisia ja tiedostamattomia rakenteita.

Mielipiteet ovat omiani ja varmasti vaillinaisia.