Näkemys
Miksi todennettavuus on kilpailuetu tekoälyssä?
SUORA VASTAUS
Tekoälyhankinnan perusongelma on, ettei ostaja voi arvioida laatua etukäteen eikä usein jälkikäteenkään: lupaukset ovat suuria, lopputulos on musta laatikko ja vertailukohtaa ei ole. Taloustieteessä tällaisen kaupan tiedetään valuvan kohti epäluottamusta ja huonoja valintoja, koska hyvät ja huonot toimittajat näyttävät ostohetkellä samalta. Todennettavuus purkaa asetelman: kun prosessista on olemassa määritys, hyväksymisehdot ja ajojälki, jokainen lupaus muuttuu väitteeksi, jonka voi tarkastaa. Organisaatiolle tämä on kahdenlainen etu. Sisäisesti se erottaa toimivan tekoälyn toiveajattelusta. Ulkoisesti se on myyntivaltti: asiakkaille, auditoijille ja viranomaisille voidaan näyttää, mitä järjestelmä tekee, kuka hyväksyi ja mihin versioon toteutus perustuu.
Mistä todennettavuus rakentuu
Neljästä mekanismista. Määritys kertoo, mitä järjestelmän pitäisi tehdä. Katselmointiportit varmistavat, että määritys on tarkastettu ennen toteutusta. Ajojälki näyttää, mitä tuotannossa tapahtui ja kuka hyväksyi. Ja tuotannon vertaaminen määritykseen paljastaa, jos toteutus on ajautunut pois sovitusta. Mikään näistä ei ole yksinään riittävä, yhdessä ne muodostavat ketjun, jossa jokainen väite on jonkin dokumentin tai lokin päässä.
Sääntely palkitsee todennettavuuden, mutta ei ole sen syy
EU:n tekoälyasetus edellyttää korkean riskin käytöltä ihmisvalvontaa ja dokumentaatiota, ja ISO 42001 -sertifiointi tuo vastaavat vaatimukset hallintajärjestelmään. Todennettavasti rakennetulle prosessille nämä ovat kevyitä, koska vaaditut aineistot syntyvät rakenteesta itsestään. Mutta syy rakentaa todennettavasti ei ole sääntely vaan liiketoiminta: organisaatio, joka voi näyttää tekoälynsä toimivan, tekee päätöksiä nopeammin ja myy uskottavammin kuin se, joka voi vain vakuuttaa.
Todennettavuus kurittaa myös meitä
Sama periaate koskee omaa viestintäämme: julkaisemme vain mitattuja lukuja mitattuina ja arviot arvioiksi merkittyinä, ja referenssit vain asiakkaan hyväksymin sanamuodoin. Jos toimittaja ei suostu samaan kuriin omien lupaustensa kanssa, se kertoo jotain siitä, miten se rakentaa järjestelmänsä.
Usein kysytyt kysymykset
K:Eikö auditoitava jälki hidasta ja jäykistä tekemistä?
Päinvastoin: kun hyväksymisehdot ovat olemassa, muutoksia uskaltaa tehdä nopeammin, koska niiden vaikutuksen näkee. Jäykkyys syntyy epävarmuudesta, ei rakenteesta.
K:Riittääkö toimittajan oma raportointi todentamiseen?
Ei täysin. Rakentajan oma raportti omasta työstään on lähtökohtaisesti eturistiriitainen. Siksi riippumaton tarkastus on oma roolinsa, sama periaate kuin tilintarkastuksessa.
K:Voiko olemassa olevan, jo tuotannossa olevan tekoälyn todennettavuutta parantaa?
Voi. Työ alkaa siitä, että nykyiselle toteutukselle kirjoitetaan määritys, jota vasten sitä voi jatkossa tarkastaa.
Seuraava → 05 // Kognitiivinen kuorma AI-murroksessa