Tekoäly helpottaa tiedon löytämistä
”Tekoälyavusteisen chat-käyttöliittymän testaukseen osallistuminen oli meille uusi ja mielenkiintoinen kokemus. Opimme, että tekoälyn opettamisen lisäksi myös käyttäjiä tulee opettaa muotoilemaan kysymykset niin, että tekoäly pystyy isosta tietomassasta etsimään kysymykseen luotettavan vastauksen.”
Sari Suomela, asianhallintapäällikkö, Turun kaupunki
Tarve
Turun kaupungilla oli tarve kehittää käyttäjäystävällinen ratkaisu, jonka avulla kaupungin asianhallintajärjestelmä JoutseNetissä oleva tieto olisi helpommin löydettävissä. Moni organisaatio painii vastaavan haasteen kanssa: dataa on valtavasti, mutta juuri oikean tiedon tai dokumentin löytäminen massasta on haasteellista.
Ratkaisussa oli luonnollisesti otettava huomioon datan pysyminen Euroopassa GDPR:n mukaisesti sekä se, ettei data pääsisi valumaan organisaation ulkopuolelle. Siinä, missä ChatGPT:n kaltaiset palvelut voivat käyttää niihin syötettyjä tietoja mallien jatkokouluttamiseen, organisaatioiden on mahdollista rakentaa itselleen isoihin kielimalleihin perustuvia järjestelmiä, joissa näin ei tapahdu.
Organisaatio
Turku on Lounais-Suomen suurin kaupunki, Varsinais-Suomen maakuntakeskus ja asukasluvultaan Suomen kuudenneksi suurin kunta.
Kaupunki kehittäjää ja tarjoaa digitaalisia palveluja kattavasti kuntalaiselle huolehtien lakisääteisistä tehtävistään ja velvoitteistaan.
Ratkaisu
ATR Soft teki Turulle Proof of Concept -tason ratkaisun chatista, jolta voi kysyä mitä tahansa kaupungin julkisista päätöksistä.
Ratkaisussa hyödynsimme Azuren AI Searchia ja Azure OpenAI -kielimalleja ja vektorisoimme JoutseNetin asiakirjoja, kuten päätöspöytäkirjoja. Vektorisointi muuttaa tekstit numeerisiksi esityksiksi niin, että niiden konteksti ja merkitykset säilyvät analysoitavina. Nämä tekstivektorit veimme Azure AI Searchin hakuindeksiin, josta ratkaisu pystyy hakemaan tekstejä ja dokumentteja käyttäen vektorihakua; haku käytännössä silloin vertaa hakulausekkeiden merkityksiä, eikä etsi vain kirjain kirjaimelta toisiaan vastaavia sanoja.
Käyttäjä siis voi kirjoittaa kysymyksensä chatille, jonka jälkeen kysymyksen vektoria verrataan hakuindeksissä oleviin dokumentteihin. Sopivat dokumentit sekä alkuperäinen kysymys annetaan sitten isolle kielimallille, kuten Azure OpenAI GPT3.5-mallille, joka muodostaa käyttäjän kysymykseen vastauksen käyttämällä dokumenteissa olevaa tietoa.
Turun kaupungin tekoälyavusteinen chat-käyttöliittymäprojekti osoitti, että tekoäly voi merkittävästi parantaa kaupungin asianhallintajärjestelmän käyttöä. PoC-vaiheessa saavutetut tulokset ja saadut opit luovat vankan pohjan jatkokehitykselle, jonka avulla voidaan luoda entistä tehokkaampi ja käyttäjäystävällisempi ratkaisu kaupungin tarpeisiin.
Teknologiat
Azure OpenAI: Embedding-mallien avulla teksteille voidaan laskea vektorit eli numeeriset esitykset. LLM-malleilla, kuten GPT3.5:llä, puolestaan voidaan generoida vastauksia. Kehotteita (engl. prompt) muokkaamalla voidaan varmistaa, että vastaus perustuu annettuun taustatietoon ja siten minimoida kielimallin hallusinointi eli virheellisen tiedon käyttö.
Azure AI Search: Käyttämällä vektorihakuun optimoitua hakuindeksiä voidaan löytää ja palauttaa relevantit tiedot tarkemmin, koska haku perustuu merkitykseen ja kontekstiin, ei vain tarkkoihin avainsanoihin.
Katso miniwebinaari: ChatGPT:n kaltainen ratkaisu yrityksen omalla datalla.