OpenAI:n integrointi omiin sovelluksiin voi tarjota lukuisia hyötyjä ja auttaa organisaatioita ottamaan helposti käyttöön AI-teknologioiden tarjoamia ominaisuuksia. Julkaisemme juttusarjan, jossa perehdymme OpenAI-integraatioon yksinkertaisilla käytännön esimerkeillä ja tuomme esiin muitakin aiheita, joita tekoälysovellusten käyttö yrityksissä juuri nyt nostaa. Tässä artikkelissa aloitamme testisovelluksen rakentamisen ja käymme läpi siihen liittyviä vaiheita.
Miksi tehdä OpenAi-integraatio?
OpenAI:n avulla voi luoda chatbotteja ja virtuaalisia avustajia, jotka ovat vuorovaikutuksessa käyttäjien kanssa normaalin keskustelun tavoin. Työkalulle esitetään kysymyksiä, joihin se vastaa. Se ratkoo ongelmia, antaa ideoita ja suosituksia sekä automatisoi tukiprosesseja. Tukiprosessi voi olla asiakkaan neuvontaa asiakaspalvelurajapinnassa tai se voi tarkoittaa automaattisia viestejä tukipyyntöihin. Työkalu voi vaikkapa ohjata terveydenhuollon asiakkaan oireiden perusteella suoraan sopivalle lääkärille.
AI:ta voidaan käyttää tehtävien automatisoinnissa. Se luo uutta tekstiä ja luokittelee sitä. OpenAI tuottaa sisältöä näppärästi myös suomen kielellä. Näyttäisi vähän siltä, että kielikäännöksetkin onnistuvat tältä työkalulta sujuvammin kuin vanhemmilta käännöstyökaluilta. OpenAI ja vastaavat työkalut auttavat tyhjän paperin kammossa sekä nopeuttavat sisällön hahmottelua ja jäsentämisestä. Tosin tekstin muokkaus ja tarkistaminen saattavat viedä paljonkin aikaa. Tekoälyn tarjoama tuotos voi perustua vanhaan tietoon tai olla muuten vain epämääräistä korulausetta.
Tekoälyn koulutuksessa on käytetty valtavia tietomääriä. Tämä voi olla hyödyllistä tehtävissä, jotka vaativat suurta tarkkuutta, kuten kielten kääntäminen ja tekstin luokittelu. AI:ta voidaan käyttää myös apuna teknisempiin tehtäviin, kuten ohjelmakoodin rakentamiseen, tutkimiseen ja virheiden selvittelyyn.
Testaa työkalua myös vapaa-ajan asioissa: laadi tekoälyn kanssa vaikkapa viikon ruokalista, suunnittele matkareitti tai laadi tekoälyn avustuksella itsellesi räätälöity kuntoiluohjelma.
Miten integroida OpenAI omaan sovellukseen?
OpenAI-integrointi omaan sovellukseen sisältää yleisesti seuraavat vaiheet:
- Käytetään olemassa olevaa kehystä, esimerkiksi chatbottia. Saatavilla on useita avoimen lähdekoodin kehyksiä, joita voi käyttää chat-käyttöliittymän rakentamiseen.
- Yhdistetään AI omaan sovelluskehykseen. Sovellus lähettää OpenAI:n API-rajapintaan käyttäjän syötteen ja vastaanottaa vastauksen.
- Hienosäädetään mallia. Jotta AI toimisi tehokkaasti, mallia säädetään käyttötavan mukaan.
- Testaus, käyttöönotto ja julkaisu loppukäyttäjille.
Käyttökohteen kompleksisuus ja käyttöympäristö vaikuttavat luonnollisesti näihin vaiheisiin. Useat pilvipalveluntarjoajat, kuten AWS ja Microsoft tarjoavat työkaluja ja palveluita OpenAI:n ja ChatGPT:n integrointiin. Sekä Microsoft että Google julkistivat äskettäin tuovansa itsekin uusia tai paranneltuja AI-työkaluja. Microsoft ilmoitti mm. tuovansa AI:n Office-työkaluihinsa, kuten PowerPointiin, Wordiin ja Exceliin sekä julkaisevansa kehittyneemmän hakukoneen. Googlen vastine ChatGPT:lle eli Bard on jo testikäyttäjien kokeilussa.
OpenAI-integraatio
OpenAI tarjoaa ilmaisen kolmen kuukauden kokeilujakson. Ilmaisen kokeilujakson voi aloittaa rekisteröitymällä OpenAI-verkkosivustolla: https://platform.openai.com/. Verkkosivulta löytyy kattava rajapinnan dokumentaatio, sisältäen esimerkkikoodia.
OpenAI:n tarjoamat kielimallit
Kielimallit löydät täältä: https://platform.openai.com/docs/models/overview.
GPT-3-mallit ymmärtävät ja tuottavat luonnollista kieltä. Neljä päämallia (DaVinci, Curie, Babbage ja Ada) sopivat erilaisiin tehtäviin. DaVinci on kyvykkäin malli ja Ada nopein.
Codex-mallit ovat GPT-3-mallien jälkeläisiä, jotka ymmärtävät ja luovat koodia. Harjoitustiedot sisältävät sekä luonnollisen kielen että miljardeja rivejä julkista koodia GitHubista.
Suodatin (Content Filter) pyrkii havaitsemaan arkaluontoiset tai vaaralliset tekstit. Malli on tällä hetkellä beta-tilassa, ja OpenAI:n suositus onkin käyttää ’moderation endpoint’ -työkalua vastaavaan toimintoon: https://platform.openai.com/docs/guides/moderation.
API-rajapinnan kokeilu
Ennen kuin lähdetään toteuttamaan varsinaista testisovellusta, kokeillaan OpenAI:n rajapintakutsua manuaalisesti, yksinkertaisella esimerkkikoodilla. API-kutsuja varten pitää OpenAI-verkkosivustolla ensin luoda API key.
Esimerkkikoodit löytyvät täältä: https://platform.openai.com/examples.
Valitsin kokeiluun ”English to other languages” -rajapintakutsun, joka käyttää GTP-3 -mallia “text-davinci-003” annetun tekstin kielikäännökseen.
Esimerkkikoodi (node.js)
Pyydetty käännösteksti: OpenAI conducts AI research to promote and develop friendly AI in a way that benefits all humanity.
Rajapinnasta saatu vastaus: OpenAI tekee AI-tutkimusta edistääkseen ja kehittääkseen ystävällistä tekoälyä tapaa (tavalla), joka hyödyttää kaikkia (koko) ihmiskuntaa.
Rajapintakutsu toimii siis pienin manuaalisäädöin.
Esimerkkikoodeja voi myös kokeilla OpenAI-verkkosivulla ilman asennuksia omalle koneelle: https://platform.openai.com/playground/p/default-translate
Testisovellus
Nyt kun OpenAI rajapintayhteys on todettu toimivaksi, voidaan siirtyä varsinaisen testisovelluksen suunnitteluun ja toteutukseen. Protoksi valitaan alla oleva sovelluskehys.
Microsoft Teams Chatbot ja OpenAI GPT-3 -kielimalli.
Yleiskuva prosessista:
- Luodaan uusi botti Microsoft Teams Bot Frameworkillä.
- Bot Builder SDK tarjoaa joukon kirjastoja ja työkaluja, joiden avulla voidaan luoda chatbot Microsoft Teamsiin.
- Bottia käytetään käyttäjän viestien lähetykseen ja vastaanottamiseen OpenAI:lta.
- Toteutuksessa ja testauksessa huomioidaan OpenAI Best Practises -ohjeistus: https://platform.openai.com/docs/guides/safety-best-practices.
- Lisätään botti Microsoft Teamsiin.
Blogisarjan seuraavissa osissa jatketaan kyseisen testisovelluksen rakentelua ja nostetaan esiin muitakin kysymyksiä, joita tekoälytyökalujen vyöry nyt yrityksissä herättää.
