Hvordan lage en chatbot med egne data?

Med riktig oppsett kan du lage en chatbot som er ekspert på dine produkter, tjenester og interne rutiner – og som alltid gir riktig svar uten å finne på informasjon.

Hvorfor lage chatbot?

Å finne riktig informasjon kan være tidkrevende, spesielt når den er spredt på tvers av mange systemer og er dårlig organisert. Når du selv bestemmer hva chatboten skal være ekspert på, åpner det seg mange muligheter. For eksempel kan man lage en chatbot som har tilgang til hele intranettet og annen intern kommunikasjon. På den måten kan ansatte enkelt finne svar på spørsmål om arbeidsplassen eller få intern support. Du kan også gjøre chatboten kjent med bedriftens produkter og tjenester slik at den kan hjelpe til med kundeservice. Da kan den svare på spørsmål, løse små problemer, eller veilede kundene dine. En chatbot kan altså gi kundene raskere svar og gjøre hverdagen litt enklere for support-teamet.

Slik går du frem

Det høres kanskje vanskelig ut, men å lage en AI-drevet chatbot trenger ikke være komplisert. Her er de grunnleggende konseptene som er smart å vite om før du starter:

Large Language Model (LLM)

Dagens chatboter som ChatGPT fra OpenAI og Claude fra Anthropic, er trent på store språkmodeller som kan forstå og svare på tekst på en menneskelig måte. Teknisk kaller vi disse modellene for LLMs eller Large Language Models. Språkmodeller på godt norsk. En LLM er trent på enorme mengder tekstdata og kan derfor produsere sammenhengende og naturlige svar på spørsmål, generere tekst, oversette språk, skrive kode og mye mer.

Tenk på LLM som en AI som har «lest» millioner av bøker og artikler, og som kan bruke denne kunnskapen til å gi naturlige svar. Men en chatbot kjenner bare til informasjonen den er trent på. Så hvordan «lærer» vi den å kjenne vår bedrifts domenekunnskap og sørger for at den glemmer eller nedprioriterer alt det andre?

Prompt

En prompt er som et spørsmål du stiller en ekspert. For eksempel: «Hvordan søker jeg om ferie?» eller «Hva er retningslinjene for hjemmekontor?». Når chatboten får dette spørsmålet, vet den nøyaktig hva den skal svare basert på informasjonen den har tilgang til.

Hvis chatboten brukes internt, kan prompten hjelpe med å finne relevant informasjon fra intranettet eller CRM-systemet. For kunder kan prompten gi informasjon om produkter og tjenester, og systemet legger til relevant kontekst før det blir sendt til OpenAI.