previous icon Tilbage til blog
Mar 02, 2023
11 minutters læsetid

Hvordan man frigør potentialet i ChatGPT og Large Language Modeller: En Product Managers perspektiv

Med ChatGPT føles det som om, at vi bevæger os ind i en helt ny verden. Alle kan stille spørgsmål og give kommandoer til det, der opfattes som en "alvidende" chatbot. I løbet af en enkelt uge fik den 1 million aktive brugere. Big Tech blev rystet op med Google, der introducerede sin LaMDA-baserede "Bard", og Bing Search, der inkorporerede GPT-4 med Bing Chat. Der synes ikke at være nogen grænser for begejstringen. Men hvad er ChatGPT? Hvad betyder det for virksomhederne? Vi diskuterede dette med Arman van Lieshout, Product Manager hos CM.com for vores Conversational AI-løsning.

Hvad er ChatGPT egentlig?

ChatGPT er en chat-interface baseret på OpenAI's GPT-serie af Large Language Models (LLM'er). Du kan spørge den, hvad du vil, og give den kommandoer til at generere strukturerede oplysninger. Tænk på anvendelsestilfælde som at stille et spørgsmål, få oversat et stykke tekst, foretage beregninger baseret på en problembeskrivelse, få genereret kode til en funktion, du tænker på, og listen fortsætter ...

Arman van Lieshout about ChatGPT CM.com

Men hvordan gør den alt dette? Arman, hvordan fungerer ChatGPT?

ChatGPT er altså et produkt, der er fremstillet af OpenAI baseret på deres GPT3.5-serie. Det er en Large Language Model (LLM) med 20 milliarder parametre, der er specielt trænet (læs: i hånden) til at modellere samtaler. Modellen består af Natural Language Understanding (NLU) til at forstå input og Natural Language Generation (NLG) til at formulere et svar. Især den sidste del, NLG, har taget betydelige skridt fremad med indførelsen af ChatGPT, hvilket gør det lettere at anvende "generativ" AI i "generative" tilfælde.

Vent lige lidt, LLM'er, generativ AI, parametre, hvad handler det om?

Kort sagt er det en algoritme, der genkender, opsummerer, oversætter, forudsiger og genererer tekst. Det kan den gøre på grund af de enorme datasæt, der bruges til at træne modellen. En af måderne at udtrykke dens evne til at lære på er ved at kvantificere antallet af parametre. En parameter er en variabel, der udgør den del af modellen, som har kunnet lære af historiske data fra det underliggende datasæt. Så antallet af parametre siger noget om, hvor mange nuancer en model kan absorbere. Indtil videre har vi set en stærk korrelation mellem antallet af parametre, som en model har, og dens evne til at ligne og generere menneskelignende reaktioner og adfærd.

Okay, det er altså en chatbot, der forstår nuancer og kan generere sine egne svar. Hvad ser du som de største fordele og ulemper ved denne udvikling?

Bortset fra de muligheder og nye effektive anvendelsesmuligheder, som denne teknologi giver, ser jeg den hype, der omgiver den, som den største fordel. Den ekstraordinære entusiasme medfører en øget nysgerrighed og efterspørgsel efter teknologi inden for generativ AI. Det sætter kraften i conversational AI på offentlig visning, og folk er vilde med det. I sidste ende vil det yderligere drive innovationen fremad, efterhånden som flere mennesker og virksomheder bliver involveret.

Der er også nogle tidlige ulemper. Vi har bemærket, at i de tidlige faser af denne type udvikling har mange mennesker svært ved at stikke igennem støjen og se den reelle forretningsværdi. ChatGPT opfattes som en alvidende og almægtig teknologi, hvilket ikke helt er sandt. Det er en AI-model til samtaler, som er fantastisk til Natural Language Generation, men den er ikke perfekt. Den begår fejl. Det er fint, hvis dens brugere forstår, at den lejlighedsvis tager fejl og ikke er et universalmiddel. Denne fase vil gå over, og det, vi vil stå tilbage med, vil være ekstremt imponerende.

ChatGPT vs Conversational AI

Menneskelignende samtaler lyder som noget, som folk også forsøger at opnå med Conversational AI Cloud.

Hvad er forskellen mellem ChatGPT og Conversational AI Cloud?

Godt spørgsmål. OpenAI's GPT-serie er en fantastisk anvendelse af den "nye" transformerarkitektur, som Google introducerede for verden i 2017. Vores Conversational AI Cloud har brugt transformermodeller i årevis. Den store forskel er, hvad en Conversational AI Platform har bygget op omkring disse modeller for virkelig at levere forretningsværdi for en organisation.

Conversational AI Cloud hjælper virksomheder med at løse specifikke forretningsproblemer ved at automatisere samtaler. Natural Language Processing (NLP) er kernen i det. Når du har brug for at automatisere mange og/eller komplekse spørgsmål, er der grænser for, hvad du kan gøre med regelbaserede modeller, så det giver kun mening at anvende AI-modeller.

Isoleret set gør disse modeller ikke ret meget. Virksomhederne ønsker at implementere AI på webchat, WhatsApp og andre kanaler. De ønsker at teste deres modeller, før de implementerer nye versioner. Og de ønsker nemt at tilføje eller opdatere indhold, når de f.eks. skal opdatere deres priser eller tilføje et nyt samtaleflow. De ønsker at få indsigt i deres KPI'er som f.eks. modellens ydeevne eller afbøjningsraten. Og hvad med integrationer med eksisterende systemer såsom OMS, CDP, CRM eller ERP? Hvis du ikke kan udføre reelle handlinger med din Conversational AI, f.eks. hente eller opdatere poster for at give statusopdateringer til kunderne eller ændre deres oplysninger, kan du ikke gøre meget. ChatGPT kan ikke gøre noget af dette. Men med Conversational AI Cloud kan du det. Så de modeller, som vi bruger "under motorhjelmen", supplerer et bredt sæt af funktioner, der udgør vores komplette løsning.

Svar fra Conversational AI Cloud kan tilpasse sig konteksten, men bliver gennemgået af tekstforfattere i dit firma for at sikre, at svarene altid er faktuelt korrekte, i overensstemmelse med brandet og har den rigtige tone of voice. Så afhængigt af, hvor godt dit miljø er sat op, er det værste, der kan ske, at din AI i en mindre procentdel af tilfældene vil svare med "Jeg kender ikke svaret på det spørgsmål". Men selv den sætning vil blive formuleret præcis som du ønsker det, og det flow er fuldt kontrolleret. Alle disse principper resulterer i en lavrisikoprofil for brug af Conversational AI Cloud til at interagere med dine kunder.

Og dette er også straks den store forskel mellem ChatGPT og Conversational AI Cloud. ChatGPT's adfærd er det, man ville kalde en sort boks. Stil det samme nøjagtige spørgsmål 5 gange, og du vil få fem forskellige svar (eller ej, det er du aldrig sikker på). Nogle gange vil et af disse svar lyde godt, men også være faktuelt forkert. Din AI, der finder på svar på stedet, sparer dig for en FTE, måske to, i administrativt arbejde. Men samtidig mindsker det din evne til at udøve kontrol, være gennemsigtig og opretholde kvaliteten. Så denne risikoprofil ved at lade generativ AI-produktion gå direkte til dine kunder er betydeligt højere (i hvert fald nu, hvor vi stadig er i de tidlige dage af denne teknologi). Vi skal nok komme ud over det punkt på et tidspunkt, men ikke i dag.

CM.com LLM NLP ChatGPT blog visual

OK, så målgruppen og anvendelsesområderne er meget forskellige?

Det er en god måde at opsummere det på. Vores modeller vil blive ved med at udvikle sig, som de har gjort det tidligere. Og jeg er sikker på, at de LLM'er, der i øjeblikket udvikles og frigives, i høj grad vil forbedre vores produkters muligheder. De vil ikke kannibalisere dem; det er to forskellige, komplementære ting.

CM.com & ChatGPT

Så Arman, når du siger, at disse modeller vil forbedre vores produkter, hvad betyder det så, når du siger, at de vil forbedre vores produkter? Og har CM.com nogen planer om at indføre disse nye modeller?

Hvilken rolle kan ChatGPT spille i vores produkter?

Vi ser mange muligheder for at forbedre vores produkter og gøre det muligt for brugerne af vores produkter og det arbejde, de har udført i de seneste år, endnu bedre. Uanset om det er for en samtaledesigner i Conversational AI Cloud, en agent i Mobile Service Cloud eller en markedsføringsmedarbejder i vores Mobile Marketing Cloud. De genererer alle sammen indhold. Ved at bruge generativ AI til at komme med forslag til indhold og lade vores kunder foretage en endelig kontrol vil de få en masse arbejde fra hånden.

Det vigtige for os er, at vi ikke lader os rive med af hypen og integrerer disse teknologier for at integrere dem. Vi ønsker kun at implementere funktioner, hvor der er en betydelig merværdi for vores produkter og kunder. Vi går ikke ind for markedsføringsdrevet mærkning af vores muligheder med "AI-drevet dette, AI-drevet det". Generativ AI og LLM'er er mægtige og giver meget mening mange steder, men vi er bevidste om ulemperne og sikrer, at alle nye funktioner, vi tilbyder, leverer kvalitet og værdi.

ChatGPT blog OpenAI logo

Så fortæl os, hvad er vi ved at bygge lige nu, og hvad kan vi forvente i fremtiden?

Jeg er glad for, at du spørger. Vi har nogle ting i støbeskeen, som virkelig får vores hjerter til at banke. Lad os se på nogle af dem.

  • Generering af samtaleindhold

    Vores mål er at opnå en hurtigere go-live for vores Conversational AI-kunder, uanset om det er en ny kunde, der lige er kommet i gang, eller en eksisterende kunde, der ønsker at tilføje et nyt samtaleflow. Selv om vi er stolte af vores brugervenlighed, tager det tid at opsætte intentmodeller og artikelstrukturer. Tid, der kan reduceres betydeligt, hvis du som konversationsdesigner har, hvad man kunne kalde en ghostwriter, der gør det tunge arbejde for dig. På kort sigt betyder det, at du skal bede Conversational AI Cloud om oplysninger om din virksomhed. Lad os sige, at du er et forsyningsselskab. Du kan dele dette faktum og give nogle mindre detaljer om dine produkter og tjenester - hvorefter LLM automatisk genererer spørgsmål og genkendelsespunkter, som du meget vel kan forvente at modtage fra dine kunder. Du kan betragte dit output efter prompten som et udkast, gennemgå det, teste det og offentliggøre det. At tænke på dette indhold selv tager en masse tid, som du kunne have brugt andre steder.

    Vi starter med intentioner, og vi har allerede identificeret flere andre områder, som vil have gavn af denne type løsning. Med tiden vil vi tilføje flere og flere af disse muligheder til CM.com-porteføljen.

  • LLM'er til naturlig sprogbehandling i realtid

    En ting, vi altid arbejder på, er vores NLP-modeller i vores Conversational AI Cloud og gør agenternes liv lettere i vores Mobile Service Cloud. Målet her er at forbedre vores eksisterende NLP-infrastruktur med LLM'ernes kraft ved at undersøge emner som nul- og få skudgenkendelse. Og igen her fokuserer vi også på den værdi, som dette vil give vores produkter. Stærkere genkendelsesmodeller betyder færre eskaleringer til liveagenter, og en mere finkornet routing, når der sker eskaleringer, resulterer i en lavere gennemsnitlig behandlingstid pr. samtale. Alt dette vil tilføre hele CM.com-platformen en betydelig værdi. Udover det kigger vi også på emner som stave- og grammatikrettelser for at hjælpe samtaledesignere, kontaktcenteragenter og marketingfolk.

  • Personalisering gennem følelser

    ChatGPT er et godt eksempel på, hvordan følelsesmæssig kontekst kan forbedre svarene. Når der opdages negative følelser, kan vi kompensere ved at omformulere statiske svar, så de er mere empatiske eller undskyldende for den aktuelle situation. Dette koncept kan også fungere godt for forslag til kontaktcenteragenter. Alt i alt vil dette skabe en bedre slutbrugeroplevelse, hvilket vil resultere i et stærkere bånd mellem vores kunder og deres slutbrugere.

  • Sammenfatninger og søgemuligheder

    Genkendelsesmodeller fungerer ikke altid godt på indhold i lang form. Ved at opsummere input i lang form, før det køres gennem vores genkendelsesmodeller, kan du øge den samlede genkendelsesprocent og besvare alle indgående spørgsmål med større sikkerhed og præcision.

    Når vi organiserer overdragelse til menneskelige agenter, vil disse agenter også kunne reducere deres gennemsnitlige sagsbehandlingstid, hvis de kan læse et resumé af samtalen mellem bot og kunde. Agenterne kan komme hurtigere i gang og give et bedre og mere rettidigt første svar. Enhver mindre forbedring af den første svartid er også korreleret med en højere tilfredshedsgrad, uanset om den udtrykkes i NPS, CSAT eller CES.

CM.com ChatGPT OpenAI summary

Fremtiden begynder i dag

Afslutningsvis er jeg nysgerrig efter at vide, hvad udviklinger som ChatGPT, LLM'er og generativ AI vil bidrage med på kort sigt, og hvad vores mere langsigtede forventninger er, efter at vi har frigivet disse "human-in-the-loop"-funktioner, som du nævnte tidligere.

Hvad betyder ChatGPT for erhvervslivet i dag og i fremtiden?

Som et selvstændigt produkt er ChatGPT noget af en personlig assistent, der kan øge hver enkelt medarbejders individuelle produktivitet som supplement til værktøjer som søgemaskiner og wikier på meget kort sigt (læs: i dag).

Efterhånden som adgangen til LLM'eren bag produkter som ChatGPT og Bard vil finde vej til udviklerne, vil vi begynde at se mere specifikke implementeringer, der løser problemer på virksomhedsniveau, snarere end blot individuelle produktivitetsforøgelser for vidensarbejdere. Human-in-the-loop-use cases i produkter som vores egne er et perfekt eksempel.

På lang sigt vil vi i sidste ende komme ud over usikkerheden omkring blackboxen, efterhånden som fagfolk bliver fortrolige med at bruge disse modeller til at tale direkte med forbrugerne. Ligesom det gjorde tilbage i tiden med NLP: det vil tage noget tid. Folk skal lære de rigtige færdigheder og målinger for at kunne arbejde med disse modeller på det niveau. For NLP er F1-scorer, præcision, genkaldelse og lignende målinger til evaluering og træning blevet almindeligt kendt. I dag kan man finde masser af artikler med lignende målinger for NLG. Kaskaden fra de tidlige brugere, der er trygge ved det, til det tidlige flertal af købere vil tage noget tid. Hvor lang tid præcist? Det tror jeg ikke, at nogen har svaret på.

I mellemtiden er vi ret hypede over at frigive vores første LLM-funktioner i marts og fortsætte med at skubbe på for endnu mere avancerede cases som året skrider frem.

Fortsættes!

Vil du vide mere om, hvordan vi kan hjælpe dig med Conversational AI? Kontakt os for en menneskelig samtale.

Var denne artikel interessant?
Del den!
CM.com
connects tens of thousands of companies with millions of consumers via their mobile phone each day. Behind the scenes, from our innovative platform, CM.com makes sure companies can use these millions of messages, phone calls and payments to become part of people’s lives.

Bliv inspireret

digitalizacion-administracion-publica-y-educacion
Sep 07, 2023 • Conversational AI

Hvordan bruger man AI til at forbedre sin kundeservice?

Den største udfordring for kundeservice er stadig at leve op til kundernes forventninger. Hastighed, bekvemmelighed og kvalitativ assistance synes at være de vigtigste aspekter for at opnå dette. Med kraften i AI kan kundespørgsmål identificeres, kategoriseres og løses hurtigere. Desuden bliver din organisation løbende fodret med data, der kan forbedre hele kunderejsen. Læs mere om AI's betydning for kundeservice i denne artikel.

eCommerce Add On Tech Stack blog image
Aug 23, 2023 • Chatbots

Lad os tale om fordelene ved at integrere en chatbot med din nuværende tech stack

Hos CM.com har vi bemærket, at flere og flere viser interesse for at bruge vores chatbot som en virtuel kommunikationskanal, der kan hjælpe dem med at optimere deres e-commerce og forbedre den samlede oplevelse, som de tilbyder deres kunder. Men vi har også bemærket, at en eller to af vores kunder er usikre på, om de skal udskifte deres nuværende systemer for at gøre det.

Generative AI chatGPT blog about new updates
Jun 21, 2023 • Conversational AI

CM.com's næste skridt inden for Generativ AI: kommende releases i 2023

Markedet for generativ AI har oplevet en betydelig vækst med over 14,8 milliarder dollars i venturekapital investeret i startups, der bygger deres produkter på Large Language Models som OpenAI's ChatGPT og andre værktøjer til generativ AI. Området er vidne til et boom, hvilket fremgår af det høje antal registreringer af webdomæner på området hver uge. Den største udfordring for de fleste virksomheder er at finde ud af, hvad der skal drive deres forretning.

eCommerce personalization sneakers
Feb 14, 2023 • Conversational Commerce

Personalisering i eCommerce er mere end "Hej Jens"

Alle eCommerce aktører ved, at personalisering er vigtig. Det er sådan, du opbygger kundernes tillid og tryghed, gør dine budskaber meningsfulde og får dine kunder til at komme tilbage. Men færre er klar over, hvor dybt og bredt personalisering egentlig går.

Man with Phone
Feb 06, 2023 • Mobile Service Cloud

Strategien for kundeservicekanaler til eCommerce

Næste gang du går ind i din foretrukne fysiske tøjbutik, kan du prøve at notere antallet af serviceinteraktioner, du oplever under et enkelt besøg. Du vil ikke få en lignende oplevelse online. Det er på tide, at multichannel-forhandlere gentænker kundeoplevelsen i en digital sammenhæng. Tænk - fordybende, personlige oplevelser, der fanger kundernes opmærksomhed.

customer service team
Jan 23, 2023 • Customer Experience

Fremtiden for kundeservice begynder med multidisciplinære teams

86 % af forbrugerne siger, at god kundeservice kan få dem til at gå fra at være engangskøbere til at blive fortalere for et brand. Mens god kundeservice er et vigtigt fokuspunkt for ethvert succesfuldt brand - danner fremadstormende virksomheder kundefokuserede multidisciplinære teams for at hjælpe med at skabe enestående kundeoplevelser.

African male chatting on his mobile phone at the airport
May 03, 2022 • Chatbots

6 måder at bruge chatbots på, som kan revolutionere retail & e-commerce branchen

I retailbranchens enormt konkurrenceprægede verden kan automatisering være forskellen mellem succes og fiasko. Hvis du bruger for meget tid på besværlige returneringer eller på at besvare de samme spørgsmål igen og igen, har du ikke tid nok til at udarbejde salgsstrategier og opbygge dit kundegrundlag. Automatisering af vigtige elementer i din detailvirksomhed kan frigøre medarbejdere, så de kan udrette fantastiske ting.

customer service blog
May 02, 2022 • Customer Experience

Sådan definerer kundeoplevelser din forretningsmodel

Nye generationer af kunder efterspørger andre forretningsmodeller. Moderne forbrugere er velinformerede og teknologikyndige, og de har høje forventninger til din virksomheds kundeoplevelse. En kundeorienteret forretningsmodel kan hjælpe dig med at imødekomme deres forventninger. Lad os starte med at se på de nye generationer, før vi dykker ned i, hvordan du kan indføre en kundeorienteret tilgang.

Is this region a better fit for you?
Go
close icon