Tilbage til blog
Hvad er ChatGPT egentlig?
ChatGPT er en chat-interface baseret på OpenAI's GPT-serie af Large Language Models (LLM'er). Du kan spørge den, hvad du vil, og give den kommandoer til at generere strukturerede oplysninger. Tænk på anvendelsestilfælde som at stille et spørgsmål, få oversat et stykke tekst, foretage beregninger baseret på en problembeskrivelse, få genereret kode til en funktion, du tænker på, og listen fortsætter ...
Men hvordan gør den alt dette? Arman, hvordan fungerer ChatGPT?
ChatGPT er altså et produkt, der er fremstillet af OpenAI baseret på deres GPT3.5-serie. Det er en Large Language Model (LLM) med 20 milliarder parametre, der er specielt trænet (læs: i hånden) til at modellere samtaler. Modellen består af Natural Language Understanding (NLU) til at forstå input og Natural Language Generation (NLG) til at formulere et svar. Især den sidste del, NLG, har taget betydelige skridt fremad med indførelsen af ChatGPT, hvilket gør det lettere at anvende "generativ" AI i "generative" tilfælde.
Vent lige lidt, LLM'er, generativ AI, parametre, hvad handler det om?
Kort sagt er det en algoritme, der genkender, opsummerer, oversætter, forudsiger og genererer tekst. Det kan den gøre på grund af de enorme datasæt, der bruges til at træne modellen. En af måderne at udtrykke dens evne til at lære på er ved at kvantificere antallet af parametre. En parameter er en variabel, der udgør den del af modellen, som har kunnet lære af historiske data fra det underliggende datasæt. Så antallet af parametre siger noget om, hvor mange nuancer en model kan absorbere. Indtil videre har vi set en stærk korrelation mellem antallet af parametre, som en model har, og dens evne til at ligne og generere menneskelignende reaktioner og adfærd.
Okay, det er altså en chatbot, der forstår nuancer og kan generere sine egne svar. Hvad ser du som de største fordele og ulemper ved denne udvikling?
Bortset fra de muligheder og nye effektive anvendelsesmuligheder, som denne teknologi giver, ser jeg den hype, der omgiver den, som den største fordel. Den ekstraordinære entusiasme medfører en øget nysgerrighed og efterspørgsel efter teknologi inden for generativ AI. Det sætter kraften i conversational AI på offentlig visning, og folk er vilde med det. I sidste ende vil det yderligere drive innovationen fremad, efterhånden som flere mennesker og virksomheder bliver involveret.
Der er også nogle tidlige ulemper. Vi har bemærket, at i de tidlige faser af denne type udvikling har mange mennesker svært ved at stikke igennem støjen og se den reelle forretningsværdi. ChatGPT opfattes som en alvidende og almægtig teknologi, hvilket ikke helt er sandt. Det er en AI-model til samtaler, som er fantastisk til Natural Language Generation, men den er ikke perfekt. Den begår fejl. Det er fint, hvis dens brugere forstår, at den lejlighedsvis tager fejl og ikke er et universalmiddel. Denne fase vil gå over, og det, vi vil stå tilbage med, vil være ekstremt imponerende.
ChatGPT vs Conversational AI
Menneskelignende samtaler lyder som noget, som folk også forsøger at opnå med Conversational AI Cloud.
Hvad er forskellen mellem ChatGPT og Conversational AI Cloud?
Godt spørgsmål. OpenAI's GPT-serie er en fantastisk anvendelse af den "nye" transformerarkitektur, som Google introducerede for verden i 2017. Vores Conversational AI Cloud har brugt transformermodeller i årevis. Den store forskel er, hvad en Conversational AI Platform har bygget op omkring disse modeller for virkelig at levere forretningsværdi for en organisation.
Conversational AI Cloud hjælper virksomheder med at løse specifikke forretningsproblemer ved at automatisere samtaler. Natural Language Processing (NLP) er kernen i det. Når du har brug for at automatisere mange og/eller komplekse spørgsmål, er der grænser for, hvad du kan gøre med regelbaserede modeller, så det giver kun mening at anvende AI-modeller.
Isoleret set gør disse modeller ikke ret meget. Virksomhederne ønsker at implementere AI på webchat, WhatsApp og andre kanaler. De ønsker at teste deres modeller, før de implementerer nye versioner. Og de ønsker nemt at tilføje eller opdatere indhold, når de f.eks. skal opdatere deres priser eller tilføje et nyt samtaleflow. De ønsker at få indsigt i deres KPI'er som f.eks. modellens ydeevne eller afbøjningsraten. Og hvad med integrationer med eksisterende systemer såsom OMS, CDP, CRM eller ERP? Hvis du ikke kan udføre reelle handlinger med din Conversational AI, f.eks. hente eller opdatere poster for at give statusopdateringer til kunderne eller ændre deres oplysninger, kan du ikke gøre meget. ChatGPT kan ikke gøre noget af dette. Men med Conversational AI Cloud kan du det. Så de modeller, som vi bruger "under motorhjelmen", supplerer et bredt sæt af funktioner, der udgør vores komplette løsning.
Svar fra Conversational AI Cloud kan tilpasse sig konteksten, men bliver gennemgået af tekstforfattere i dit firma for at sikre, at svarene altid er faktuelt korrekte, i overensstemmelse med brandet og har den rigtige tone of voice. Så afhængigt af, hvor godt dit miljø er sat op, er det værste, der kan ske, at din AI i en mindre procentdel af tilfældene vil svare med "Jeg kender ikke svaret på det spørgsmål". Men selv den sætning vil blive formuleret præcis som du ønsker det, og det flow er fuldt kontrolleret. Alle disse principper resulterer i en lavrisikoprofil for brug af Conversational AI Cloud til at interagere med dine kunder.
Og dette er også straks den store forskel mellem ChatGPT og Conversational AI Cloud. ChatGPT's adfærd er det, man ville kalde en sort boks. Stil det samme nøjagtige spørgsmål 5 gange, og du vil få fem forskellige svar (eller ej, det er du aldrig sikker på). Nogle gange vil et af disse svar lyde godt, men også være faktuelt forkert. Din AI, der finder på svar på stedet, sparer dig for en FTE, måske to, i administrativt arbejde. Men samtidig mindsker det din evne til at udøve kontrol, være gennemsigtig og opretholde kvaliteten. Så denne risikoprofil ved at lade generativ AI-produktion gå direkte til dine kunder er betydeligt højere (i hvert fald nu, hvor vi stadig er i de tidlige dage af denne teknologi). Vi skal nok komme ud over det punkt på et tidspunkt, men ikke i dag.
OK, så målgruppen og anvendelsesområderne er meget forskellige?
Det er en god måde at opsummere det på. Vores modeller vil blive ved med at udvikle sig, som de har gjort det tidligere. Og jeg er sikker på, at de LLM'er, der i øjeblikket udvikles og frigives, i høj grad vil forbedre vores produkters muligheder. De vil ikke kannibalisere dem; det er to forskellige, komplementære ting.
CM.com & ChatGPT
Så Arman, når du siger, at disse modeller vil forbedre vores produkter, hvad betyder det så, når du siger, at de vil forbedre vores produkter? Og har CM.com nogen planer om at indføre disse nye modeller?
Hvilken rolle kan ChatGPT spille i vores produkter?
Vi ser mange muligheder for at forbedre vores produkter og gøre det muligt for brugerne af vores produkter og det arbejde, de har udført i de seneste år, endnu bedre. Uanset om det er for en samtaledesigner i Conversational AI Cloud, en agent i Mobile Service Cloud eller en markedsføringsmedarbejder i vores Mobile Marketing Cloud. De genererer alle sammen indhold. Ved at bruge generativ AI til at komme med forslag til indhold og lade vores kunder foretage en endelig kontrol vil de få en masse arbejde fra hånden.
Det vigtige for os er, at vi ikke lader os rive med af hypen og integrerer disse teknologier for at integrere dem. Vi ønsker kun at implementere funktioner, hvor der er en betydelig merværdi for vores produkter og kunder. Vi går ikke ind for markedsføringsdrevet mærkning af vores muligheder med "AI-drevet dette, AI-drevet det". Generativ AI og LLM'er er mægtige og giver meget mening mange steder, men vi er bevidste om ulemperne og sikrer, at alle nye funktioner, vi tilbyder, leverer kvalitet og værdi.
Så fortæl os, hvad er vi ved at bygge lige nu, og hvad kan vi forvente i fremtiden?
Jeg er glad for, at du spørger. Vi har nogle ting i støbeskeen, som virkelig får vores hjerter til at banke. Lad os se på nogle af dem.
Generering af samtaleindhold
Vores mål er at opnå en hurtigere go-live for vores Conversational AI-kunder, uanset om det er en ny kunde, der lige er kommet i gang, eller en eksisterende kunde, der ønsker at tilføje et nyt samtaleflow. Selv om vi er stolte af vores brugervenlighed, tager det tid at opsætte intentmodeller og artikelstrukturer. Tid, der kan reduceres betydeligt, hvis du som konversationsdesigner har, hvad man kunne kalde en ghostwriter, der gør det tunge arbejde for dig. På kort sigt betyder det, at du skal bede Conversational AI Cloud om oplysninger om din virksomhed. Lad os sige, at du er et forsyningsselskab. Du kan dele dette faktum og give nogle mindre detaljer om dine produkter og tjenester - hvorefter LLM automatisk genererer spørgsmål og genkendelsespunkter, som du meget vel kan forvente at modtage fra dine kunder. Du kan betragte dit output efter prompten som et udkast, gennemgå det, teste det og offentliggøre det. At tænke på dette indhold selv tager en masse tid, som du kunne have brugt andre steder.
Vi starter med intentioner, og vi har allerede identificeret flere andre områder, som vil have gavn af denne type løsning. Med tiden vil vi tilføje flere og flere af disse muligheder til CM.com-porteføljen.
LLM'er til naturlig sprogbehandling i realtid
En ting, vi altid arbejder på, er vores NLP-modeller i vores Conversational AI Cloud og gør agenternes liv lettere i vores Mobile Service Cloud. Målet her er at forbedre vores eksisterende NLP-infrastruktur med LLM'ernes kraft ved at undersøge emner som nul- og få skudgenkendelse. Og igen her fokuserer vi også på den værdi, som dette vil give vores produkter. Stærkere genkendelsesmodeller betyder færre eskaleringer til liveagenter, og en mere finkornet routing, når der sker eskaleringer, resulterer i en lavere gennemsnitlig behandlingstid pr. samtale. Alt dette vil tilføre hele CM.com-platformen en betydelig værdi. Udover det kigger vi også på emner som stave- og grammatikrettelser for at hjælpe samtaledesignere, kontaktcenteragenter og marketingfolk.
Personalisering gennem følelser
ChatGPT er et godt eksempel på, hvordan følelsesmæssig kontekst kan forbedre svarene. Når der opdages negative følelser, kan vi kompensere ved at omformulere statiske svar, så de er mere empatiske eller undskyldende for den aktuelle situation. Dette koncept kan også fungere godt for forslag til kontaktcenteragenter. Alt i alt vil dette skabe en bedre slutbrugeroplevelse, hvilket vil resultere i et stærkere bånd mellem vores kunder og deres slutbrugere.
Sammenfatninger og søgemuligheder
Genkendelsesmodeller fungerer ikke altid godt på indhold i lang form. Ved at opsummere input i lang form, før det køres gennem vores genkendelsesmodeller, kan du øge den samlede genkendelsesprocent og besvare alle indgående spørgsmål med større sikkerhed og præcision.
Når vi organiserer overdragelse til menneskelige agenter, vil disse agenter også kunne reducere deres gennemsnitlige sagsbehandlingstid, hvis de kan læse et resumé af samtalen mellem bot og kunde. Agenterne kan komme hurtigere i gang og give et bedre og mere rettidigt første svar. Enhver mindre forbedring af den første svartid er også korreleret med en højere tilfredshedsgrad, uanset om den udtrykkes i NPS, CSAT eller CES.
Fremtiden begynder i dag
Afslutningsvis er jeg nysgerrig efter at vide, hvad udviklinger som ChatGPT, LLM'er og generativ AI vil bidrage med på kort sigt, og hvad vores mere langsigtede forventninger er, efter at vi har frigivet disse "human-in-the-loop"-funktioner, som du nævnte tidligere.
Hvad betyder ChatGPT for erhvervslivet i dag og i fremtiden?
Som et selvstændigt produkt er ChatGPT noget af en personlig assistent, der kan øge hver enkelt medarbejders individuelle produktivitet som supplement til værktøjer som søgemaskiner og wikier på meget kort sigt (læs: i dag).
Efterhånden som adgangen til LLM'eren bag produkter som ChatGPT og Bard vil finde vej til udviklerne, vil vi begynde at se mere specifikke implementeringer, der løser problemer på virksomhedsniveau, snarere end blot individuelle produktivitetsforøgelser for vidensarbejdere. Human-in-the-loop-use cases i produkter som vores egne er et perfekt eksempel.
På lang sigt vil vi i sidste ende komme ud over usikkerheden omkring blackboxen, efterhånden som fagfolk bliver fortrolige med at bruge disse modeller til at tale direkte med forbrugerne. Ligesom det gjorde tilbage i tiden med NLP: det vil tage noget tid. Folk skal lære de rigtige færdigheder og målinger for at kunne arbejde med disse modeller på det niveau. For NLP er F1-scorer, præcision, genkaldelse og lignende målinger til evaluering og træning blevet almindeligt kendt. I dag kan man finde masser af artikler med lignende målinger for NLG. Kaskaden fra de tidlige brugere, der er trygge ved det, til det tidlige flertal af købere vil tage noget tid. Hvor lang tid præcist? Det tror jeg ikke, at nogen har svaret på.
I mellemtiden er vi ret hypede over at frigive vores første LLM-funktioner i marts og fortsætte med at skubbe på for endnu mere avancerede cases som året skrider frem.
Fortsættes!
+45 31519312
