previous icon Terug naar blog
Apr 11, 2023
10 minutes read

De revolutie van ChatGPT en Large Language Models: het perspectief van een product manager

Met de komst van ChatGPT lijkt het alsof er een hele nieuwe wereld is opengegaan. Iedereen kan nu hun meest prangende vraag stellen aan de “alwetende” chatbot. Binnen een week waren er al 5 miljoen gebruikers. De grote Tech bedrijven worden zenuwachtig: Microsoft heeft GPT-4 geïntegreerd in hun zoekmachine Bing, en Google kondigde hun versie “Bard” aan. Het enthousiasme is ongekend. Maar wat is ChatGPT nu eigenlijk? En wat betekent dit voor bedrijven? Wij vroegen Arman van Lieshout, Product Manager Conversational AI Cloud, het hemd van zijn lijf.

Brechtje van Houtum
Brechtje van Houtum,
Content Marketer

Wat is ChatGPT nu eigenlijk?

ChatGPT is een “conversational interface”, waar je op een menselijke manier een bot vraagt om iets voor je te doen of te maken. Dit kan van alles zijn: antwoord op je vraag, specifieke uitleg, een tekst schrijven, vertalingen, of een code voor je maken. In het gesprek kom je eigenlijk steeds verder.

CM.com Arman van Lieshout ChatGPT blog

Maar hoe kan de bot dit allemaal? Arman, hoe werkt ChatGPT?

ChatGPT is dus een product van OpenAI, gebaseerd op de GPT3.5-serie. Het is een Large Language Model (LLM) met 20 miljard parameters, specifiek getraind (lees: met de hand) om gesprekken te modelleren. Het model bestaat uit Natural Language Understanding (NLU) om input te begrijpen en Natural Language Generation (NLG) om een antwoord te formuleren. Vooral dat laatste, NLG, heeft met de introductie van ChatGPT grote stappen vooruit gezet, waardoor "generatieve" AI use cases steeds beter mogelijk worden.

Wacht even, LLMs, generative AI, parameters, hoe zit dat?

Simpel gezegd is het een algoritme dat tekst herkent, samenvat, vertaalt, voorspelt en genereert. Het kan dit doen dankzij de enorme datasets die worden gebruikt om het model te trainen. Eén van de manieren om het leervermogen uit te drukken is met het aantal parameters. Een parameter is een variabele die dat deel van het model vormt op basis van historische gegevens uit de onderliggende dataset. Het aantal parameters zegt dus iets over hoeveel nuances een model kan verwerken. Tot nu toe hebben we een sterke relatie gezien tussen het aantal parameters dat een model heeft en het vermogen om op menselijke reacties en gedrag te lijken en deze te genereren.

Oké, een chatbot die nuance begrijpt en zelf antwoorden kan genereren dus. Wat zijn volgens jou de belangrijkste voor- en nadelen van deze ontwikkeling?

Naast de kansen en krachtige nieuwe use cases die deze technologie met zich meebrengt, zie ik de hype eromheen als het grootste voordeel. Het ongekende enthousiasme zorgt voor meer interesse en vraag naar technologie in Generative AI. Het zet de potentie van conversational AI in de schijnwerpers, en mensen zijn er gek op. Uiteindelijk gaat dit de innovatie verder stimuleren als meer mensen en bedrijven meedoen.

Toch zijn er ook (nog) enkele nadelen. We hebben gemerkt dat veel mensen het in het beginstadium van dit soort ontwikkelingen moeilijk vinden om door de ruis heen te prikken en de echte zakelijke waarde te zien. ChatGPT wordt gezien als een alwetende en almachtige technologie, wat niet helemaal waar is. Het is een conversationeel AI-model dat uitblinkt in Natural Language Generation, maar het is niet perfect. Het maakt fouten. Het is prima als gebruikers begrijpen dat het af en toe dingen fout doet en geen wondermiddel is. Ook deze fase gaat voorbij, en wat we dan overhouden is ontzettend indrukwekkend.

ChatGPT vs Conversational AI

Dat menselijke gesprek klinkt als iets wat bedrijven ook proberen te bereiken met Conversational AI Cloud.

Wat is het verschil tussen ChatGPT en Conversational AI?

Goede vraag. De GPT-serie van OpenAI is een mooi voorbeeld van de "nieuwe" transformatorarchitectuur die Google in 2017 aan de wereld introduceerde. Onze Conversational AI Cloud maakt al jaren gebruik van transformator modellen. Het grote verschil is wat een Conversational AI Platform rondom die modellen heeft gebouwd om echt bedrijfswaarde te bieden voor een organisatie.

Conversational AI Cloud helpt bedrijven om specifieke vraagstukken aan te pakken door gesprekken te automatiseren. Natural Language Processing (NLP) staat daarbij centraal. Wanneer je veel en/of complexe vragen moet automatiseren, zijn er grenzen aan wat je kunt doen met rule-based modellen, dus is de inzet van AI-modellen alleen maar logisch.

Op zichzelf doen die modellen niet veel. Bedrijven willen AI inzetten op webchat, WhatsApp en andere kanalen. Ze willen hun modellen testen voordat ze nieuwe versies inzetten. En ze willen gemakkelijk content toevoegen of bijwerken als ze bijvoorbeeld hun prijzen aanpassen of een nieuwe gespreksflow moeten toevoegen. Ze willen inzicht krijgen in hun KPI's zoals de prestaties van het model of "deflection rate". En hoe zit het met integraties met bestaande systemen zoals een OMS, CDP, CRM of ERP? Als je geen concrete acties kunt uitvoeren met je Conversational AI, zoals het ophalen of bijwerken van data om klanten statusupdates te geven of hun informatie te wijzigen, dan kun je niet veel doen. ChatGPT kan dit allemaal niet. Met Conversational AI Cloud kan dit wel. De modellen die wij "onder de motorkap" gebruiken, vormen een aanvulling op een brede reeks functionaliteiten die onze volledige oplossing vormen.

Antwoorden van Conversational AI Cloud kunnen worden aangepast aan de context, maar worden gecontroleerd door copywriters in jouw bedrijf om ervoor te zorgen dat antwoorden altijd feitelijk correct zijn, bij het merk passen en de juiste toon hebben. Dus, afhankelijk van hoe goed je instelling is, is het ergste dat kan gebeuren dat je AI in een klein percentage van de gevallen antwoordt met "Ik weet het antwoord op die vraag niet". Maar zelfs die zin wordt precies zo geformuleerd als jij wilt, en de flow wordt volledig gecontroleerd. Al deze principes leiden tot een laag risicoprofiel voor het gebruik van Conversational AI Cloud om met je klanten te communiceren.

En dit is ook meteen het grote verschil tussen ChatGPT en Conversational AI Cloud. Het gedrag van ChatGPT is wat je een black box zou noemen. Stel exact dezelfde vraag 5 keer, en je krijgt vijf verschillende antwoorden (of niet, dat weet je nooit zeker). Soms zal één van die antwoorden geweldig klinken, maar zal ook feitelijk onjuist zijn. De AI die ter plekke antwoorden verzint, bespaart je een FTE, misschien twee, aan administratief werk. Maar tegelijkertijd vermindert het je controle- en transparantievermogen en, nog belangrijker, je kwaliteit. Dit risicoprofiel van generatieve AI-output die rechtstreeks naar je klanten gaat, is dus aanzienlijk hoger (nu we ons nog in de begindagen van deze technologie bevinden). Ooit zullen we dat punt achter ons laten, maar niet vandaag.

Oké, de doelgroep en de use cases zijn dus de grootste verschillen?

Zo zou je het kunnen stellen. Onze modellen zullen zich blijven ontwikkelen zoals in het verleden. En ik ben er zeker van dat de LLM's die momenteel worden ontwikkeld en uitgebracht de mogelijkheden van onze producten sterk zullen verbeteren. Het zal niet kannibaliseren; het zijn twee verschillende, complementaire dingen.

CM.com LLM NLP ChatGPT blog visual

CM.com & ChatGPT

Dus, Arman, als je zegt dat deze modellen onze producten zullen verbeteren, wat betekent dat dan? En heeft CM.com plannen om deze nieuwe modellen te implementeren?

Welke rol kan ChatGPT spelen in de producten van CM.com?

We zien veel mogelijkheden om onze producten te verbeteren en de gebruikers van onze producten en het werk dat ze de afgelopen jaren hebben gedaan verder mogelijk te maken. Of het nu gaat om een conversation designer in Conversational AI Cloud, een agent in Mobile Service Cloud, of een marketeer in onze Mobile Marketing Cloud. Door generatieve AI te gebruiken om suggesties voor content te doen en onze klanten een eindcontrole te laten uitvoeren, wordt hen veel werk uit handen genomen.

Het belangrijkste voor ons is dat we ons niet laten meeslepen door de hype en deze technologieën alleen maar integreren om ze te integreren. We willen alleen functies implementeren die een significante toegevoegde waarde hebben voor onze producten en klanten. Het gaat ons niet om marketinggedreven labels van onze mogelijkheden met "AI-powered dit, AI-powered dat". Generatieve AI en LLM's zijn krachtig en op veel plaatsen zinvol, maar we zijn ons bewust van de nadelen en zorgen ervoor dat alle nieuwe functies die we aanbieden kwaliteit en waarde leveren.

ChatGPT blog OpenAI logo

Vertel, wat zijn we aan het bouwen, en wat kunnen we in de toekomst verwachten?

Ik ben blij dat je dat vraagt. We hebben wat projecten in ontwikkeling waar ons hart sneller van gaat kloppen. Laten we er een paar bekijken:

  • Conversationele inhoud genereren

    Ons doel is een snellere go-live voor onze Conversational AI-klanten, of het nu gaat om een nieuwe klant die net begint of een bestaande klant die een nieuwe gespreksflow wil toevoegen. En hoewel we trots zijn op ons gebruiksgemak, kost het opzetten van intentiemodellen en artikelstructuren tijd. Tijd die sterk kan worden verminderd als je als conversatieontwerper een zogenaamde ghostwriter hebt die het zware werk voor je doet. Op korte termijn betekent dit dat je Conversational AI Cloud informatie geeft over je bedrijf. Stel dat je een nutsbedrijf bent. Je kunt dat feit delen en wat kleine details geven over je producten en diensten - waarna de LLM automatisch vragen en herkenningspunten genereert die je heel goed van je klanten kunt verwachten. Je kunt je output na de prompt zien als een concept, dat je kunt herzien, testen en publiceren. Zelf nadenken over die content kost veel tijd die je anders had kunnen besteden.

    We beginnen met intenties, en we hebben al meerdere andere gebieden geïdentificeerd die profiteren van dit type oplossing. Gaandeweg zullen we steeds meer van deze mogelijkheden aan het CM.com-portfolio toevoegen.

  • LLM's voor natuurlijke taalverwerking in real time

    Eén ding waar we altijd aan werken zijn onze NLP-modellen in onze Conversational AI Cloud, en het makkelijker maken van het leven van agents in onze Mobile Service Cloud. Het doel is om onze bestaande NLP-infrastructuur te verbeteren met de kracht van LLM's door topics als zero- en few-shot recognition te onderzoeken. En ook hier richten we ons op de waarde die dit oplevert voor onze producten. Sterkere herkenningsmodellen leiden tot minder escalaties naar live agents, en een meer verfijnde routering wanneer escalaties zich toch voordoen, resulteert in een lagere gemiddelde afhandelingstijd per gesprek. Dit alles zal significante waarde toevoegen aan het hele CM.com platform. Daarnaast kijken we ook naar onderwerpen als spelling- en grammaticacorrecties om conversation designers, klantenservicemedewerkers en marketeers te helpen.

  • Personalisatie door sentiment

    ChatGPT laat goed zien hoe sentimentele context antwoorden kan verbeteren. Wanneer negatief sentiment wordt opgemerkt, kunnen we dit compenseren door statische antwoorden anders te formuleren, zodat ze empathischer of verontschuldigender zijn voor die specifieke situatie. Dit concept kan ook goed werken voor suggesties aan klantenservice agents. In het algemeen zorgt dit voor een betere eindgebruikerservaring, wat leidt tot een sterkere band tussen onze klanten en hun eindgebruikers.

  • Samenvattingen en zoekmogelijkheden

    Herkenningsmodellen presteren niet altijd goed op long-form content. Het samenvatten van lange input voordat deze door onze herkenningsmodellen wordt gehaald, is een goede manier om het totale herkenningspercentage te verhogen en alle inkomende vragen met meer vertrouwen en precisie te beantwoorden.

    Wanneer we het gesprek overdragen aan menselijke medewerkers, kunnen die medewerkers ook hun gemiddelde verwerkingstijd verminderen als ze een samenvatting van het gesprek tussen de bot en de klant kunnen lezen. De medewerkers kunnen sneller reageren en een beter en sneller eerste antwoord geven. Elke kleine verbetering in de eerste reactietijd hangt ook samen met een hogere tevredenheid, of die nu wordt uitgedrukt in NPS, CSAT of CES..

CM.com OpenAI ChatGPT blog summary> De eerste implementaties zijn live! Nu in het CM.com platform.

De toekomst begint vandaag

Om af te sluiten, ben ik benieuwd wat ontwikkelingen als ChatGPT, LLM's en generatieve AI op zullen leveren. Wat zijn jouw verwachtingen op de korte termijn en de langere termijn, nadat we deze human-in-the-loop-functies, waar je het eerder over had, hebben geïntroduceerd?

Wat betekent ChatGPT voor bedrijven vandaag en in de toekomst?

Als zelfstandig product is ChatGPT zoiets als een persoonlijke assistent die op zeer korte termijn (lees: vandaag) de individuele productiviteit van elke werknemer kan verhogen als aanvulling op tools zoals zoekmachines en wiki's.

Naarmate de toegang tot de LLM's achter producten als ChatGPT en Bard in handen komt van developers, zullen we meer specifieke implementaties gaan zien die zakelijke problemen oplossen, in plaats van alleen individuele productiviteitsverhogingen voor werknemers. De human-in-the-loop use cases in producten als de onze zijn daar een perfect voorbeeld van.

Op de lange termijn raken we uiteindelijk voorbij de black-box onzekerheden naarmate professionals vertrouwd raken met het gebruik van deze modellen om rechtstreeks met consumenten te spreken. Net als destijds met NLP: het zal enige tijd duren. Mensen moeten de juiste vaardigheden en metrics leren om op dat niveau met deze modellen te kunnen werken. Voor NLP zijn F1-scores, precisie, recall en vergelijkbare metrics voor evaluatie en training inmiddels algemeen bekend. Vandaag de dag zijn er genoeg artikelen te vinden waarin soortgelijke metrics voor NLG worden beschreven. De overgang van early adopters die zich hiermee vertrouwd voelen naar de early majority kopers duurt nog wel even. Hoeveel tijd precies? Ik denk niet dat iemand daar een antwoord op heeft.

In de tussentijd zijn we enorm enthousiast om in maart onze eerste LLM-functies te lanceren en te werken aan nog geavanceerdere zaken in de loop van het jaar.

Wordt vervolgd!

Meer weten over de mogelijkheden van Conversational AI?

Was dit artikel interessant?
Deel het!
Brechtje van Houtum
Brechtje van Houtum,
Content Marketer
logo linkedin icon
Als copywriter deelt Brechtje veel content voor onze customer service, customer support, marketing en sales community. Gelooft in 'customer first'.

Laatste artikelen

Acquisition and retention in marketing engage platform
Nov 20, 2023 • Conversational AI

Ontcijfer de uitdagingen van acquisitie en retentie

In het dagelijks leven zeggen ze wel eens dat percentages niet altijd het belangrijkste zijn, maar in de wereld van marketing spelen ze een cruciale rol. De klantreis, die begint bij de eerste kennismaking en doorloopt tot en met het behouden van klanten, is een complex pad met talloze mogelijkheden waarop het succespercentage kan wijzigen. Een verwarrende ervaring het ene moment, een slecht getimede communicatie op een ander moment, en voor je het weet zie je het conversiepercentage dalen.

digitalizacion-administracion-publica-y-educacion
Oct 23, 2023 • Conversational AI

Hoe generatieve AI je klantenservice verbetert

Voldoen aan de verwachtingen van de klant blijft de grootste uitdaging voor klantenservice. Snelheid, gemak en kwalitatieve hulp lijken de belangrijkste aspecten om dit te bereiken. Met de kracht van Generative AI kunnen klantvragen sneller worden geïdentificeerd, gecategoriseerd en opgelost. Daarnaast wordt je organisatie continu gevoed met data om de hele customer journey te verbeteren. Lees meer over de kracht van AI voor klantenservice in deze blog.

whatsapp-business-blog_image-service-automation
Oct 04, 2023 • WhatsApp

Hoe gebruik je WhatsApp Business voor service-automatisering?

Het proces van terugbetaling of vervanging van een product is een gevoelige situatie die voor zowel klanten als bedrijven snel een bron van spanning of frustratie kan worden. Laten we eerlijk zijn, als we als consument op zoek zijn naar een terugbetaling of vervanging van een product waarover we niet tevreden zijn, is het idee om lange pagina's met informatie door te moeten bladeren die al dan niet relevant zijn voor wat we moeten weten, niet bepaald plezierig; net zo min als het idee om lange tijd in de wacht te staan bij de klantenservice.

customer service research about channels and phone
Jul 03, 2023 • Mobile Service Cloud

Welke kanalen werken het beste voor klantenservice?

Ken je dat gevoel? Stel je voor: je wilt je adres wijzigen, stuurt een berichtje en je wacht op een antwoord. En je wacht.. en wacht nog wat langer... Irritant hè? Blijf je wachten, of probeer je het via een ander kanaal? Ga eens na hoe dit bij jouw bedrijf geregeld is. Kunnen je klanten jou eigenlijk makkelijk bereiken via hun favoriete kanaal?

Generative AI chatGPT blog about new updates
Jun 30, 2023 • Conversational AI

CM.com's nieuwste ontwikkelingen rondom generatieve AI: aanstaande releases voor 2023

De markt voor generatieve AI heeft een sterke groei doorgemaakt, met meer dan 14,8 miljard dollar geïnvesteerd durfkapitaal in startups die hun producten bouwen op Large Language Models zoals OpenAI's ChatGPT en andere generatieve AI-tools. De sector maakt een explosieve groei door, wat duidelijk blijkt uit het grote aantal domeinregistraties op dit gebied per week. Voor de meeste bedrijven is de belangrijkste uitdaging om uit te vinden wat hun bedrijf verder kan helpen.

whatsapp-chatbot
Jun 26, 2023 • WhatsApp

Wat is een WhatsApp chatbot, en hoe bouw je er een in WhatsApp Business?

WhatsApp Business en chatbots zijn beide enorm in populariteit gegroeid de afgelopen jaren. Veel bedrijven zetten deze innovative tools in om te communiceren met klanten, en het lijkt erop dat deze trend doorzet. Op dit moment zijn er 2 miljard actieve gebruikers op WhatsApp in meer dan 180 landen, en de aantallen groeien nog steeds! Een chatbot op WhatsApp kan je zakelijke communicatie enorm verbeteren. In dit blog lees je over de waarde die een WhatsApp chatbot kan toevoegen aan jouw communicatiestrategie, en hoe je het beste een chatbot op WhatsApp kunt bouwen.

whatsapp-business-blog_image-abandoned-carts-stock-wishlist
Apr 13, 2023 • WhatsApp

Hoe kan WhatsApp Business je bedrijf helpen bij verlaten winkelwagens

Stel je de situatie voor als klant: we hebben besloten dat we iets gaan kopen en we hebben het aan het winkelwagentje toegevoegd, maar om wat voor reden dan ook doen we de transactie niet. Soms vergeten we dat we artikelen aan het winkelwagentje hebben toegevoegd; andere keren gaat de telefoon net als we op betalen willen klikken. In andere gevallen zien we op het laatste moment iets dat ons niet bevalt, waardoor we twee keer nadenken over de aankoop.

whatsapp-business-blog_image-deals-offers
Apr 13, 2023 • WhatsApp

Verhoog je conversie met promotieberichten op WhatsApp

In een tijdperk van massamarketing en voortdurende reclame op tv, internet en e-mail kan men gerust zeggen dat uitverkoopperioden een overweldigende ervaring kunnen zijn voor consumenten overal ter wereld. Omdat ze worden overspoeld met informatie van bedrijven, is het begrijpelijk dat mensen hun telefoon, radio en televisie willen uitschakelen en alle vormen van marketing negeren totdat de verkoopperiode voorbij is. Als eCommerce-eigenaar moet je dit altijd proberen te voorkomen door je marketingstrategie te variëren op een manier die aansluit bij de behoeften en gevoeligheden van je klanten.

OpenAI conversational ai cloud LLMs new
Apr 12, 2023 • Conversational AI

Implementatie van Large Language Models en Generative AI, CM.com’s eerste features

Vandaag introduceert CM.com een belangrijke release voor haar Conversational AI Cloud en Mobile Service Cloud. In onze Conversational AI Cloud hebben we generative AI geïmplementeerd om gesprekscontent te genereren en hebben we de manier waarop we intent-classificatie uitvoeren volledig herzien, waardoor de multi-engine NLU van Conversational AI Cloud verder is verbeterd. Ondertussen hebben onze teams hard gewerkt aan de introductie van gesprekssamenvattingen in CM.com's Mobile Service Cloud.

Is this region a better fit for you?
Go
close icon