![iO GPT](https://assets.iodigital.com/f/119964/2152x1278/1676e15f6a/iogpt_neutral-hero.png/m/800x800)
Pers
Wie ChatGPT heeft uitgeprobeerd, kan niet anders concluderen dan dat er een nieuw tijdperk zal aanbreken. Veel bedrijven willen daar wel op inhaken, maar zien generatieve AI vaak nog als een black box. De complexe werking en het ontbreken van transparantie kunnen leiden tot terughoudendheid, terwijl AI als technologie juist bijzondere kansen en mogelijkheden biedt. Wil je niet stilstaan en afwachten als bedrijf? Dan zul je AI echt moeten proeven: experimenteren, leren en toepassen. Alleen zo leer je hoe en in welke smaak AI bij jouw bedrijfsvoering past.
Door het succes van ChatGPT staat generatieve AI bij elk bedrijf in het vizier, volgens The State of AI in 2023 van McKinsey. Je kunt er je klanten beter en sneller mee helpen en je medewerkers efficiënter maken. Het is bovendien een laagdrempelig middel dat je als bedrijf met je eigen IT-afdeling snel kunt inzetten.
Maar voordat je kijkt naar de toegevoegde waarde van AI, zul je eerst moeten begrijpen wat generatieve AI precies is. Daar helpt de vergelijking met koken mee: generatieve AI is een nieuw ingrediënt voor de manier waarop je als organisatie bedrijfsproblemen oplost en klantwaarde creëert.
“AI is een nieuw ingrediënt voor de manier waarop je als organisatie bedrijfsproblemen oplost en klantwaarde creëert.”
Justin van Grootveld, Lead Developer iO
Ga je met AI aan de slag, dan wil je enerzijds voorkomen dat het een gimmick wordt zonder enige impact en anderzijds wil je het optimaal leren toepassen. In kooktermen gesteld: je wilt geen gebakken lucht verkopen en daarnaast een uniek, perfect recept aan je klanten voorschotelen; geen eenheidsworst.
De beste manier om AI correct in de keuken van je bedrijfsvoering toe te passen is door te begrijpen wat je er precies mee kunt doen.
Generatieve AI zoals ChatGPT wordt mogelijk gemaakt door een LLM, wat staat voor large language model. De komende jaren zal LLM als techniek de koers bepalen op het gebied van innovatie, procesoptimalisatie en datagedrevenheid.
“De komende jaren zal LLM als techniek de koers bepalen op het gebied van innovatie, procesoptimalisatie en datagedrevenheid.”
Justin van Grootveld, Lead Developer iO
Een LLM is een getraind taalmodel dat natuurlijke taal kan begrijpen, verwerken en genereren. Daarvoor heeft het de beschikking over enorme hoeveelheden tekstgegevens en maakt het gebruik van geavanceerde machine learning-technieken.
Met de introductie van ChatGPT door OpenAI in november 2022 werd deze technologie via chat beschikbaar voor het grote publiek.
Momenteel geeft bijna 25% van de topmanagers aan generatieve AI te gebruiken voor werk, volgens McKinsey. Naast chat zijn er andere mogelijkheden om een LLM te ontsluiten, waaronder spraak, API en interfaces zoals apps of virtuele assistenten. Dat maakt van een LLM een slimme bouwsteen voor taal die je op allerlei manieren kunt pluggen.
“LLM gaat niet alleen over chat maar ook over spraak, API en interfaces zoals apps of virtuele assistenten”
Justin van Grootveld, Lead Developer iO
Een LLM haalt zijn kennis uit een originele dataset. Hiermee heeft de LLM de beschikking over alle benodigde informatie die het via taal toegankelijk kan maken.
Vervolgens kun je de originele dataset aanpassen en uitbreiden met fine-tuning.
Tijdens het gebruik kun je een LLM ook voorzien van specifieke data, bijvoorbeeld uit een gekoppeld systeem. Er is dan toegang tot de data voor een specifieke taak of sessie, maar de LLM onthoudt het niet voor de lange termijn. Een voorbeeld daarvan is een chat-AI op de site van een energieleverancier die op verzoek de actuele energieprijzen geeft.
De voedingsbronnen van een LLM bestaan dus uit:
De originele dataset
Fine-tuning
Gekoppelde systemen
Daarmee kan het adaptief en veelzijdig functioneren binnen de bedrijfsvoering, in harmonie met de andere processen.
Net zoals er in de keuken bepaalde richtlijnen en technieken bestaan voor het bereiden van bepaalde gerechten, zo kent de toepassing van AI best practices die helpen een optimaal resultaat bereiken.
Houd de volgende regels in achting bij het leren koken met AI:
AI is een ingrediënt, geen gerecht op zichzelf.
Je kunt er geen medewerkers mee vervangen omdat die veel meer doen dan alleen data en taal verwerken.
Ogilvy-topman Rory Sutherland noemt dit in zijn boek Alchemy de zogeheten Doorman Fallacy: vervang je de portier van je hotel met een automatische deur om kosten te besparen? Dan verlies je ook alle andere toegevoegde waarde zoals het regelen van een taxi, beveiliging en het herkennen van klanten. Je bespaart wellicht kosten, maar je verliest ook de status van je hotel.
AI kent vele smaken.
AI is een technologie die in de praktijk op allerlei verschillende manieren kan werken en samenwerken. Je hoeft dus niet één toepassing te hebben die alles kan, je kunt voor een specifieke taak een specifieke AI inzetten. Zoals: haal de kernwoorden uit deze chat of dit telefoongesprek en roep een systeem aan om hiermee data op te halen. Geef die data vervolgens door aan een LLM om hier een samenvattend antwoord te maken.
Dit is bijvoorbeeld hoe God Mode AutoGPT werkt: het combineert de modellen Auto GPT en Baby AGI en werkt met drie aparte agents voor task creation, task priorization en task execution. Het resultaat is een geavanceerde AI-tool die op autopiloot kan werken.
Begin met het gerecht, kies daarna de ingrediënten.
Je gerecht is datgene waarmee je je klanten blij maakt. Neem je een bepaald ingrediënt als uitgangspunt, dan verlies je al snel de klant uit het oog. Nu is er een wildgroei aan AI-tools die vaak leuk en interessant zijn, maar velen proberen vooral een graantje mee te pikken op de hype.
Kijk daarom eerst hoe AI werkt en wat het kan en denk vervolgens na hoe dit van toegevoegde waarde kan zijn binnen de organisatie, het proces of de applicatie. Focus op efficiëntieverhoging van medewerkers, kostenreductie door automatisering, omzetverhoging of een betere klantervaring voor gebruikers.
Ken je ingrediënten.
Ideale AI-tools gevonden? Investeer ook in workshops en trainingen voor de medewerkers zodat ze optimaal gebruik ervan leren maken. Niet iedere ChatGPT-gebruiker is direct een prompt engineer die weet met welke prompts je optimaal resultaat krijgt.
Wees daarbij niet bang om de diepte in te gaan en het beestje bij zijn naam te noemen zoals LLM, vectorisatie, custom modellen. Zolang je de impact op het werk en de toegevoegde waarde helder uitlegt, zullen je medewerkers graag hierin meegaan.
Laat AI als smaak niet overheersen.
Het direct ontsluiten van een AI-interface naar gebruikers is in veel gevallen nog onverantwoord; de menselijke schakel blijft op korte termijn nodig.
AI kan bijzonder veel ondersteunende taken op zich nemen, zoals veelgestelde vragen en uitleg creëren, informatie samenvatten en vereenvoudigen, een interne kennisbank voor medewerkers bijhouden. Zo houd je de controle over het klantcontact en voorkom je dat gebruikers worden blootgesteld aan een hallucinerende AI die onjuiste informatie verzint of de user intent verkeerd interpreteert.
Ga voor mooie ingrediënten.
De data waarmee een LLM wordt gevoed, moet kwalitatief zijn: volledig, accuraat, actueel, begrijpelijk en consistent. Want ook hier geldt: garbage in, garbage out. Dat betreft niet alleen de dataset waarmee een LLM wordt getraind, maar uiteindelijk ook de prompts die de gebruiker invoert. De juiste vraag maakt het verschil tussen onzin en echte waarde. Past de input van de gebruiker wel bij de user intent voor die taak of de context van het bedrijf?
Om AI als ingrediënt tot zijn recht te laten komen is het essentieel om goed in gedachten te houden dat AI ook allerlei beperkingen kent. Zo begrijpt een LLM-taal niet zoals mensen maar bootst het taal na, volgens het Chinese Room-argument van John Searle.
En een LLM zoals ChatGPT kan het belangrijker vinden om te antwoorden dan om een correct antwoord te geven: zogeheten AI-hallucinatie. Dat ondervond een advocatenkantoor uit New York dat zes fictieve jurisprudentieverwijzingen in een juridisch betoog had opgenomen.
Daarnaast kan de dataset over een heel specifiek onderwerp te beperkt zijn. Hierdoor neemt de bias enorm toe: de output kan beperkt en bevoordeeld zijn, wat leidt tot een vertekend beeld van de realiteit.
Bovendien is een LLM non-deterministisch: op dezelfde vraag kan een LLM verschillende uitkomsten geven waarvan de inhoud meestal hetzelfde is. Hetzelfde gebeurt wanneer je dezelfde vraag aan verschillende mensen stelt. Dat werkt in heel veel situaties prima, maar bij sommige gevoelige onderwerpen of grote vraagstukken kan het gebruikers ook verwarren of frustreren. Soms wil je gewoon één goed antwoord horen.
LLM is een generieke tool die de menselijke taal en data snapt. De toepassing ervan lijkt daarom in eerste instantie breed en vaag, maar bedenk je dat computers en het internet als technologie in het begin ook zo werden gezien. Interessant, maar wat kun je ermee? Vandaag de dag vormt de smartphone tezamen met apps de afstandsbediening tot het moderne, dagelijkse leven. AI zal een grotere impact hebben, maar vandaag de dag staat het echt nog maar in de kinderschoenen.
“Als technologie is LLM een goede keuze om mee te beginnen vanwege de laagdrempelige toepassing en de snelheid waarmee je meetbare impact kunt creëren”
Justin van Grootveld, Lead Developer iO
AI moet je gewoon proeven. Begin met een ‘Proef of concept’ om te leren hoe AI jouw business net dat snufje extra kan geven. Experimenteer om uit te vinden waar de businesswaarde voor jou zit. Als technologie is LLM een goede keuze om mee te beginnen vanwege de laagdrempelige toepassing en de snelheid waarmee je meetbare impact kunt creëren. Leer een LLM te gebruiken en ga niet uit van aannames: laat jezelf verrassen. Een gerecht moet je altijd blijven aanscherpen zodat je klanten denken: dat smaakt naar meer!
Met een uitgesproken visie op - en ervaring in - strategie, enterprise & solution architecture, product management en software delivery, is Raymond binnen het Center of Excellence de juiste man op de juiste plaats. Verantwoordelijk voor iO's technology visie en als accelerator van kennis en innovatie. Kennis het delen waard, als het kloppend hart van elke organisatie.