Deloitte ging in gesprek met toonaangevende experts van KPN, NPO, NXP en de Talpa Groep om de wereld van generatieve AI en de impact ervan op organisaties te verkennen.
Naarmate organisaties de potentie van generatieve AI (GenAI) beginnen te verkennen, stuiten ze op tal van valkuilen. De risico's omvatten een te groot vertrouwen in de output van GenAI, intellectueel eigendom en datalekken, verkeerde large language model (LLM), schending van auteursrecht, instabiele systemen, reputatieschade en boetes van toezichthouders als de technologie verkeerd wordt toegepast.
Toch kunnen de voordelen enorm zijn: GenAI-systemen kunnen een breed scala aan tijdrovende taken uitvoeren, zoals het schrijven van code en juridische documenten en het creëren van afbeeldingen en animaties, terwijl ze een inspiratiebron vormen voor creatieve medewerkers. De hoog-risico, hoog-beloning aard van GenAI was een van de thema's die naar voren kwamen uit een reeks interviews die Deloitte hield met de senior executives die verantwoordelijk zijn voor de implementatie van GenAI bij KPN, NPO, NXP Semiconductors en de Talpa Group.
"GenAI zal zich zeer snel ontwikkelen, sneller dan we hebben gezien in eerdere technologiecycli," voorspelt Egon Verharen, Manager Innovatie bij de publieke omroeporganisatie NPO. "Maar we moeten ons realiseren dat we nog maar aan het begin staan van de ontwikkeling en dat we nog veel vragen moeten beantwoorden," aangezien sommige GenAI-modellen letterlijk van week tot week veranderen.
Tegelijkertijd betekent de concurrentiedruk dat de meeste organisaties zich niet kunnen veroorloven om simpelweg af te wachten wat er met GenAI gebeurt. In de telecomindustrie heeft KPN al meer dan 60 use cases voor deze nieuwe technologie geïdentificeerd. Winifred Andriessen, Director of Advanced Analytics bij KPN, gelooft dat GenAI kan helpen om de klanten van het telecombedrijf de beste diensten te bieden, terwijl veel meer van zijn processen geautomatiseerd worden. Ondertussen gebruikt de Talpa Groep, een van de leidende mediabedrijven van Nederland, GenAI om afbeeldingen te creëren voor quizshows, promoties en scripts te schrijven, ondertiteling te produceren, social media posts te maken en nog veel meer.
Talpa heeft ontdekt dat GenAI veel veelzijdiger is dan verwacht. Naast het simpelweg versnellen van administratieve processen, zoals maandelijkse rapportages, planning en controle, werving en communicatie, is GenAI "ook zeer creatief, dus kan het je helpen om creatieve concepten, marketingcampagnes en mediabriefings op te zetten," zegt Joost Brakel, Managing Director van AI en Innovatie bij het Talpa Network.
Voor NXP Semiconductors zou GenAI een grote boost kunnen geven aan de productiviteit van zijn 11.000 software-ingenieurs, waardoor "de cyclustijd van innovatie" wordt versneld, merkt Patrick Attallah, Chief Data Officer bij NXP, op.
Maar Attallah beschouwt GenAI niet als een wondermiddel. De technologie moet worden behandeld als een slimme stagiair, in die zin dat het kleine taken moet krijgen en de uitkomst zorgvuldig moet worden gemonitord, waarschuwt hij, terwijl hij ook aangeeft dat medewerkers moeten leren om de juiste prompts te formuleren om de gewenste resultaten te krijgen. "Prompting is niet zo eenvoudig," zegt hij. NXP bouwt nu prompt engineering-woordenboeken/bibliotheken voor verschillende soorten ingenieurs, zodat ze het wiel niet steeds opnieuw hoeven uit te vinden.
Om de balans te vinden tussen risico en opbrengsten, hanteert NXP een systematische aanpak voor de implementatie van GenAI, met de nadruk op het aanpakken van duidelijk gedefinieerde use cases via dedicated centers of excellence. Tegelijkertijd vereist het bedrijf dat elke AI-tool en use case wordt goedgekeurd door een nieuwe interne adviesraad en gebruikt het sandboxen om met GenAI te experimenteren zonder de kernactiviteiten van het bedrijf te beïnvloeden.
KPN hanteert ook een op use cases gerichte aanpak, waarbij in eerste instantie wordt gefocust op de laaghangende vruchten. "Voor de eerste golf namen we alleen use cases waarvoor er duidelijke business owners waren, die niet te complex waren en niet te veel IT-interface en integratie nodig hadden, omdat dat te lang duurt," legt Andriessen uit. Deze leidende principes hielpen KPN bij het selecteren van 10 use cases die het telecombedrijf in staat zouden stellen verschillende wegen te verkennen in verschillende delen van het bedrijf, zoals klantenservice, juridisch, engineering en persoonlijke productiviteit, en om de nodige vaardigheden op te doen.
De Talpa Groep hanteert een andere benadering en laat GenAI-systemen de organisatie van onderaf doordringen. GenAI "verkoopt zichzelf: het is zo duidelijk dat dit waarde toevoegt aan elke afdeling," legt Brakel uit. "We komen niet langer teams, afdelingen of projectorganisaties tegen waar ze dit nog helemaal niet hebben getest." Hoewel de meeste GenAI-tools nog onvolwassen zijn, beweert hij dat ze "exponentieel beter worden."
Talpa biedt praktijkgerichte trainingsprogramma's aan waarin deelnemers kunnen zien of hun routinematige uitdagingen en repetitieve taken kunnen worden overgedragen aan GenAI. "AI is een beetje zoals wiskunde of piano spelen. Je leert het niet door naar video's te kijken," legt Brakel uit. "Je leert het door het te doen. Alleen dan zie je wat de kracht ervan is." Tegelijkertijd moedigt Talpa medewerkers aan om een kritische blik te behouden en zich bewust te zijn van de mogelijke bias van GenAI-systemen.
Het nauwlettend in de gaten houden van de data waarop LLM's zijn getraind, is om verschillende redenen belangrijk. Een daarvan is om zowel gevoelige data als de privacy van individuen te beschermen. KPN's aanvaardbaar gebruiksbeleid voor generatieve AI waarschuwt medewerkers ervoor om geen data te delen in open generatieve AI-toepassingen. Ze zijn ook verplicht om een watermerk te gebruiken dat aangeeft dat de output volledig door generatieve AI is gemaakt. "Verantwoord AI toepassen is volledig wie wij zijn," zegt Andriessen.
NXP overweegt om zijn eigen specialistische LLM's te bouwen om zijn intellectuele eigendom te beschermen en om ervoor te zorgen dat het een unieke propositie heeft, terwijl het ook vermijdt vast te zitten aan een generieke LLM beheerd door een grote cloudprovider.
Een ander groot risico van GenAI is dat een model gebruik maakt van auteursrechtelijk beschermd materiaal of de kenmerkende output van een individuele artiest om de GenAI-modellen te trainen in het creëren van tekst, afbeeldingen, muziek en softwarecode. In de media-industrie, waar auteursrecht een belangrijke pijler is van de meeste bedrijfsmodellen, is dit duidelijk een bijzonder gevoelig onderwerp.
Om ervoor te zorgen dat het auteursrecht wordt gerespecteerd, gelooft Verharen van NPO dat ontwikkelaars artiesten een overeengekomen vergoeding moeten betalen voordat ze hun werk gebruiken om een GenAI-model te trainen. Hij maakt zich ook zorgen over de implicaties van GenAI voor storytelling, vooral voor nieuwsbulletins en andere feitelijke programmering, zoals documentaires. "Hoe ver kunnen we gaan voordat mensen zich beginnen af te vragen of we nog wel de juiste verhalen vertellen en of ze de verhalen die we vertellen kunnen geloven?" vraagt hij zich af, waarbij hij opmerkt dat GenAI op grote schaal zou kunnen worden gebruikt om bijvoorbeeld satire te creëren.
Voor NPO zal transparantie cruciaal zijn om het vertrouwen van het publiek te behouden, benadrukt Verharen. NPO geeft aan haar publiek aan wanneer AI (of een andere softwaretool) is gebruikt om content te creëren of aan te passen, zoals een foto of afbeelding. Het is ook van plan om een "oorsprongsstempel" op zijn content te plaatsen, zodat de eindgebruiker kan controleren dat niets in de transmissie of in de inhoud van de berichten door een derde partij is gemanipuleerd.
In de toekomst zal veel van de content die we consumeren onvermijdelijk door GenAI worden gecreëerd. GenAI is al in staat om realistische digitale dubbelgangers van acteurs te genereren die kunnen worden gebruikt voor vechtscènes of actiescènes, en zal waarschijnlijk worden gebruikt om echte ruimtes te scannen en deze vervolgens digitaal te recreëren. "Ik denk dat je over 30 jaar niet meer naar een foto zult kijken, maar gewoon terug in die ruimte zult stappen," voorspelt Maarten Knops, Directeur AI bij Talpa Studios. "Het zal een digitaal fotoboek zijn waar je echt in kunt stappen, waar je weer in het moment kunt zijn, en dan zie je jezelf als een jong persoon. Je ziet je kind weer lopen."
Op basis van de inzichten die we hebben verkregen uit de serie interviews, wordt duidelijk dat hoewel deze organisaties voortgang boeken in het gebruik van Generatieve AI, er nog cruciale gebieden zijn die verdere aandacht vereisen om het volledige potentieel ervan te benutten. Verre van louter experimenteren, zijn deze organisaties pioniers in het verkennen van enorme waardecreatie door generatieve AI. De prangende vraag is nu of ze deze innovaties effectief door hun hele operatie kunnen opschalen om het revolutionaire potentieel van deze technologie echt te benutten.
Aan de andere kant, terwijl deze bedrijven hard werken om risico's met betrekking tot reputatie en naleving van regelgeving te beperken, blijft kritisch toezicht een grote rol spelen. De nadruk op het opbouwen van vertrouwen richtte zich voornamelijk op reputatie- en regelgevingsgevolgen, terwijl de essentiële aspecten van het valideren van de kwaliteit en betrouwbaarheid van de output van generatieve AI opvallend genoeg werden genegeerd. Bovendien blijft het intrinsieke vertrouwen in de technologie zelf onderbelicht, wat een aanzienlijke blinde vlek in hun strategische implementatie van generatieve AI kan creëren. Deze tekortkoming zou hun vermogen om de uitgebreide voordelen van Generatieve AI volledig te benutten aanzienlijk kunnen beperken.
Even belangrijk, maar nog onderbelicht, is de impact van deze technologieën op de workforce. Verwacht wordt dat de meeste talentstrategieën zich zullen moeten richten op het herontwerpen van processen en het bijscholen of omscholen van werknemers, wat mogelijk kan leiden tot een kortstondige toename van het personeelsbestand. Echter, dit aspect werd niet besproken in de cases die werden gepresenteerd door de geïnterviewde bedrijven, wat wijst op een mogelijke tekort in hun strategische planning. Het gebrek aan aandacht voor de gevolgen voor de werknemers kan een extra belemmering vormen voor het volledig benutten van de voordelen van het integreren van generatieve AI binnen hun bedrijfsmodellen.
Bij Deloitte werken we samen met klanten om te laten zien hoe GenAI bedrijfsmodellen kan herzien, waarde kan creëren en een visie nu en in de toekomst kan vormgeven. Benieuwd hoe we samen kunnen werken? Ontdek inzichten over GenAI-adoptie, successen en uitdagingen op onze website, of meld je aan voor ons GenAI Lab-programma.