Onthulling van risico's in verband met AI-gestuurde services
Hoe een AI-aangedreven start-up een robuuste basis heeft gelegd voor verantwoorde groei
De situatie
Devence ondersteunde een HR-tech start-up, die AI-mogelijkheden en wetenschappelijke videotechnologie gebruikt om organisaties een wervingssoftwareoplossing te bieden die hen helpt het juiste talent te werven dat bij hun bedrijfscultuur past.
Het gebruik van deze AI-aangedreven software in een wervingscontext bracht belangrijke zorgen met zich mee, vooral op het gebied van gegevensprivacy, digitale ethiek, cybersecurityen AI-governance. Vragen die rezen waren onder meer: "Worden de gegevens verwerkt in overeenstemming met de AVG?" en "Hoe wordt het AI-model getraind en welke ethische implicaties brengt het met zich mee?" Om geloofwaardigheid en transparantie aan zijn belanghebbenden te tonen, heeft het bedrijf contact opgenomen met Devence om zijn algehele houding op deze gebieden beter te begrijpen en te verbeteren.
Het bedrijf helpen met deze vragen zou de basis vormen voor duurzame groei. Verder zal de onafhankelijke en objectieve beoordeling die wij, als Devence by Deloitte, bieden, hen helpen vertrouwen te winnen ten opzichte van hun stakeholders, waaronder klanten, regelgevers en het grote publiek.
De oplossing
Devence verzamelde een multidisciplinair team om deze zorgen in één keer aan te pakken en een alomvattend pad te creëren voor de verantwoorde groei van het bedrijf.
We begonnen de samenwerking met verschillende diepte-interviews om de huidige positie van het bedrijf op het gebied van gegevensprivacy, digitale ethiek, cybersecurity en AI-governance vast te stellen. De input uit deze interviews stelde ons in staat om gap assessments per onderwerp uit te voeren, met als doel een gedetailleerd rapport op te leveren met een routekaart per onderwerp die het bedrijf moet volgen.
Voor Data Privacy werd de nadruk gelegd op het algemene gegevensbeheer en de rechtmatige gegevensverwerking, aangezien deze gebieden betrekking hebben op de organisatorische en operationele structuren die ten grondslag liggen aan de verwerking van persoonsgegevens. Voor Cyber lag de focus op het algemene bestuur, interne controles, cloudbeveiliging en cyberweerbaarheid, aangezien dit de meest kritieke gebieden werden geacht die moesten worden aangepakt aan het startpunt van de cyberreis van het bedrijf. En om de algehele AI-governancecapaciteit van het bedrijf te beoordelen, hebben we onze AI-governance-quickscan gebruikt, gericht op digitale ethiek en mogelijke modelvooroordelen, waarbij we de implicaties van de EU-AI-wet in gedachten hebben gehouden. Deze beoordeling bood een outside-in perspectief dat overwegingen rond de impact van de oplossing gedurende de hele ontwikkelingslevenscyclus volgde. Deze beoordelingen waren gericht op het verbeteren van de geloofwaardigheid en betrouwbaarheid van de onderneming ten opzichte van haar (zakelijke) klanten en de belangrijkste stakeholders.
Om de opdracht af te ronden en een soepel begrip van ons gedetailleerde rapport te garanderen, hebben we een workshop gehouden waar we praktische begeleiding hebben gegeven op basis van onze observaties en aanbevelingen zoals gepresenteerd op de roadmap aan alle relevante belanghebbenden, waaronder de medeoprichters, ingenieurs en ontwikkelaars van het bedrijf. Omdat het bedrijf een startup is, was de roadmap afgestemd op hun groeipad en presenteerde aanbevolen acties met een verschillende mate van directheid voor hen.
De impact
Over het algemeen zijn enkele van de meest relevante hoogtepunten de volgende:
- Het bedrijf investeerde in een sterkere risk awareness culture en verhoogde de inspanningen om risico's in verband met hun bedrijfsvoering in kaart te brengen op het gebied van gegevensprivacy, digitale ethiek, cybersecurity en AI-governance, en kon daarom beter geïnformeerde beslissingen nemen, in overeenstemming met het principe van verantwoorde groei;
- De aanbevelingen waren erop gericht het bedrijf in staat te stellen hun geloofwaardigheid en betrouwbaarheid verder te versterken, en zo een concurrentievoordeel te behalen bij het vlotter werven van nieuwe klanten om hun wervingssoftware te gebruiken. Ze kunnen met meer vertrouwen hun gegevensprivacy, AI-governance en cybersecuritysreferenties presenteren aan nieuwe zakelijke prospects, wanneer en wanneer daarom wordt gevraagd.
Conclusie
Deze betrokkenheid toonde onze aanpak om onze diepgaande branchekennis en expertise te gebruiken om op maat gemaakte oplossingen te bieden die de specifieke uitdagingen van een startup aanpakken. Meer nog, we deden dit met behulp van een multidisciplinaire aanpak, waarbij we inzichten uit verschillende vakgebieden combineerden. Dit belichaamt wat wij, als Devence, willen bereiken: het leveren van op maat gemaakte oplossingen die verantwoorde groei voor startups en scale-ups stimuleren. We zijn bemoedigd door de positieve feedback die we van het bedrijf hebben ontvangen en om te weten dat we hebben bijgedragen aan hun reis om verantwoord te groeien.
Wilt u meer weten of heeft u vragen over hoe wij jouw start-up of scale-ups kunnen helpen om verantwoord te groeien? Neem contact op!
