Maatschappelijk aanvaardbare AI leveren: let op de subtiliteiten

Deze pagina maakt deel uit van Een leidraad voor de C-suite om het AI-potentieel maximaal te benutten.

Net als mensen moet kunstmatige intelligentie (AI) voldoen aan wetten, regels en andere regels. Activiteiten die zonder AI in strijd zijn met de wet, de moraal of de openbare orde, zijn dat ook wanneer AI wordt gebruikt.

Maar naleving is niet zo eenvoudig als het klinkt. Ten eerste kan AI regels sneller overtreden dan mensen. Ten tweede zijn mensen erg slecht in het maken van regels, dus moeten we er vaak van afwijken. Maar nog belangrijker: veel van wat we als 'normaal gedrag' beschouwen, is niet vastgelegd in geschreven regels van welke aard dan ook. 

Toch zullen de reputatie en het merk van het bedrijf eronder lijden als een bedrijfs‑AI‑systeem zich slecht gedraagt. Daarentegen kunnen AI‑systemen die te terughoudend zijn inefficiënt zijn, waardoor de concurrentiekracht van een bedrijf kan afnemen. Overweeg dit theoretische voorbeeld. Je fietst om 4.00 uur 's ochtends en je komt een rood verkeerslicht tegen. Er is geen ander verkeer in zicht, geen camera's en geen  omstanders. De meeste mensen zouden niet stoppen, maar een AI-systeem zou de letter van de wet volgen. 

Deze dynamiek speelt zich af in de echte wereld. Zo worstelen de ontwikkelaars van zelfrijdende auto's met de vraag hoe assertief hun AI-systemen zouden moeten zijn. Tijdens een recente stroomstoring in San Francisco vielen de verkeerslichten op verschillende kruispunten uit. Terwijl menselijke bestuurders voorzichtig reden, staken zelfrijdende Waymo-voertuigen die kruispunten niet over, waardoor het verkeer werd belemmerd. Na kritiek dat ze zich te strikt aan de verkeersregels hielden, liggen Waymo‑voertuigen nu onder vuur omdat ze rijden als een 'agressieve New Yorkse taxichauffeur'. Het vinden van deze balans is duidelijk lastig.

Het belang van etiquette en empathie

Een andere uitdaging voor AI is begrijpen hoe mensen aardig voor elkaar zijn, etiquette en beleefdheid respecteren, terwijl ze empathie tonen. Wanneer iemand duidelijk van streek is, proberen andere mensen hen gerust te stellen en te troosten. Om geaccepteerd te worden, hebben AI-systemen ook emotionele intelligentie nodig.

Goede manieren en respect worden zelden vastgelegd in de wet of zelfs in beleid, maar de meeste mensen houden zich aan die regels omdat ze hebben geleerd zich te gedragen tegenover anderen als onderdeel van hun opvoeding en opleiding. Zonder de ervaring van 18 jaar opvoeding zijn AI‑systemen vatbaar voor beoordelingsfouten, zoals het genereren van foto’s van beroemdheden in hun ondergoed. 

Ironisch genoeg kunnen onvolwassen AI-systemen ook te empathisch zijn. Neem het voorbeeld van een Noord-Amerikaanse luchtvaartmaatschappij die kortingstickets aanbiedt aan mensen die naar begrafenissen reizen. Toen een potentiële passagier vroeg of hij na zijn reis de korting kon claimen, reageerde de klantenservice-AI-medewerker van de luchtvaartmaatschappij positief. Maar toen de klant om de korting vroeg, zei de luchtvaartmaatschappij dat het verzoek vóór de vlucht moest worden ingediend. Bij een rechtszaak verloor de luchtvaartmaatschappij. De rechtbank oordeelde dat wat de AI-agent ook zegt, het namens de luchtvaartmaatschappij zegt en daarom officieel is. 

AI‑systemen leren hoe ze zich moeten gedragen

Hoe kunnen organisaties ervoor zorgen dat hun AI-systemen zowel formele, gecodificeerde regels als informele, ongeschreven normen respecteren die ons dagelijks leven reguleren? Zelfs het beantwoorden van het eerste deel van deze vraag is niet eenvoudig. AI-systemen moeten voldoen aan AI-specifieke regels, zoals de aanstaande AI-wet van de EU en bredere wetgeving die mensen en hun apparatuur reguleert.

De eerste stap is om precies te bepalen welke regels van toepassing zijn op de taak die AI moet uitvoeren – als je AI cv's sorteert, moet het arbeidsrecht respecteren, maar hoeft het verkeersrecht niet mee te nemen. Deze oefening om de scope vast te stellen is echter niet per se een eenmalige activiteit — AI‑systemen zijn bedoeld om zich in de loop van de tijd te ontwikkelen, dus wees alert op sluipende wijzigingen in missie en scope.

Let op dat wetten per land verschillen – wat in het ene land als conform gedrag kan gelden, kan in een ander land een overtreding van een wet zijn. Zo kan vrijheid van meningsuiting in de ene jurisdictie laster zijn in een andere. Locatie is belangrijk! 

Het is nog moeilijker om ervoor te zorgen dat AI-systemen de ongeschreven regels en culturele normen in elke regio respecteren. De eerste stap is jezelf af te vragen of je je prettig zou voelen bij het uitleggen van het gedrag van het AI-systeem op prime time televisienieuws in de jurisdictie waar het actief is. Zo niet, dan geeft dat aan dat het systeem menselijke normen overtreedt. Een andere test is je af te vragen hoe je je zou voelen als het AI‑systeem interactie zou hebben met een familielid. Er zijn nog andere soortgelijke vragen die je kunnen helpen bepalen of een AI‑systeem maatschappelijk acceptabel is. 

In het algemeen is het belangrijk om transparant te zijn over waarom een organisatorisch AI-systeem zich zo gedraagt en klanten of burgers vervolgens in staat te stellen zich af te melden voor de relevante interactie. Als 99% van de mensen zich afmeldt, weet je dat het systeem sociale normen overtreedt. Als 50% zich afmeldt, moet je het oordeel van andere mensen inroepen. 

Om de juiste balans te vinden tussen het gebruik van AI om een direct bedrijfsdoel te bereiken en het beschermen van de reputatie van de organisatie, kun je het systeem laten beoordelen door een groep van je collega's of de ethische commissie van de organisatie.

Stel een contingentieplan op

Zelfs als je ervan overtuigd bent dat je AI-systeem zowel de geschreven als ongeschreven regels van de jurisdicties waar het werkt respecteert, word dan niet zelfgenoegzaam. Ga ervan uit dat er iets mis kan gaan en stel een contingentieplan op waarmee je het AI‑systeem kunt uitschakelen en je organisatie de tijd geeft die nodig is om eventuele storingen te verhelpen. 

Het is ook essentieel om je aannames regelmatig te herzien. Sociale normen evolueren naarmate nieuwe generaties volwassen worden en technologie zich ontwikkelt. Wat tien jaar geleden nog onacceptabel was, kan dat vandaag de dag zijn en omgekeerd. Ga er niet van uit dat een AI-systeem deze subtiele veranderingen zal detecteren – pas altijd menselijk oordeel toe.

Samenvattend is het niet genoeg om er alleen voor te zorgen dat je AI-systemen geen wetten overtreden. Om de reputatie van jouw organisatie te beschermen, is het van vitaal belang dat deze systemen medewerkers, klanten, leveranciers en andere belanghebbenden met respect en gevoeligheid behandelen. Ethiek is niet optioneel. Net als mensen zouden AI systemen moeten leven volgens een beproefde levensregel – anderen behandelen zoals ze zelf behandeld willen worden