AnalyticsNews

Wanneer AI-gedreven beslissingen acceptabel zijn voor klanten èn Risk & Compliance

By oktober 6, 2020 No Comments

Artificial Intelligence (AI) algoritmes worden in veel sectoren massaal toegepast. Toch passen veel financiële dienstverleners AI nog maar heel beperkt toe, met name voor de beslissingen die juist veel impact op hun bedrijfsresultaten kunnen hebben. Onzekerheid over de acceptatie door diverse stakeholders speelt hierbij een belangrijke rol. Waar komt deze onzekerheid vandaan en welke handvatten kunnen helpen? Hieronder biedn we een klant-centrisch framework voor deze handvatten en illustreer deze met een van onze projecten. Het framework is opgesteld vanuit het perspectief van de eindklant, maar helpt juist ook om interne stakeholders tegemoet te komen.

Potentie voor meer waarde met minder werk
Specialisten zoals acceptanten, risk experts en claim behandelaars zijn veel tijd kwijt aan repetitieve beslissingen en beoordelingen. Wanneer deze punten in business processen geautomatiseerd kunnen worden kan de specialist zich richten op het uitdagender werk en de eindklant veel meerwaarde bieden. Hiervoor worden in eerste instantie vaak handmatig rule-based modellen opgesteld, maar dit heeft zo zijn beperkingen. Uit ervaring weten we dat beslismodellen die met AI versterkt zijn de straight-through-processing-graad verder kunnen verhogen en het proces meer accuraat en consistent maken.

Twee partijen zorgen voor onzekerheid; Klanten en Risk & Compliance
De AI-modellen die juist veel kunnen bijdragen aan het bedrijfsresultaat hebben potentieel ook veel impact op klanten. Een AI-model dat kredietwaardigheid of verzekeringsrisico verkeerd inschat kan tenslotte veel meer kwaad doen voor het bedrijf en de klant, dan een model dat clickgedrag, of cross-sell kansen verkeerd inschat. Deze high-stakes modellen staan dan ook erg in de belangstelling van diverse externe en interne stakeholders zoals toezichthouders, risk officers, klanten en klantvertegenwoordigers.

Risk & Compliance teams stellen hierdoor vaak hoge eisen aan de modelvalidatie en -monitoring. Hoe complexer en meer impactvol het model, hoe hoger de eisen en hoe lastiger het is om hieraan te kunnen voldoen. Veel organisaties hebben hier ook nog weinig ervaring mee. Daarnaast zijn financiële dienstverleners onzeker of hun kritische klanten en tussenpersonen de uitkomsten van sterk differentiërende, high-impact modellen wel zullen accepteren. Deze onzekerheden zorgen voor weerstand en remmen innovatie.

Acceptatie door klanten als leidend perspectief
Het framework hieronder biedt handvatten om AI duurzaam geaccepteerd te krijgen door zowel de interne alsook de externe belanghebbenden. Het is opgesteld vanuit het klantperspectief, zodat het beter tot de verbeelding spreekt en in de uitwerking meer energie geeft dan telkens te moeten denken in termen van verplichtingen en regels.

In het kort komt het hierop neer; Als klant wil je kunnen begrijpen hoe een (geautomatiseerde) beslissing tot stand is gekomen; je wil er mee kunnen leven; en je wil er mee kunnen werken. We lichten deze drie punten toe;

1.     De uitkomst moet uitlegbaar zijn
Er moet verteld kunnen worden welke data is gebruikt en verklaard hoe die data tot de uitkomst heeft geleid. Maar om echt uitlegbaar gevonden te worden moeten de verklaringen achter de uitkomsten ook als ‘logisch’ ervaren worden. Oftewel, ze moeten overeenkomen met ons begrip van hoe de wereld werkt.
Natuurlijk moet de werking van toegepaste modellen dan ook consistent zijn, zodat de uitkomst en uitleg van vergelijkbare cases niet veel zal verschillen.

2.     De uitleg moet acceptabel zijn
De data die gebruikt is mag niet als inbreuk op de privacy worden ervaren en ook het verkregen inzicht moet niet te intiem zijn (een voorspelde, mogelijke zwangerschap, of aanstaande bedrijfsoverdracht afleiden uit veranderde transactiepatronen wordt door veel klanten niet gewaardeerd).
Daarnaast hoort de werking van modellen onbevooroordeeld te zijn (unbiased) ten opzichte van kwetsbare groepen, of gevoelige eigenschappen zoals etniciteit van individu of in de samenstelling van een werknemersbestand.

3.     Met eigen controle en voordeel voor de klant
Om klanten zelfs bij negatieve uitkomsten een goed gevoel te kunnen geven zullen zij een zekere mate van controle moeten ervaren. Dit vereist de mogelijkheid tot menselijke interventie èn dat de uitkomsten van de AI-modellen voorspelbaar beïnvloedbaar zijn. Door dit laatste kan klanten namelijk uitgelegd worden wat zij zelf kunnen doen om in de toekomst een betere uitkomst te krijgen. Vanzelfsprekend is het vervolgens van belang dat goed gedrag ook daadwerkelijk tot betere scores en tot lagere premies en rentes leidt.

Wanneer een beslismodel bovenstaande percepties kan realiseren hoeft er niet veel onzekerheid te bestaan of klanten de toepassing van AI zullen accepteren. Vanzelfsprekend moet de dienstverlener dit alles dan wel zodanig weten te communiceren dat klanten begrijpelijk en volledig geïnformeerd worden en de bovenstaande percepties effectief overgebracht worden.

Twee vliegen in “een” klap
Onder elk van de drie klantpercepties zijn meerdere eisen benoemd en die beschrijven samen een behoorlijke lijst requirements. We hebben echter de technieken en methodes waarmee we dit kunnen realiseren. Het goede nieuws is bovendien, dat als je deze drie klantpercepties realiseert, je ook gelijk bijna alles kan afdekken wat Risk & Compliance moet eisen. Want om AI-modellen voor klanten goed uitlegbaar en acceptabel te kunnen maken en de klant hier zelf invloed in te geven, moet je specifieke methodes toepassen en een zekere mate van beheersing en transparantie bereiken. Hiermee kan je ook voldoen aan de Risk & Compliance eisen.

Dus de volgende keer dat je een oplossing bedenkt voor de toepassing van AI in impact-volle beslissingen zijn er slechts drie vragen om te beantwoorden: “Kunnen we dit uitleggen aan de klant?” “Zal hij/zij het dan acceptabel vinden?” en “Houdt de klant controle rondom de beslissing?” Dit zal veel onzekerheid verminderen en veel puzzelstukken zullen op hun plaats vallen. Het klantperspectief geeft veel medewerkers vaak ook meer energie dan het moeten voldoen aan complexe regels.

We bespreken graag allerhande zaken die data science en AI betreffen, met name de vraagstukken die raakvlak met organisatie hebben. Neem gerust contact op voor een kop koffie!

Contact
Mando Rotman
E: mando.rotman@igh.com

Mando Rotman

Author Mando Rotman

More posts by Mando Rotman