Wie zijn smartphone ontgrendelt via gezichtsherkenning, gebruikt AI. Wie een vraag stelt aan Siri ook, net als wie in de auto een dode-hoek-monitor heeft. Om maar te zeggen dat artificiële intelligentie verweven zit in ons dagelijks leven, vaak zonder dat we het beseffen. Maar gaan we er wel juist mee om? Staan we voldoende stil bij de risico’s en de uitdagingen? Niet volgens Mieke De Ketelaere, Program Director AI bij imec. Ze wil ons er zo hard voor wakker schudden dat ze er een boek aan gewijd heeft: Mens versus machine. “Fouten maken is menselijk, maar met AI kan het wel zware gevolgen hebben”, waarschuwt de auteur.

Menselijke fouten met zware gevolgen

Artificiële intelligentie is hip. Er wordt over gepraat, het wordt gebruikt, de vruchten worden ervan geplukt. Het is dan ook iets geniaals: de technologie leert uit ervaring. Door veel voorbeelden te analyseren, ziet AI na een tijdje een patroon en kan het dat patroon op een ongeziene situatie toepassen. Denk maar aan de ‘speciaal voor jou’-aanbiedingen die je krijgt van de supermarkt waar je vaak shopt. Die selectie wordt gemaakt door AI op basis van je eerdere aankopen. “Fantastisch, toch?”, vindt ook De Ketelaere.

Maar ze voegt er ook meteen een waarschuwende noot aan toe. Want hoe fantastisch AI ook is, het brengt uitdagingen met zich mee waar we nog te weinig bij stilstaan. “Het blijft iets dat gemaakt is door de mens, dus er sluipen wel eens menselijke fouten in. Als bijvoorbeeld de controlepoortjes op een luchthaven enkel mensen met blanke huidskleur herkennen, dan heb je een serieus probleem. Dat wil zeggen dat de ontwikkelaar het algoritme verkeerd heeft getraind en hij geen rekening heeft gehouden met andere huidskleuren. Fouten maken is menselijk, maar met AI kan het wel zware gevolgen hebben.”

Limieten van het systeem

Het systeem zelf heeft ook zijn limieten. De kracht van AI wordt graag vergeleken met onze menselijke intelligentie, maar met die vergelijking houden we beter op, meent De Ketelaere. “AI is zoals een tweejarig kind: als beide vaak genoeg een foto van een hond zien, dan zullen ze dat op de duur herkennen en kunnen aanduiden als een hond. Maar een kind blijft evolueren, en kan op een bepaald moment redeneren en concepten zien. Het kind ziet meer dan de hond, het ziet en begrijpt de context er rond. Dat kan AI niet, en daar faalt dus het systeem.”

Artificiële intelligentie kan zich ook niet aanpassen aan een veranderende wereld. “Wij wel, dat is duidelijk. Kijk maar naar de extreme omstandigheden waar we nu in zitten met COVID-19. Wij begrijpen dat onze wereld niet stabiel is en dat dingen veranderen. Algoritmes zoals je die in de meest courante commerciële systemen vindt, passen zichzelf niet aan. Die houden uit zichzelf geen rekening met een tijdelijke situatie zoals de coronacrisis. Ze moeten aangepast worden alsof het een permanente situatie is. Veel supermarkten en online shops hebben de afgelopen maanden ongetwijfeld de algoritmes van hun AI moeten herschrijven om deze te doen werken in deze nieuwe situatie.”

(Photo by Jonathan Ramael)

Verantwoordelijkheidszin nodig

De menselijke- en systeemfouten zijn twee uitdagingen waar ontwikkelaars van AI-toepassingen meer moeten over nadenken, vindt De Ketelaere. Maar wat misschien bovenaan de to-dolijst moet staan, is verantwoordelijkheidszin kweken. “Je kan niet zomaar met de vinger wijzen naar de ingenieur of developer voor alles wat fout loopt met AI. De meesten van hen maken algoritmes met de allerbeste bedoelingen, om iets innovatiefs te creëren of iets efficiënter te doen werken. Meestal hebben die mensen er zelf geen idee van waar hun algoritmes terechtkomen. Is het enkel hun fout als die dan in verkeerde handen vallen? Nee, het is de verantwoordelijkheid van iedereen die van links of rechts iets te maken heeft met AI.”

Het moet multidisciplinair aangepakt worden, dus. Overheid, onderwijs, ingenieurs, filosofen… “Niet één groep, maar iedereen samen. We moeten vroeger in de keten van nieuwe AI-ontwikkelingen bepalen wat we ermee mogen doen en wie we toegang geven. We mogen niet wachten tot het op de markt is, want dat is het te laat. Om over goed over te kunnen praten, hebben we mensen uit verschillende velden nodig. Het gaat niet alleen over de technische aspecten, maar vooral ook over de ethische.”

De vier D’s

Waar we volgens De Ketelaere de lijn moeten trekken? “Als we in de context van menselijke intelligentie denken, kunnen we ons beter beperken tot de DDDD-taken”, klinkt het. Ze legt uit: “Het doel van AI is eigenlijk om een antwoord te geven op deze vier taken, de zogenaamde 4 D’s: dull, dangerous, difficult en dirty. Artificiële intelligentie is op haar best als het taken kan overnemen van de mens die saai en repetitief zijn, gevaarlijk, moeilijk of in vuile omstandigheden moeten gebeuren. Denk bij dat laatste bijvoorbeeld aan een omgeving met chemische stoffen.”

We moeten AI inzetten als een samenwerking tussen menselijke en artificiële intelligentie. Een collectieve vorm van intelligentie

Wanneer een AI-systeem geen oplossing biedt voor één van die vier D’s, hebben we dan wel artificiële intelligentie nodig? “Voor mij is het antwoord heel eenvoudig: neen. We moeten AI gebruiken waar het ons aanvult. Dankzij AI kan onze auto dingen waarnemen die buiten ons zicht liggen. Daardoor worden we bijvoorbeeld gewaarschuwd als er een fietser in onze dode hoek zit. Dat is hoe we AI moeten inzetten; als een samenwerking tussen menselijke en artificiële intelligentie. Een collectieve vorm van intelligentie. Laat taken die creativiteit en empathie vragen verder over aan mensen, want daarin kan AI ons nooit vervangen.”

(Photo by Jonathan Ramael)

Af van onze pedestal

We moeten inzetten op samenwerking met AI en niet proberen concurreren met een machine die we zelf gecreëerd hebben. En een beetje nederigheid tonen, voegt De Ketelaere er nog aan toe, zeker in discussies over AI. “Als mens zijn we best arrogant als het aankomt op AI. We moeten weg van dat ‘ik weet het allemaal’-gevoel. Want we weten het niet allemaal. Onze intelligentie is maar één vorm van intelligentie in de natuur. We weten dat dieren intelligent zijn, maar ook planten hebben een vorm van intelligentie. Zij delen geuren om een verdedigings- of liefdesmechanismen op gang te brengen, bijvoorbeeld. Onze mensenneus merkt dat niet op, we zien of ruiken veel dingen niet.”

Als mens zijn we best arrogant als het aankomt op AI. We moeten weg van dat ‘ik weet het allemaal’-gevoel. Want we weten het niet allemaal. Onze intelligentie is maar één vorm van intelligentie in de natuur

“Ingenieurs denken iets te vaak ‘als we het niet waarnemen, dan is het er niet’. Het is er wel, je moet het alleen willen zien. Wat nederiger zijn ten opzichte van de natuur en onze eigen limieten zou ons al heel ver brengen in het debat over waar we met AI naartoe moeten.”

Losse initiatieven hier en daar om toch richtlijnen op te zetten rond AI-toepassingen zijn een goed begin, vindt De Ketelaere. Maar er moet meer gebeuren. “De mogelijkheden van AI zijn schitterend. Het is Disneyland! Maar het wordt wel eens tijd om achter de schermen te checken wat de risico’s van de attracties zijn.”

Met ‘Mens versus machine’ hoopt De Ketelaere het vuur aan de lont te steken. “Als mijn gevoel van maatschappelijk belang doorsijpelt naar de lezers en hen inspireert om het debat aan te gaan, dan heeft het boek zijn doel bereikt.”