Deze Amerikaanse verleent Ethics-as-a-Service aan techbedrijven: “Ethiek beperkt zich nog te vaak tot het voorkomen van iets slechts, terwijl het een groeimotor kan zijn”

AI-ethicus Olivia Gambelin

Het gebrek aan aandacht voor ethiek dreigt de grote techbedrijven zuur op te breken. Een nieuwe generatie IT-talent kiest niet meer voor de Googles en Facebooks van deze wereld, maar zweert bij meer ethische technologie met focus op mensgerichte innovatie. Olivia Gambelin, half Amerikaans, half Italiaans en founding CEO van Ethical Intelligence, pendelt voortdurend tussen Brussel, Edinburgh en Silicon Valley om techbedrijven te inspireren en vooral adviseren om ethische technologie te bouwen. “Nu beperkt ethiek zich nog te vaak tot het voorkomen van iets slechts”, zegt Gambelin in een gesprek met Bloovi. “Maar als je technologie bouwt vanuit waarden, kan het een tool zijn om innovatie en creativiteit aan te zwengelen. Ethiek is geen rem maar net een motor voor groei.”

Ethiek als groeimotor

Gambelin heeft een achtergrond in ethiek en filosofie en behaalde nadien nog een master in Artificial Intelligence ethics. Vandaag adviseert ze als digitale strateeg technologische start-ups over ethiek en pijlers als privacy, vertrouwen en verantwoordelijkheid. “Je zou kunnen zeggen dat ik waarden help coderen. Ik richt mij doorgaans tot de founders van die start-ups, maar evengoed tot investeerders die op zoek zijn naar ethische investeringen.”

“Ethiek in de klassieke betekenis is de studie van goed en kwaad. Zo zwart-wit is het natuurlijk meestal niet bij technologie. Soms is de grens flou, vaak worden ethische fouten ook onbewust en niet uit kwade wil gemaakt. Wie aan ethiek en technologie denkt, komt al snel uit bij killer robots. Of bij de verantwoordelijkheid wanneer een zelfrijdende wagen iemand aanrijdt. Maar het gaat ook over andere dingen: over het beschermen van persoonlijke data, over het versterken van vooroordelen, over fake news verspreiden of simpelweg over valse beloftes maken.”

Gambelin ziet ethiek vandaag dan ook eerder als een leidraad om beslissingen te nemen. “Zowel bij overheden als bij de techbedrijven zelf is de aandacht voor ethiek fors toegenomen”, klinkt het. “Maar het gaat dan meestal over fouten rechtzetten of over schandalen voorkomen. Ik wil het veel breder zien. Niet enkel als het vermijden van iets slechts, maar als een instrument om betere producten en services aan te bieden. Als je technologie bouwt vanuit waarden, dan kan ethiek een tool zijn om innovatie en creativiteit aan te zwengelen. Het is geen rem op groei, maar net een motor voor groei”, zegt Gambelin, die als keynote spreker de revue passeerde op Afterhours, een maandelijks online networking event dat wordt gehost door het Antwerpse techbedrijf Conversation Starter.

Nieuwe generatie tech entrepreneurs

Ze is naar eigen zeggen optimistisch. “Ok, er loopt nog heel wat mis. Maar op vijf jaar tijd hebben we enorme vooruitgang geboekt”, vindt Gambelin. “Het bewustzijn is enorm toegenomen. Ethiek is een essentieel onderdeel geworden van het debat over technologie. Eender welke conferentie je naartoe gaat, altijd is ethiek wel het onderwerp van een of andere workshop, keynote of panelgesprek. De verschuiving naar verantwoordelijke technologie is onmiskenbaar.”

“Er is een nieuwe generatie van tech founders opgestaan. Ethiek zit niet alleen ingebakken in hun manier van ondernemen, maar ook in de technologie die ze bouwen. De founder van een van de start-ups die ik begeleid, komt van bij Google. Toen hij daar wegging, was hij vastberaden om nooit meer in de techwereld te werken. Maar nu heeft hij een start-up uit de grond gestampt, Calling Anyone, die mensen over de hele wereld in contact brengt met experts voor vijf minuten advies. Vanaf dag één heeft hij het anders aangepakt: geen persoonlijke data bijhouden, geen slinkse manieren om gebruikers langer dan die vijf minuten op het platform te houden, maar ook: hoe kan technologie garanderen dat gebruikers waardevol advies krijgen, en geen holle en vrijblijvende slogans? Eigenlijk komt het erop neer dat je alleen nog beslissingen neemt die de gebruikers van je platform ten goede komen.”

Dat klinkt idealistisch, maar eigenlijk is het pure economische logica, volgens Gambelin. “Vandaag vertrekt AI niet alleen vaak van vooroordelen, maar gaat het die verder versterken”, legt ze uit. “Dan krijg je bijvoorbeeld algoritmes waar racial bias ervoor zorgt dat zwarte mensen veel sneller bestempeld worden als criminelen. Of je krijgt technologie die door mannen ontwikkeld is en minder goed werkt voor vrouwen.”

“De helft van de wereldbevolking bestaat uit vrouwen. Als je technologie ontwikkelt die voor de helft van alle consumenten slecht werkt, dan is dat commerciële zelfmoord. Het is uiteraard ook discriminerend, maar het is vooral economisch heel erg dom. Daarom gaan diversiteit en ethiek voor mij hand in hand. Hoe meer verschillende achtergronden een rol spelen bij het bouwen van nieuwe technologie, des te groter het inlevingsvermogen in verschillende groepen gebruikers. Het is de beste en misschien wel enige manier om vooroordelen uit AI te elimineren.”

Big tech verliest talent

De nieuwe generatie van techbedrijven is volgens Gambelin al mee. Maar hoe zit het met big tech, met de Facebooks en de Googles van deze wereld? “Iemand als Mark Zuckerberg is steenrijk geworden door onze persoonlijke data en onze privacy in de uitverkoop te zetten en mensen tegen elkaar op te zetten. Dat is cynisch. Maar het tij begint te keren. Maand na maand verliest Facebook gebruikers, binnen een paar jaar zal het platform meer dode profielen tellen dan levende gebruikers. Het bedrijf zag recent ook de aandeelhouderswaarde spectaculair kelderen, iets waar het waarschijnlijk nog veel gevoeliger voor is dan voor het dalend aantal gebruikers.”

“De grootste bedreiging voor grote techbedrijven is dat ze er niet meer in slagen om vers talent aan te trekken. Vijf jaar geleden waren ze nog het walhalla voor jong IT-talent. Iedereen wilde voor hen werken. Vandaag kiezen beloftevolle ingenieurs en developers voor andere bedrijven of beginnen ze een eigen start-up. Big tech heeft zichzelf in de voet geschoten door ethische waarden zomaar te grabbel te gooien. De grote techreuzen kunnen wel hogere lonen betalen, maar die overtuigen steeds minder jonge mensen als er geen purpose aan gekoppeld is.”

De techbedrijven beseffen dat ze het roer moeten omgooien, al is het maar uit eigenbelang en lijfsbehoud, stelt Gambelin vast. “Grijpen ze niet in, dan komt hun groei op lange termijn in het gedrang. Er duiken nieuwe departementen op: Facebook heeft een Fair AI-afdeling, Google een Ethical AI-afdeling. De vraag is natuurlijk welke impact die departementen hebben op de top van het bedrijf. Wordt hun stem gehoord of is het ethics washing? Nogmaals, ik ben optimistisch dat een nieuwe generatie consumenten en medewerkers de technologische wereld een nieuwe richting in stuurt.”

Geen gatekeeper, wel een spellingschecker

Gambelin is ervan overtuigd dat AI of tech ethici een belangrijke rol zullen spelen in de technologische bedrijven van de toekomst. “Uiteraard is ethiek een zaak voor alle medewerkers, net zoals duurzaamheid één team of één departement overstijgt. Maar als iedereen naar iedereen kijkt, gebeurt er niets. Je hebt iemand nodig die als aanspreekpunt fungeert, mensen sensibiliseert en vooral actie onderneemt. Een accelerator.”

“Wij zijn geen gatekeepers, want dat impliceert dat we pas op het einde van de rit in beeld komen. Nee, ik wil in elke stap van het proces de technische mensen adviseren en ondersteunen. Een beetje als een spellingschecker, die onderweg tijdens het schrijven bijstuurt. Uiteindelijk zijn ethische producten vaak betere producten, die ook nog eens sneller op de markt kunnen komen. Je moet niet op het einde nog alles omgooien, omdat je het ethische aspect uit het oog bent verloren.”

Over de belangrijkste opdracht voor ethici binnen techbedrijven hoeft ze niet lang na te denken: “Moed. We kijken een beetje contra-intuïtief naar technologische bedrijven. We zeggen dingen die ze niet leuk vinden, die hun manier van werken in vraag stellen. Er is moed nodig om je stem te laten horen én te volharden. Om vol te houden dat het anders en beter kan. Dit is geen technologische, maar een menselijke uitdaging.”