Internetpionier Ben Caudron luidt de alarmbel: "Hoezo technologie kan je niet stoppen?"

Hij is socioloog van opleiding en technologiedenker van roeping, geeft les aan de Erasmus hogeschool, maar Ben Caudron zal toch vooral de geschiedenisboeken ingaan als een van de internetpioniers in ons land. En dus is het des te opvallender dat uitgerekend hij vandaag een scherp pleidooi houdt tegen de ‘technologisering van onze samenleving.’

Het regent vandaag smart cities en smart cars, we worden om de oren geslagen met disruptie, maar u staat daar behoorlijk sceptisch tegenover: al die technologische vernieuwing is vooral een illusie, vindt u?

"De meest recente, echt belangwekkende technologische ontwikkeling van de voorbije decennia was de uitvinding van de chip. Daarvoor moeten we al teruggaan tot de jaren zeventig. Die chip vinden we vandaag terug in tal van toepassingsgebieden, maar dat gaat veel minder over echt nieuwe technologie dan over commerciële initiatieven om nieuwe markten aan te boren."

Is een fenomeen als artificiële intelligentie, dat vandaag tal van sectoren toch grondig door elkaar schudt, dan geen voorbeeld van een technologische innovatie die de digitale kloof in onze samenleving alleen maar groter dreigt te maken?

"Dat klopt ongetwijfeld, maar het overgrote deel van het brede publiek heeft er ook geen flauw idee van hoe een telefooncentrale nu precies werkt. Ik verwacht dus ook niet van de doorsnee consument dat hij nadenkt over wat artificiële intelligentie vandaag zoal meebrengt, of wat de eventuele schadelijke impact daarvan kan zijn. Ik verwacht dat daarentegen wél van beleidsmakers en mensen die verkozen worden om voor hun gemeenschap beslissingen te nemen. Maar helaas, ook zij doen dat niet."

Laten we de belangrijke beslissingen en maatschappelijke keuzes vandaag dan te veel over aan een select clubje van ondernemers en grote bedrijven?

"Absoluut. Minister Alexander De Croo, onder meer bevoegd voor de digitale agenda, laat zich in de werkgroep Digital Minds for Belgium vooral adviseren door vertegenwoordigers van de technologie-industrie, zoals de CEO’s van Microsoft en Google in ons land. Uiteraard fluisteren die hem in het oor dat al die bedrijven fantastische dingen ontwikkelen en dat de politiek hen dus vooral moet laten doen.

We moeten dringend gaan beseffen dat achter al die nieuwe technologie mensen zitten, en dat onze maatschappij vandaag niet zozeer wordt aangedreven door die technologie, maar wel door de commerciële belangen van de bedrijven die daarachter schuilgaan. En moeten onze beleidsmakers ook niet wat meer aandacht besteden aan het select groepje mensen dat in Silicon Valley achter de schermen aan de touwtjes trekt? Neem nu iemand als Peter Thiel, technologiegoeroe en steenrijke financier: die man zegt openlijk dat democratie niet werkt. Ronduit gevaarlijke praat dus. Hij wil de macht liever aan de CEO’s van Google of Facebook geven, zonder al die lastige drempels die de democratie hen vandaag nog voor de voeten schuift."

Misschien hebben die politici ook weinig keuze: de grote technologiebedrijven zorgen voor heel veel jobs en ze zijn zo groot geworden dat je er als nationaal politicus nog weinig tegen in kan brengen?

"Heel recent heeft Google, onder druk van de miljardenboete die Europa het bedrijf opgelegd heeft, een en ander aangepast aan de zoekresultaten die je te zien krijgt als je op zoek gaat naar shoppingdata. Dat bewijst dat zelfs bedrijven van die omvang niet per definitie buiten elke politieke controle hoeven te vallen. Alleen: politici die hiervoor hun nek uitsteken, begeven zich op een domein waar electoraal weinig te rapen valt.

Wellicht moet deze strijd ook eerder op Europees dan op nationaal vlak gevoerd worden. We moeten dringend het technologisch deterministisch discours durven te doorbreken dat vandaag de boventoon voert. Volgens dat discours bepaalt technologie anno 2017 hoe onze samenleving er uitziet. Grote onzin natuurlijk: wij mensen zetten de lijnen uit. En nogmaals: dat is de verdomde plicht van politici, zij moeten het maatschappelijke belang verdedigen en dus durven in te gaan tegen dat technologisch determinisme.

Het volstaat om eens een blik te werpen op de jobpagina van Facebook en te kijken welke profielen dat bedrijf zoal zoekt. Daar zitten opvallend veel mensen bij die gespecialiseerd zijn in verslaving, user experience designers, zoals ze daar met een mooie term heten. Alleen: die mensen worden niet ingehuurd om ons van een verslaving af te helpen, wél om ons nog massaler tot Facebook te bekeren. "

Wat heeft de technologisering met onze samenleving gedaan? In welke mate zijn we anders gaan denken en handelen onder impact van de technologische stroomversnelling?

"We moeten het kind ook niet weggooien met het badwater: de doorbraak van sociale media heeft onmiskenbaar ook positieve effecten gehad. Mensen kunnen vandaag op basis van individuele sociale kenmerken heel vlot communiceren met andere mensen met diezelfde kenmerken. Vrij vertaald: wie vandaag tot een minderheidsgroep behoort, kan dankzij de sociale media ongetwijfeld veel gemakkelijker contacten leggen met lotgenoten dan pakweg twintig jaar geleden. Identiteitsvorming is daardoor ook een stuk eenvoudiger geworden.

Daar staat tegenover dat we tegelijk, en paradoxaal genoeg, ook veel eenzamer geworden zijn en vaak heel zwaar onder druk staan. We hebben ons de voorbije decennia van een aantal sociale keurslijven bevrijd, maar zijn tegelijk alsmaar meer losgeweekt van sturende structuren en steeds meer gedwongen om als een individu in het leven te staan. De zogenaamde sociale media – die veel minder sociaal zijn dan het begrip laat uitschijnen – hebben die trend nog versneld. Facebook is ook en vooral een zaak van personal branding: wie sociaal weinig ingebed zit, loopt het risico om onder invloed van al die sociale media met een nog negatiever zelfbeeld opgezadeld te raken."

De impact van technologie reikt natuurlijk nog een heel eind verder dan puur de sociale media, gaande van smartphones waarvoor we nu al zonder verpinken duizend euro neertellen tot het dictaat van de technologie in het onderwijs en het bedrijfsleven. Hoe schat u die bredere impact dan in?

"Zowat het enige wat mensen vandaag nog toelaat om heel snel een lidmaatschap van zinverlenende structuren te verwerven, zijn merken. Dat we duizend euro willen neertellen voor een telefoon, heeft dan ook haast niets met technologie en zowat alles met marketing te maken. Het is een evolutie die al decennialang bezig is. Technologiebedrijven spelen daar zéér slim op in en verdienen daar ook massaal veel geld mee.

Wat het onderwijs betreft: er is momenteel toevallig een stevige nood aan technische profielen, en dus duwen we onze kinderen massaal in technische richtingen. Waarbij we wel uit het oog verliezen dat uitgerekend die technische jobs wellicht de eerste zullen zijn om opgeofferd te worden aan de volgende generatie zelflerende algoritmen. Misschien moeten we onze visie op onderwijs gewoon dringend bijsturen: het dient zeker niet alleen om mensen klaar te stomen voor bepaalde industrieën of sectoren. Als een industrie goed opgeleide mensen nodig heeft, dan kan ze die ook zelf opleiden.

Laat het onderwijs in eerste instantie breed opgeleide mensen afleveren. Waarom zouden we als maatschappij zwaar investeren in de opleiding van technische profielen op maat van het bedrijfsleven - de kosten socialiseren dus - terwijl de winst daarvan achteraf netjes geprivatiseerd wordt? Kritisch nadenken, dat is wat we mensen in eerste instantie moeten leren in het onderwijs. Begrijp me niet verkeerd: technologisch onderwijs mag best, maar we zijn daarin veel te ver doorgeschoten."

Hoe verklaart u nu dat technologie in relatief korte tijd zo’n grote maatschappelijke impact heeft gekregen?

"We leven in tijden die gekenmerkt worden door een grote onzekerheid, en technologie speelt daar perfect op in. Technologie is een quasi-religie geworden, die ons bevrijdt van die onzekerheid en van de menselijke feilbaarheid. Technologiebedrijven hebben er een stevig commercieel belang bij ons te doen geloven dat technologie geen fouten maakt: als we maar voldoende data hebben en we kieperen die in onze modellen, dan komen we tot een nieuw, objectief en foutloos model. Je reinste onzin natuurlijk, al was het maar omdat al die slimme algoritmen uiteraard ook door mensen gemaakt zijn en dus allesbehalve neutraal of objectief zijn.

Erger nog: we zetten nu zwaar in op zogenaamde zelflerende algoritmen, maar wat als die algoritmen binnenkort nog puur afgaan op andere algoritmen? Herinner je de financiële crisis van bijna tien jaar geleden, toen de markten op hol sloegen omdat plots iedereen afging op de beslissingen van een select kringetje binnen de financiële wereld. Ook de selectie en invoering van data in een model is niet objectief, net zomin als de interpretatie van de cijfers die dat model vervolgens uitspuwt. Wat niet belet dat we met technologie zeker een aantal processen kunnen verbeteren, maar laat ons daar vooral heel bescheiden in blijven en er altijd de nodige vragen bij blijven stellen.

Hoe keren we het tij?

"Van de politiek over de journalistiek tot het onderwijs, we hebben daarin allemaal onze rol te spelen. Ontmasker het determinisme, stop met idiote beweringen in de zin van 'technologie houden we nu eenmaal niet tegen.' Vertel me eens: waarom niet dan? Waarom zouden dingen die door mensen gemaakt en in de markt gezet worden achteraf ook niet door mensen gecorrigeerd of bijgestuurd kunnen worden?"

Misschien omdat er met nieuwe technologie ook - en in de eerste plaats – vooral heel veel geld te verdienen valt?

"Daar zeg je het: het gaat niet om technologie, het gaat om geld, heel veel geld."

Tegelijk kan je er natuurlijk niet omheen dat we als maatschappij gewoon ook flink wat te winnen hebben bij heel wat technologische innovaties. Als de zelfrijdende auto het aantal verkeersongevallen drastisch kan doen dalen, dan worden we daar met ons allen toch beter van?

"Dat zou kunnen, maar het voorbeeld dat je geeft, is vooralsnog een onbewezen claim van de autobouwers. En laat die autobouwers nu toch wel bijzonder slecht geplaatst zijn om dat als verkoopargument uit te spelen. Wat ik in die sector en op dat vlak vooral zie, is dat die industrie een potentieel veelbelovende markt hoopt aan te boren. Met andere woorden: het zijn opnieuw vooral de centen die technologische ontwikkeling sturen, veel meer dan de oplossing van een fundamenteel probleem.

We moeten technologische vooruitgang niet stoppen, we moeten vooral die mensen stoppen die zeggen: 'laat ons maar doen met onze technologie, bemoei je daar niet mee.' En geloof me vrij: als ik met politici praat en er is geen journalist in de buurt, dan delen zij doorgaans dezelfde bezorgdheid. Technologie mag ontwikkeld worden, maar ze mag niet zomaar in een commercieel model worden gestopt zolang de eventuele maatschappelijke schade daarvan niet ernstig onderzocht is. Dat is uiteraard geen nieuw probleem, maar vandaag gaat het zo razendsnel dat we gewoonweg geen tijd meer hebben om stil te staan bij eventuele schadelijk effecten.

Is het dan nog wel verantwoord om elke nieuwe technologie zomaar los te laten op de maatschappij? Zelfs iemand als Elon Musk vindt dat artificiële intelligentie gereguleerd moet worden, dat zegt toch wel iets, nee?"