De Technologierede

Technologie als menselijke conditie

Toen Apple een jaar of 10 geleden de iPhone X introduceerde, gebeurde dat met een afbeelding van twee handen: de ene hand hield een vuistbijl uit de prehistorie vast, de andere de gloednieuwe iPhone X. De suggestie van het beeld was duidelijk: ooit hadden we alleen nog maar simpele werktuigen als vuistbijlen, maar inmiddels hebben we hoogwaardige technologie die zoveel meer kan, maar nog steeds hetzelfde formaat heeft. Maar het beeld kan ook andersom gelezen worden: het laat immers tegelijkertijd zien hoezeer technologie verweven is met de menselijke conditie. De mens is altijd al een technologisch wezen geweest, hoe ver terug je ook kijkt.

Dat een museum als NEMO een hele verdieping inricht rondom techniek, zegt iets over de menselijke fascinatie voor techniek. Die fascinatie heeft soms het karakter van verwondering en soms van verontrusting. Geniale uitvindingen – van de boekdrukkunst en de stoommachine tot biotechnologie en kunstmatige intelligentie – roepen soort ontzag op, maar tegelijk ook de vrees dat ze de samenleving zullen ontwrichten. Drukpersen en stoommachines werden stukgeslagen tijdens de reformatie en de industriële revolutie omdat ze het mogelijk maakten om nieuwe ideeën te verspreiden en het werk van arbeiders over te nemen; biotechnologie en AI roepen de vraag op of we niet te diep ingrijpen in de menselijke natuur, en of technologie uiteindelijk niet de macht op aarde over zou kunnen nemen.

In al deze beelden staat technologie tegenover de mens, als iets buiten onszelf dat ofwel een fascinerend ‘tegenover’ is of een potentieel gevaarlijke indringer. Dat is ook begrijpelijk: de mens zit in het domein van de ‘subjecten’ en techniek in het domein van de ‘objecten’, om het in de taal van filosofen te zeggen. Mensen hebben vrijheid, bewustzijn, bedoelingen, en kunnen verantwoordelijk gehouden worden voor hun daden. Technologie is dood, levenloos, en op zijn best een instrument in de handen van mensen. Toch biedt dit beeld van mens-versus-techniek geen geschikt kader om de relatie tussen mens en techniek te begrijpen. Er is een alternatieve benadering mogelijk, waarin technologie niet meer in de wereld van de objecten wordt geplaatst maar juist in de relatie tussen menselijke subjecten en de wereld van objecten. Technologie wordt dan een medium. Wie een smartphone gebruikt, bijvoorbeeld, heeft niet zozeer een relatie tot dat apparaatje, maar via die smartphone tot de wereld: het nieuws, vrienden en geliefden, werk, films. Technologie is nooit alleen maar een ‘middel’ maar ‘bemiddelt’ altijd tussen de gebruiker en diens omgeving [3]. Ze is niet dat waartoe wij ons verhouden, maar het medium waardoorheen wij een relatie met de wereld hebben.

Die bemiddeling brengt een stevige invloed van technologie op mens en maatschappij met zich mee. Door vorm te geven aan onze relaties met de wereld, beïnvloedt technologie namelijk op fundamentele wijze hoe wij de wereld begrijpen, welke keuzes we maken, en hoe we ons gedragen en de samenleving inrichten. Die invloed reikt heel ver, en we merken haar vaak niet eens op, omdat techniek juist op de achtergrond blijft en van daaruit de infrastructuur vormt van ons denken en handelen.

De rol van technologie in de wetenschap, die ik al even noemde, is hiervan een goed voorbeeld. Neem de ontwikkelingspsychologie. Als je tegenwoordig aan een psycholoog vraagt waarom pubers vaak minder goed zijn in het nemen van weloverwogen beslissingen, krijg je typisch een antwoord dat is gebaseerd op hersenonderzoek met behulp van fMRI. Bepaalde hersendelen ontwikkelen zich in een ander tempo dan andere, waardoor het ‘rationele’ deel soms wordt overheerst door andere delen die op dat moment meer actief zijn. De technologie van fMRI maakt het mogelijk het brein in actie zichtbaar te maken, en dat maakt het mogelijk gedrag te verklaren vanuit hersenactiviteit. Als we alleen maar ECG’s konden maken, die de elektrische activiteit van het brein zichtbaar maken, was dit neuropsychologische verhaal niet mogelijk. Eerdere verklaringen van het gedrag van pubers waren dan ook gebouwd op andere technische infrastructuur. Freud, bijvoorbeeld, had ook een verklaring: door patiënten op een sofa te leggen en zelf achter ze te gaan zitten, kon hij ze met zijn gesprekstechniek in contact laten komen met hun onderbewuste wensen, verlangens en gedachten. Zo ontrafelde hij dat pubers in een proces van identiteitsvorming zitten, waarin ze zich moeten losmaken van de kaders die ze van hun ouders hebben meegekregen. Om hun eigen verantwoordelijkheidskader te vormen moeten ze zich dus eerst onverantwoordelijk gedragen. Psychologen kunnen, kortom, geen onderzoek doen zonder in contact te treden met de fenomenen die ze willen onderzoeken en de technologie die ze gebruiken – van sofa tot MRI-scanner – bemiddelt de aard van dat contact en daarmee ook van het type verklaring of begrip dat ze kunnen ontwikkelen.

Het fenomeen van technologische bemiddeling reikt ook tot in onze moraal. Wat wij ethisch aanvaardbaar en onaanvaardbaar vinden, schuift op onder invloed van technologie. De Nederlandse filosoof Gerard de Vries – lange tijd hoogleraar geweest aan de UvA – liet bijvoorbeeld zien dat anesthesie aanvankelijk werd gezien als iets immoreels [4]. Die weerstand is misschien ook nu nog wel enigszins invoelbaar: het doet niet voor niets pijn als je het lichaam opent, en iemand in slaap brengen en vervolgens opensnijden kan vanuit dat gezichtspunt als zeer respectloos gezien worden. Inmiddels is het omgekeerde waar: juist een arts die zonder verdoving zou opereren, zou respectloos te werk gaan. Een ander voorbeeld. De Nederlandse filosoof en antropoloog Annemarie Mol – ook UvA – heeft laten zien hoe de anticonceptiepil niet alleen de emancipatie van vrouwen maar ook die van homoseksuelen heeft gestimuleerd: door seks los te koppelen van voortplanting viel opeens een argument weg dat tot die tijd in de ogen van sommigen vanzelfsprekend was, namelijk dat het onnatuurlijk was om seks te hebben met iemand van hetzelfde geslacht omdat daar geen kinderen van kunnen komen [5]. Een derde voorbeeld. Wie een kind verwacht en een echo laat maken, ontwikkelt opeens een morele relatie met de foetus, waarbij het krijgen van een kind met een aangeboren ‘afwijking’ opeens een keuze wordt, en geen noodlot meer is [6]. Technologie schept niet alleen nieuwe wetenschappelijke maar ook nieuwe morele relaties tussen mensen en de wereld.

De gedachte dat technologie tegenover de mens zou staan, is dan ook verre van adequaat. Wij zijn techniek. Precies zoals de twee handen bij de presentatie van de iPhone X al verbeeldden. Sterker nog: juist die handen maken ons volgens sommigen ook in antropologisch opzicht tot technische wezens. De Franse antropoloog Leroi-Gourhan heeft beargumenteerd dat de technische natuur van de mens samenhangt met het feit dat de mens op 2 poten is gaan lopen, waardoor de voorpoten armen konden worden, en de handen gebruikt konden worden om voorwerpen te gebruiken, terwijl veel dieren dat met hun bek moeten doen [7]. Evolutionair brachten onze handen ons in een ‘niche’: ze stimuleerden ons om niet alleen voorwerpen te gebruiken die toevallig voorhanden (!) waren, maar ook om nieuwe voorwerpen te maken. Op die manier werd techniek een manier om te overleven, waar we dat met ons gebrekkige lichaam niet konden: bij gebrek aan dikke vacht maken we vuur, bij gebrek aan sterke klauwen en kaken gebruiken we gereedschap om te eten. De mens is geen dier-met-iets-extra’s maar juist een dier dat alleen dankzij protheses kan overleven [8]. Techniek is onderdeel van de menselijke conditie: ze maakt het ons mogelijk om te leven.

Juist omdat techniek ons bestaan conditioneert, luiden nieuwe technologische ontwikkelingen dan ook vaak het begin van een nieuw historisch tijdperk in, met een nieuw type samenleving. De maatschappij die momenteel oprijst uit de digitale revolutie, wordt door sommigen al aangeduid als “Society 5.0”: het vijfde type samenleving waar technologie toe heeft geleid [9]. In dit beeld van onze geschiedenis – dat overigens wel erg beperkt gedreven wordt door technologie – zijn het steeds nieuwe uitvindingen die een nieuw tijdperk inluiden. Door de ploeg kon de samenleving van jagers-verzamelaars overgaan in een agrarische samenleving: mensen konden op één plek blijven wonen. De komst van de stoommachine effende vervolgens het pad voor de industriële samenleving, die door de computer overging in de informatiesamenleving en op dit moment door de digitale revolutie in hoog tempo transformeert in de vijfde samenleving: de digitale samenleving.

De technologieparadox

Het beeld van ‘de mens tegenover de techniek’, als een subject tegenover een object, is na bovenstaande analyse heel ver uit beeld geraakt. Sterker nog: dat technologie onderdeel uitmaakt van de menselijke conditie en de samenleving in hoge mate bepaalt, roept de vraag op in hoeverre wij nog wel tegenover die technologie kúnnen staan, en verantwoordelijkheid kunnen nemen voor technologie. Dit brengt me bij het tweede deel van mijn verhaal: de paradox van de maakbaarheid. Die paradox bestaat erin dat technologie de wereld enerzijds maakbaar maakt – dankzij technologie kunnen we immers heel veel dingen realiseren die anders onmogelijk zouden zijn – maar anderzijds ook onbeheersbaar is: technologie is immers zelf ons ‘noodlot’. Zonder technologie kunnen we niet leven, en diezelfde technologie is intussen een drijvende kracht in de geschiedenis die we zelf niet geheel kunnen beheersen.

Dit roept een urgente maatschappelijke vraag op. Als we zo verweven zijn geraakt met techniek, is er dan wel zoiets als techniekethiek mogelijk? Kúnnen we überhaupt nee zeggen tegen techniek, of zijn we er gewoon machteloos aan overgeleverd? Die vraag is al helemaal urgent als we de invloed van technologie op de moraal zelf in beschouwing nemen, die ik zojuist benoemde. Als de ethiek niet onafhankelijk is van de techniek, maar erdoor beïnvloed wordt, hoe kunnen we dan op een goede manier ethische vragen stellen ten aanzien van technologie?

De benadering van ‘technologische bemiddeling’ biedt een heel eigen perspectief op deze vraag. Als mens en techniek intrinsiek met elkaar verweven zijn, is de kernvraag vanuit deze benadering niet of de mens de techniek wel kan sturen, dan wel of de techniek de mens stuurt, maar juist hoe hun verwevenheid op een verantwoorde manier vorm kan krijgen. De rol van de ethiek bestaat dan niet meer primair in het beoordelen van techniek, van buitenaf, maar in het begeleiden van techniek van binnenuit. In plaats van te pretenderen erbuiten te staan om een onafhankelijk oordeel te kunnen geven en techniek te kunnen sturen, zou de ethiek haar werk juist van binnenuit moeten doen, door naast en niet tegenover techniek te staan en onderdeel te worden van de dynamiek waarin technologie wordt ontworpen, ingebed en gebruikt.

De ethische benadering die hierbij hoort, hebben we begeleidingsethiek genoemd [10]. In deze benadering is ethiek niet zozeer gericht op oordelen (“moet deze technologie worden toegelaten of afgewezen?”) maar primair op handelen (“hoe kunnen we ethische waarden verbinden aan technologie?”). Daarmee is ze een vorm van ‘positieve ethiek’: ze richt zich niet (negatief) op de vraag hoe we kunnen afbakenen wat we niet willen, maar (positief) op de vraag wat de condities kunnen zijn voor wat we wél willen. Door nauwkeurig te analyseren wat de mogelijke effecten van een technologie zouden kunnen zijn – de ‘technologische bemiddelingen’, zoals ik ze eerder noemde – probeert de begeleidingsethiek vast te stellen welke waarden in het geding zijn bij deze effecten, om die waarden vervolgens niet te gebruiken als basis voor goedkeuring of afwijzing maar voor handelingsopties. Die bestaan dan ofwel in het nader vormgeven aan de techniek zelf (via een herontwerp), ofwel aan de omgeving ervan (bijvoorbeeld via wet- en regelgeving of ondersteunende techniek), ofwel aan het gebruik (bijvoorbeeld via toerusting en voorlichting van de gebruiker). Bij deze begeleiding van binnenuit zijn niet alleen beroeps-ethici van belang, maar juist ook mensen uit de praktijk zelf. Dat zijn immers de mensen die het dichtst bij de techniek staan die wordt ontwikkeld en gebruikt, waardoor zij een scherper zicht hebben op de implicaties van een technologie en op de waarden die daarbij in het geding zijn.

Een voorbeeld kan dit illustreren. In de beginperiode van de coronapandemie heeft de Nederlandse overheid een app ontwikkeld om mensen te helpen vast te stellen of ze langer dan 15 minuten dichter dan anderhalve meter bij iemand waren geweest die later besmet bleek met het coronavirus: de CoronaMelder. Deze app veroorzaakte veel discussie, omdat mensen bang waren dat de overheid ermee kon vaststellen wie er corona had en wie niet, of zelfs toegang zou krijgen tot de locatiegegevens en contactpersonenlijst van burgers. Het uiteindelijke ontwerp heeft al deze bezwaren zeer serieus genomen, en was zeer privacy-vriendelijk. Ik heb indertijd een ethische analyse van de app mogen leiden, en deed dat in twee stappen. De eerste was een ‘klassieke’ analyse, uitgevoerd door een groep experts, van de voorwaarden waaronder het verantwoord zou zijn de app aan te bieden. Centraal daarin stonden uiteraard zaken als het belang van privacy, vrijwilligheid en de mogelijkheid van een opt-out. De tweede analyse vond plaats vanuit de begeleidingsethiek, en werd uitgevoerd in een sessie waaraan veel verschillende betrokkenen meededen, van een politieagent tot een sportschoolhouder en een marktkoopvrouw tot een GGD-medewerker.

Opmerkelijk genoeg had deze tweede analyse een uitkomst die geheel tegengesteld was aan de eerste. Toen de deelnemers de effecten van de app zagen, merkten ze op dat alle nadruk op privacy en vrijwilligheid het onmogelijk maakte om de app vanuit solidariteit te gebruiken. En juist die solidariteit was wat ze zochten. Mensen wilden wél graag de optie hebben om hun locatie te delen, zodat de overheid een beter beeld kon krijgen van de plekken waar het virus actief was en op die manier lokale lockdowns kon afkondigen. En ze wilden wél de optie hebben om hun contactgegevens te delen, zodat alle mensen die ze kenden direct een bericht konden krijgen dat ze corona hadden, zodat ze niet per ongeluk even op bezoek kwamen. Op deze manier werd een aantal mogelijke aanpassingen zichtbaar aan de app zelf, aan de regelgeving eromheen en aan de communicatie naar de gebruikers, die de acceptatie van de app wellicht hadden kunnen vergroten, als ze daadwerkelijk waren overgenomen.

Technologisch burgerschap

Dat brengt me bij het derde en laatste onderdeel van deze lezing: technologisch burgerschap en de rol van musea daarin. Omdat technologie ons bestaan en onze samenleving zo fundamenteel beïnvloedt, vereist onze hoogtechnologische samenleving een eigen vorm van burgerschap. Om voluit deel uit te kunnen maken van de maatschappij moeten burgers zich kritisch en constructief kunnen verhouden tot de technologieën om hen heen – zowel de technologieën die hun persoonlijke leven beïnvloeden als de technologieën die invloed hebben op de samenleving als geheel en op de democratie.

Dit technologisch burgerschap vereist een nieuwe vorm van technologische geletterdheid. Daarbij gaat het er niet zozeer om dat burgers in staat zijn om de technologische details van nieuwe ontwikkelingen gedetailleerd te volgen, maar vooral dat zij het vermogen hebben om kritisch te reflecteren op de mogelijke impact van technologieën op mens en maatschappij. Hoe beïnvloedt het algoritme van TikTok de politieke ideeën van jongeren? Hoe kan je goed omgaan met ethische vragen als je zwanger bent en een echo laat maken? Is het gebruik van ChatGPT door studenten een vorm van fraude of juist een nieuw onderdeel van de wetenschappelijke methode?

Deze nieuwe vorm van burgerschapsvorming zou zich niet moeten beperken tot scholen, maar vergt een vorm van ‘levenslang leren’. De technologische ontwikkelingen blijven immers doorgaan, en dus heeft onze samenleving plaatsen nodig waar mensen de kans krijgen om hun kritische relatie tot technologie heel concreet te oefenen en aan te scherpen. Een museum als NEMO is precies zo’n plaats. Een museum waar technologie ervaarbaar wordt, en waar duidelijk wordt waar de aangrijpingspunten voor verandering zitten. Die aangrijpingspunten zitten precies op de drie typen handelingsopties die de begeleidingsethiek mogelijk maakt. Ten eerste is het technologie zelf, die herontworpen kan worden: een museum als NEMO laat je ervaren hoe technologie werkt, wat ontwerpen is, en hoe sommige problemen een technische oplossing kunnen hebben, waarbij die oplossing ook altijd weer onverwachte effecten heeft die kritisch bekeken moeten worden. Ten tweede is dat de maatschappelijke omgeving van de technologie, die anders ingericht kan worden: NEMO laat de historische context van technologie inzien, zodat de verbeelding van de bezoeker gaat zien dat dingen ook heel anders kunnen zijn dat ze nu zijn. En ten derde is dat de gebruiker van de technologie: een museum als NEMO zorgt ervoor dat mensen toegerust zijn om technologie kritisch te gebruiken, omdat ze zien dat andere vormen van gebruik tot andere maatschappelijke effecten leidt.

Geen betere plek dan Amsterdam, bovendien, voor deze vorm van technologisch burgerschap. Onze stad is koploper op het gebied van kunstmatige intelligentie en digitale technologie, en speelt daarmee een toonaangevende rol in de digitale revolutie die momenteel plaatsvindt. Onder de vlag van ‘Amsterdam AI’ werken de Amsterdamse kennisinstellingen, medische instellingen, de gemeente en de Amsterdam Economic Board intensief samen aan digitale technologie. Nu NEMO haar prachtige Technium heeft geopend, is de weg vrij om juist op het gebied van burgerschap in de digitale samenleving de handen ineen te slaan.

Ik wens NEMO heel veel geluk met deze prachtige nieuwe verdieping. En ik wens Nederland toe dat NEMO een plek mag worden waar onze fascinatie en onze verontrusting over technologie samen komen, en waar we samen werken aan kritisch technologisch burgerschap in de 21e eeuw. Technologie verandert de wereld, zoals Asimov zei – het is aan ons allemaal om die verandering op een verantwoorde manier te begeleiden, en NEMO heeft alles in huis om ons daarbij te helpen.

Dank u wel.

Referenties

1 Asimov, I. & Shulman, J.A. (eds) (1988). Isaac Asimov’s Book of Science and Nature Quotations. New York: Weidenfield & Nicolson, p. 78

2 Molder, H. F. M. te (2011). Voorbij blije wetenschap en boze technologie: wetenschapscommunicatie in interactioneel perspectief. Enschede: Universiteit Twente.

3 Verbeek, P.P. (2011). De grens van de mens. Rotterdam: Lemniscaat.

4 Vries, G. de (1999), Zeppelins: Over filosofie, technologie en cultuur. Amsterdam: Van Gennep.

5 Mol, Annemarie (1997). Wat is kiezen? Een empirisch-filosofische verkenning. Enschede: Universiteit Twente

6 Verbeek, P.P. (2014). Op de vleugels van Icarus: hoe techniek en moraal met elkaar meebewegen. Rotterdam: Lemniscaat.

7 Leroi-Gourhan, André (1993). Gesture and Speech. Boston: MIT Press. [Le Geste et La Parole: Al-bin Michel, 1964/1965.]

8 Stiegler, Bernard (1998). Technics and Time I: The Fault of Epimetheus. Stanford: Stanford University Press.

9 https://www8.cao.go.jp/cstp/english/society5_0

10 Tijink, D. en P.P. Verbeek (2023). De techniek staat voor iets. Samen richting geven aan techniek en samenleving. Amsterdam: Boom

De Technologierede is een initiatief van NEMO Science Museum.