Untitled Document
Mogen we het concept mens herdefiniëren
Ethiek/Gerard Verhoogt
Illustratie/Paul Weehuizen
"Waarom zouden we, als iemand een oog verloren heeft,
geen nieuw oog inzetten met ultrasone signalen? Dan kan hij voortaan,
net als een vleermuis, in het donker zien. Maar, mògen
we wel morrelen aan de natuur? Mogen we het concept 'mens' herdefiniëren?"
"Deze prangende vraag typeert waar het hier om gaat. Deze
ontwikkeling heeft namelijk nogal wat maatschappelijke implicaties",
stelt mr.dr.ir.ir Lambèr Royakkers van de capaciteitsgroep
Filosofie en Ethiek van de Techniek van de faculteit Technologie
Management. "Er zullen andere maatstaven komen voor wat gangbaar
is en wat niet, of in hoeverre mensen niet-perfect mogen zijn.
Studenten van een technische universiteit moeten deze consequenties
kunnen doorzien en er op academisch niveau op kunnen reageren."
De colleges van de sectie Filosofie en Ethiek van de Techniek
betreffen het leren reflecteren op de relatie van het eigen vak
met de sociale en historische context. Deze reflectie is opgebouwd
rond vier thema's: de wederzijdse interactie van het betreffende
vak met de samenleving, de geschiedenis van het vak, wetenschapsfilosofie
en ethische/normatieve vraagstukken. Royakkers (1967) besteedt
in zijn colleges veel aandacht aan argumentatieleer en logica,
vaak door praktijkvoorbeelden te behandelen. Royakkers: "Zie
het debat over de vraag of de computer als rechter moet functioneren.
Behalve de vraag of een computer kàn rechtspreken, is het
ook de vraag of het màg. Studenten moeten hun mening met
goede argumenten kunnen onderbouwen. Het gaat er ook om dat studenten
een zelfstandig vermogen tot oordelen ontwikkelen en goed nadenken
wat hun ontwerpen voor maatschappelijke gevolgen kunnen hebben."
Het vak is op maat gesneden voor alle faculteiten, er is bijvoorbeeld
een curriculum Reflectie op Techniek voor Scheikunde naast Reflectie
op Techniek voor Informatica. Royakkers geeft het curriculum Reflectie
op Informatica. Vijf van de drie vakken zijn verplicht (6 studiepunten);
de keuzevakken (4 studiepunten) kunnen studenten hier, maar ook
op andere universiteiten volgen.
Waanzin
Over de vraag 'kunnen computers rechtspreken?' heeft Royakkers
zelf een uitgesproken mening. "De vraagstelling alleen al
is een teken van de waanzin onzer tijd. Hoe intelligent de computer
ook moge worden, hij zal zich altijd verre moeten houden van authentieke
menselijke aangelegenheden, zoals rechtspraak, opvoeding en politiek.
Een zinvolle vraag zou wel kunnen zijn: 'In hoeverre kunnen computers
ondersteuning verlenen bij juridische beslissingen?'".
Niet iedereen deelt zijn mening, maar het leidt tot veel discussie.
De discussies vormen een vast onderdeel in de cursus Filosofische
achtergronden van de ICT. De cursus concentreert zich op kunstmatige
intelligentie met als centrale vraagstelling: 'Kunnen computers
denken'? Naast het boek 'The Philosophy of Artificial Intelligence'
van Margareth Boden gebruikt Royakkers ook krantenartikelen of
tv-opnamen. Royakkers: "In het boek staat een aantal belangrijke
werken van beroemde wetenschappers. Zo leren studenten ook om
primaire bronnen te lezen in plaats van interpretaties en samenvattingen
van anderen. Ook dat hoort bij reflectie op techniek." /.
"Maakt niemand van jullie zich dan zorgen?"
Het college Filosofische achtergronden van de ICT begint
steevast met twee voordrachten. Eén student vat een artikel
samen, de tweede bekritiseert het. Centraal staan twee tegengestelde
visies binnen de kunstmatige intelligentie: computers als systemen
om mentale symbolen te manipuleren versus systemen om het brein
te modelleren, met andere woorden probleemoplossen versus leren.
De eerste student licht de uitgangspunten en de theorieën
toe. Duidelijk wordt dat de verwachting uit de beginjaren vijftig
- 'in 2000 hebben we computers die het menselijk brein evenaren'-
veel te optimistisch was.
 Als Royakkers het overneemt verwijst
hij naar open en gesloten systemen en op (niet) monotoon redeneren.
Gesloten systemen (zoals de spelletjes schaken en vier-op-een-rij)
maken gebruik van duidelijke en vastomlijnde regels; open systemen
doen dat niet of minder, zoals bijvoorbeeld ons rechtsysteem.
Monotoon redeneren komt uit de klassieke logica, maar speelt ook
een rol in de kunstmatige intelligentie. Het principe is: 'als
P dan Q', dan volgt logisch ook 'als P en R dan Q'. Maar zo'n
systeem houdt geen rekening met onverwachte gebeurtenissen of
uitzonderingen: het is niet mogelijk dat het toevoegen van nieuwe
informatie een ander licht werpt op de zaak. Algemeen aanvaard
is de regel 'alle vogels kunnen vliegen'. Echter, bij toevoeging
van het gegeven dat het hier een pinguïn betreft, maakt logisch
gezien de regel onwaar: één tegenvoorbeeld maakt
de stelling onwaar. In het dagelijks leven (een open systeem)
stellen we minder strenge eisen aan het redeneren.
Tegenstrijdig
Royakkers: "Twee aspecten van niet-monotoon redeneren zijn
het redeneren met uitzonderingsgevoelige informatie en met tegenstrijdige
informatie. Mensen kunnen daar in de praktijk goed mee om gaan,
een logisch systeem niet. Iemand zegt bijvoorbeeld na een verkeersongeluk:
'Maar ik kwam van rechts!'. Hij bedoelt: 'Dus ik had voorrang.'
Alleen geldt dat niet als de ander op een voorrangsweg zat of
als het een ambulance was."
Volgens Royakkers heeft de klassieke logica zijn beperkingen en
is het minder geschikt voor het modelleren van redeneringen in
open systemen vanwege het open, onvoorspelbare karakter van de
werkelijkheid. Daarnaast is het de vraag of mensen zich wel iets
aantrekken van logisch ongeldige argumentaties. Royakkers: "Zo
zijn drogredenen zeer gangbaar in de politiek. Kritiek op deze
drogredenen wordt afgedaan met de opmerking 'politiek is retoriek,
geen logica'. Als je deze retoriek in een computer kunt stoppen,
kom je dicht bij de argumentatievaardigheden van de doorsnee politicus.
De vraag is of we dat willen; computers zijn juist zo goed omdat
ze zich zo strikt aan de logische argumentatieregels kunnen houden,
en ons zo kunnen waarschuwen voor ongeldige argumentaties of drogredenen."
Techniekpessimist
De studenten moesten ook een essay schrijven over de vraag: 'Kan
een computer denken?', waarin ze ook de gevaren van de technische
ontwikkelingen moesten verwerken.
Royakkers: "Plato had het over 'het democratisch beest',
waarmee hij op de gevaren wees van een democratie. Ik gebruik
in die zin het begrip 'het technologisch beest'. Jullie wisten
al dat ik een techniekpessimist ben, echter weinigen heb ik kunnen
overtuigen van de gevaren voor technische ontwikkelingen blijkens
jullie essays. Maakt niemand van jullie zich dan zorgen?"
Reactie uit de zaal: "Ja, voor de afhankelijkheid van (computer)systemen."
Andere student: "Privacy. Ze kunnen tegenwoordig alles van
iemand nagaan."
Royakkers: "Terug naar de vraag: kunnen computers denken?
Eerst zeiden we dat een computer kan denken als hij op een hoog
niveau kan schaken. Nu dit bereikt is, hebben we het over het
moment waarop hij kan praten. Later zullen we de grens wel weer
verleggen. Niemand van jullie zegt voluit 'ja' of 'nee'. De meesten
hebben deze vraag terecht omzeild door eerst stil te staan bij
de vraag 'wat is denken?' Daaraan verwant is de vraag 'Wat is
begrijpen, wanneer begrijp je iets?' Begrijp je iets, als je het
kunt beschrijven en (dus) kunt formaliseren?"
In het essay gebruiken de studenten regelmatig termen als 'De
ziel', 'God' of 'Het bewustzijn'. Royakkers vertoont een video
waarin een hersenwetenschapper vertelt: "Ik zie geen ziel
in de hersenen zitten, geen vakje met 'bewustzijn' erop. De vraag
is waar het bewustzijn in de hersenen zit."
Hersens sterven af als ze geen zuurstof krijgen, dus als de bloedtoevoer
stopt. De wetenschapper voerde een experiment uit met een aap:
hij maakte diens kop los van zijn romp. Via een externe bloedtoevoer
wist hij de hersens in leven te houden en te laten functioneren.
Royakkers: "Dat betekent dus dat je in de toekomst iemands
persoonlijkheid en bewustzijn kan transplanteren?! Mag dat?"
|
