De invloed van de computer op de hedendaagse maatschappij

door Huibert Spoorenberg

‘Werkloosheid is één van de grootste dreigingen die van de wetenschap in het algemeen en van de computer in het bijzonder uitgaan’, aldus computerwetenschapper Joseph Weizenbaum. Weizenbaum sprak deze woorden in december 1983, toen hij aan de TUE de Holstlezing verzorgde. Deze en vele andere van zijn uitspraken blijken vandaag de dag te zijn bewaarheid. Of was hij tè pessimistisch?
Reden genoeg om Weizenbaum en diens denkbeelden centraal te stellen in het keuzevak Filosofische achtergronden van de Informatie Technologie, dat maandag van start gaat.

‘De computer heeft vanaf het begin de rol gespeeld van een oplossing die naar een probleem zocht’, verklaarde Weizenbaum verder tijdens zijn rede in ’83. ‘Ook computer-analfabetisme is een mankement dat is uitgevonden, nadat de remedie was ontdekt: namelijk dat er talloze computers moeten komen waar iedereen toegang toe krijgt.’
Deze Holstlezing, alsmede Weizenbaum’s boek Computer Power and Human Reason (’76) en het vorig jaar verschenen vervolg Computer Power and Human Reason II, vormen de basis van het college. ‘We willen de studenten laten zien wat de invloed is van de computer op de samenleving’, legt dr.ir. Lambèr Royakkers (29), verbonden aan de vakgroep Techniekdyna-mica van de faculteit Technologie Management, uit. ‘Wij hebben nu meer kennis over wat computers kunnen en welke mogelijkheden ze hebben. De ontwikkelingen zijn niet meer te stoppen, maar we kunnen de mensen er wel op wijzen wat de gevolgen zijn. Bovendien heeft de politiek er dan ook nog wat aan.’ Royakkers, die dit jaar promoveerde op een proefschrift over kennissystemen, zal het vak samen met prof.dr. Andries Sarlemijn gaan verzorgen.
‘Weizenbaum was zich volledig bewust van de gevaren die computers kunnen op leveren’, vervolgt Royakkers. ‘Maar hij concludeert dat het grootspraak is van mensen die zich bijvoorbeeld bezighouden met Kunstmatige Intelligentie, om te zeggen dat de computer al het denkwerk kan overnemen van de mens.’ Eén van de eersten die hardop de vraag stelde of computers kunnen denken, was de Britse wiskundige Alan Turing. Hij vertelde daar voor het gemak meteen bij hoe je het antwoord moest vinden: ‘Laat iemand, bijvoorbeeld via twee telexverbindingen, converseren met een mens en met een machine. Als die persoon dan achteraf niet kan zeggen wie de computer was en wie de mens, dàn heb je de intelligente computer gevonden.’
Het eerste computerprogramma dat kon communiceren met de mens en bijgevolg deze test kon doorstaan, was - ironisch genoeg - Eliza van Joseph Weizenbaum. Dat programma, dat Weizenbaum in 1965 publiceerde, is zo geconstrueerd dat het op een bepaalde manier, de Rogeriaanse therapie genoemd, met patiënten een gesprek kan voeren. Het reageert op wat er tegen gezegd wordt en als het iets niet begrijpt geeft het een antwoord in de vorm van een vraag. De reacties van het programma lijken inderdaad moeilijk van een menselijk antwoord te onderscheiden, maar als je bijvoorbeeld plotseling een vraag naar de gezondheid van Eliza zou stellen, zou dat een onsamenhangend of in elk geval een ontwijkend antwoord opleveren. ‘Heel veel psychologen hebben Eliza volkomen serieus genomen en za-gen het als een vervanger van hun praktijk’, lacht Royakkers, ‘maar Weizenbaum beschouwde het voornamelijk als een spelletje.’

Computerspelletjes
In een interview verklaarde Weizenbaum in 1983: ‘Het feit dat de vraag überhaupt besproken moet worden of er een principieel verschil bestaat tussen mens en machine, is een symbool van de krankzinnigheid van onze wereld. Natuurlijk is er een verschil. Elk organisme is een product van zijn eigen geschiedenis. Omdat we verschillende geschiedenissen hebben is er een verschil tussen ons. Bovendien hebben wij levenservaring en de computer niet.’
Royakkers is het met hem eens: ‘De computer zal nooit de functie van de menselijke hersenen kunnen overnemen. Hij zal bijvoorbeeld nooit met een nieuw idee komen. En àls informatici al iets bereiken, blazen ze het meestal enorm op. Dam- , schaak- en Lingocomputers zijn leuk, maar we staan niet echt versteld van ze.’ Weizenbaum vroeg zich overigens steeds af of computerspelletjes, toch de grootste markt van KI, wel zo’n goede ontwikkeling waren. ‘Er bestond destijds bijvoorbeeld een spelletje, waarin je binnen een zo kort mogelijke tijd zoveel mogelijk indianen moest zien uit te moorden of te verkrachten.’ Weizenbaum gebruikte dat voorbeeld uiteraard om te choqueren, maar hij vond het enorm tragisch dat de meeste mensen, althans de meeste Amerikanen, niet de vindingrijkheid konden opbrengen om hun vrije tijd nuttig te besteden.

Zelfvernietiging
Zowel de wetenschaps- als maat-schappijvisie van Weizenbaum was bij het verschijnen van zijn eerste boek, nu twintig jaar geleden, uitermate pessimistisch. Hij kon eigenlijk niet anders dan constateren dat de meeste wetenschappelijke vondsten door hun eigen toepassingen waren geper-verteerd. ‘Laten we eens kijken naar de beste producten die de menselijke geest in de twintigste eeuw heeft voortgebracht’, zei hij. ‘We kunnen naar andere planeten vliegen; een droom zo oud als de planeten zelf. We kunnen in het atoom kijken en in kleur zien wat er aan de andere kant van de oceaan gebeurt. Al deze dingen hielden een grote belofte in, maar ze zijn allemaal geperverteerd. We leven in angst omdat er satellieten boven ons hangen, en onze kennis van het atoom heeft de mogelijkheid tot massale zelfvernie-tiging geschapen.’ Weizenbaum achtte de kans dat het menselijke ras binnen tien tot twintig jaar vernietigd zou zijn destijds zelfs bijzonder groot. Alleen een wonder zou ons nog kunnen redden. Zover kwam het gelukkig niet.
Een ander onderwerp waar Weizenbaum zich enorm over opwond, waren de computers van de zogeheten ‘vijfde generatie’, waar begin jaren tachtig vooral in Japan aan werd gewerkt. ‘De mensen die zich daar mee bezighouden, zijn de ware gelovigen’, aldus Weizenbaum. ‘De Japanners die erbij betrokken zijn, zijn duidelijk maatschappijhervormers. Ze hebben een visie op de maatschappij zoals die zal worden gerealiseerd als de computer alle menselijke communicatie zal controleren. Die maatschappij is naar mijn mening een soort hel. In zekere zin is het wat Orwell in gedachten had. Ze praten over computers die ‘verkeerde waarden’ in de menselijke communicatie kunnen corrigeren. Ik wil dat helemaal niet.’

Armoede
‘Alle problemen die Weizenbaum in zijn boeken aankaart, zullen, evenals de paradoxen met de goede kanten van de computer, in het college aan bod komen’, vertelt Royakkers. Een voorbeeld is de de agrarische sector, waar dankzij computers een enorme overvloed is gerealiseerd, terwijl er op zoveel plaatsen in de wereld nog veel honger en misère heerst. ‘Hoe kunnen we zo’n grote beschaving hebben bereikt en tegelijkertijd kampen met zoveel problemen als in de Derde Wereld en de nu zo actuele stille armoede’, vraagt Royakkers zich af. ‘De computer kan die problemen niet oplossen. Ten tijde van de industriële revolutie bestond er nog een bepaald evenwicht tussen de verdiensten van de arbeiders en het geld dat ze te besteden hadden om producten te kunnen kopen. Dat evenwicht valt nu weg: tegenwoordig kunnen computers een bedrijf runnen. En daarbij kunnen ze elkaar in de gaten houden. Zoveel invloed heeft de computer al.’

Het college gaat van start op maandag 9 december en zal steeds bestaan uit één uur inleiding en één uur discussie.