Komen de robots ons vernietigen?

Natuurkundige Stephen Hawking en innovator Elon Musk waarschuwen dat robots met kunstmatige intelligentie zich wel eens tegen de mensheid zouden kunnen keren.

Steve Wozniak, een van de oprichters van Apple, deed er nog een schepje bovenop. “Worden wij straks de huisdieren van supermachines?” vroeg hij zich af.

Geen spookverhalen
Jeroen van den Hoven, professor Ethiek en Technologie van de Technische Universiteit Delft, moet van dát scenario weinig weten: “Al vanaf de jaren 50 van de vorige eeuw wordt gezegd dat er binnen afzienbare tijd intelligente machines gemaakt konden worden. Dat is tot op heden nog niet gebeurd. Natuurlijk zijn computers veel krachtiger dan toen.”

Maar het heeft volgens Van den Hoven weinig zin om ‘hijgerig achter sciencefiction aan te lopen’. In plaats daarvan pleit hij ervoor om goed te kijken naar wat er momenteel wordt ontwikkeld op het gebied van robotica en kunstmatige intelligentie, en om in te grijpen waar dat nodig is.

Dat kan bijvoorbeeld door al in het ontwerp rekening te houden met de gewenste eigenschappen en de begrenzingen die systemen moeten hebben – net als bij we doen bij personenauto’s.

Verdieping: Meer gevaar op ongelukken

Het gevaar dat apparaten ‘per ongeluk’ slachtoffers veroorzaken is misschien reëler. “In complexe systemen kan er sprake zijn van zogenoemde emergente fenomenen”, zegt Van den Hoven. “Denk aan een vliegtuig waarvan een automatische piloot reageert op foutieve data van een hoogtemeter, en crasht. Of een elektriciteitsnetwerk dat uit balans raakt omdat de computer ‘besluit’ om een bepaalde parameter te optimaliseren. Dit soort fouten zullen we vaker zien naarmate we meer taken uitbesteden aan computers.”

Bron: NEMO Kennislink, september 2017

De robots komen eraan!