Reglur Asimovs tryggja ekki völd mannsins heldur að vélmenni skaði ekki menn - eða mannkyn?

Það er nú ekki alveg rétt að reglur Asimovs hafi verið til þess að tryggja völd mannsins yfir vélmennum þó reglu 2 mætti skilja þannig eina og sér. En reglurnar eru þaulhugsaðar og Asimov gerði margar tilraunir með reglurnar og lagfærði í sögum hans um vélmenni. En það sem er mikilvægast að skilja er að reglurnar mynda allar eina heild og eru leiddar af hverri annarri. Reglurnar 3 eru þessar (nenni ekki að þýða):

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey orders given it by human beings except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

Augljóslega getur vélmenni breytt gegn skipun manns ef skipunin brýtur í bága við höfuðregluna.

Reyndar bætti Asimov einni reglu við sem hann kallaði Núlltu regluna - svonefnd því hún nær yfir 1. regluna (og þar með allar hinar):

A robot may not harm humanity, or, by inaction, allow humanity to come to harm.

Þessi regla er nokkuð mikilvæg því hún breytir algjörlega áherslum hinna með því að nefna "mannkyn" í stað manns. Túlka má regluna þannig að hugsanlega má vélmenni skaða mann ef það er mannkyninu til góða. Ef ég man rétt reyndist svolítið erfitt að láta þessa reglu ganga upp.

Ég held að það hafi alltaf verið ljóst að setja þyrfti svona reglur einhverntíma. Það að Asimov skyldi setja þær fram fyrir næstum því 65 árum (reyndar voru þær að mótast fyrir þann tíma en þetta er ártalið sem Asimov sjálfur gaf alltaf upp) og þær þykja enn svo skynsamlegar hlýtur að teljast nokkuð merkilegt.

(06.05.2007) Bæti við myndskeið um þetta sem var sett á mbl.is í dag: http://www.mbl.is/mm/frettir/myndskeid.html?file_id=17538

Siðareglur um samskipti manna og vélmenna settar í Suður-Kóreu

Athugasemdir

[Jónas Tryggvi Jóhannsson, 7.3.2007 kl. 23:16]

Já, og það er svo skemmtilegt að fólk trúir enganveginn að þetta sé framtíðin.

Greinin hans Bill Joy eftir að hann hitti Raymond Kurzweil í fyrsta skiptið var svona 'eye opener' fyrir mér, því þegar svona með klárari mönnum úr tölvubransanum missa sig þegar þeir fatta að einn daginn verði mannkynið svo mikið tækni- og erfðabreytt að það mun varla vera til skil milli manns og vélar - og þessi uppgvötun hans verður til þess að hann fyllist hræðslu... þá fyllist ég forvitni :)