AI en morele bejegening

[curious]

een mens is een systeem dat best te vergelijken zal zijn met de beschreven robot, maar de mens heéft dus emoties waar heel zijn bestaan/cultuur zich uit ontwikkeld heeft. Hij voelt pijn, en kent een verlangen naar 'liefde' die de motor van zijn leven vormt, en op de achtergrond van al zijn handelingen speelt een angst voor de dood. De beschreven robots kennen die bewustzijnstoestanden helemaal niét, maar zijn automaten die een programma vormen, waarbij op binnengekomen informatie voorgeprogrammeerde output geactiveerd wordt , maar meer niet, tenminste...waar zou dat 'meer' vandaan moeten komen?

JDR schrijft wonderlijk genoeg:

Het probleem is echter dat wetenschappers geen idee hebben in hoeverre deze kunstmatige levensvormen ook daadwerkelijk emoties/gevoelens ervaren.

Hoe zouden dergelijk gigantisch sterke impulsen en motieven als liefde, angst voor pijn, angst voor de dood, seksuele begeert, de behoefte te zorgen, lief te hebben, aandacht te schenken aan je medemens, je partner, je kinderen...hoe zou dat zomaar in geprogrammeerde software terecht kunnen komen wanneer dat er niet door die wetenschappers zelf ingestopt is?

[ypsilon]

Ik denk dat je het zo mag opvatten: ze weten dat de robots ergens een verwerkingscentrum hebben voor emotie e.d. maar ze weten niet precies wat de robots voelen. Dit wijkt niet zover af van de mens: ondanks inzicht in het biologisch substraat blijft mijn gevoelsleven wezenlijk voor iemand anders verborgen. (Voor het gemak kan je blijven uitgaan van de door robots gemaakte robots, dan hoeven de wetenschappers het er niet ingestopt te hebben.)

[HeavenOnEarth]

...hoe zou dat zomaar in geprogrammeerde software terecht kunnen komen wanneer dat er niet door die wetenschappers zelf ingestopt is?

Evolutie heeft deze zaken er bij de mens 'ingestopt' dus voor de hypothetische vraag maakt dit niet zoveel uit lijkt me.

Wanneer de denkbeeldige robot dusdanig vergelijkbaar is met de mens is dat zij gelijk aan elkaar zijn, dan heeft de brandweerman geen 'objectieve' ethische grond voor een keuze. En er is altijd wel een robot te bedenken die gelijk is aan de mens (dus.... waarom stel je deze vraag eigenlijk? )

In de ethiek en in het recht speelt het bewust ervaren van nadeel en voordeel een grote rol. Op het moment dat we weet hebben van een wezen die dit op een vergelijkbare manier beleeft, dan moet aan dit wezen dezelfde ethische status toe worden gekend als aan de mens.

In wezen verschilt de keuzesituatie van de brandweerman niet eens zo gek veel van een situatie als: kies tussen iemand van je ras/stam/familie en 'de ander'.

[Adpruys]

Volgens mij heeft hij wel een objectieve ethische grond voor een keuze.

Je kunt verschillende criteria gebruiken voor moraliteit. Je kunt je daarbij al dan niet baseren op heilige geschriften of op religieuze, evolutionistische, klassieke, persoonlijke, politieke of wetenschappelijke opvattingen en hierbij in sterke of minder sterke mate egoïstische of altruïstische-empathische gevoelens laten meespreken. Het lijkt me echter evident dat verwantschap een rol speelt. Je hebt het het beste voor met mensen die dicht bij je staan. Sommigen, wellicht degenen met de hoogste vorm van beschaving, ontwikkeling en bewustzijn, voelen zich verbonden met al het leven. Toch acht ik het niet alleen natuurlijk maar ook praktisch dat ook zij mensen een streepje voor geven op andere levende wezens. Alle moraliteit vervalt als je dit niet doet. Je kunt anders hetzij niet meer over straat lopen uit angst een mier dood te trappen, hetzij – en dit licht dan meer voor de hand - je trapt net zo makkelijk een mier als een mens dood.

Dit had ik ook als reactie op een uitspraak van Rogier in het topic over dieren kunnen plaatsen en voeg daar hier aan toe: niet levende maaksels staan nog lager op de ladder van verwantschap dan levende wezens.

Voor het overige kan ik niet oordelen over de verschillen tussen mensen en niet bestaande robotten. Dat aspect van deze discussie gaat mijn praktische geest te boven.

[curious]

Evolutie heeft deze zaken er bij de mens 'ingestopt' dus voor de hypothetische vraag maakt dit niet zoveel uit lijkt me.

Evolutie is een proces, niet een wezen. Wij zijn gevoel/emotie. Wij zijn niet een wezen waar emotie/gevoel door een ander wezen erin is gestopt. Bovendien lijk je mijn punt te missen: de robots kennen ten enemale geen emotie, omdat dat in de software niet aanwezig is, tenzij de makers van hen dat erin zouden hebben gestopt.

Wij zijn van een heel andere orde dan de dingen die wij voort kunnen brengen op technologische wijze (cohabitatie dus even uitgezonderd )

Die robots zijn en blijven een plan van ons, een idee van ons, en alleen daarom zullen het nooit gelijkwaardige wezens worden. Wij zijn hun schepper, hun god.

En als wij ertoe komen dergelijke robots te ontwikkelen dan komt dat voort uit emoties, emotionele drijfveren als nieuwsgierigheid , dingen willen weten, onderzoeken...en dat weer uit liefde voor het leven ofzo, of verwondering over en hartstocht voor het bestaan...

Als je goed nadenkt over je inspanningen en beijveringen, je dromen, je wensen, al je motieven bij alles wat je doet, dan is het alfa en omega daarvan: emotie en gevoel, passie, en niet te vergeten empathie (waar onze moraal op is gefundeerd (en ook dat inleveingsvermogen is weer iets wezenlijks anders dan het ' programmaatje-zonder-meer' volgens welke de robots 'moreel' handelen)

NOOIT kan zich dat ontwikkelen vanuit software die alleen maar calculatieve berekening is, en bovendien een kant en klaar produkt vormt van een wezen dat inderdaad vele tienduizenden jaren van evolutie aan zijn ontsaan vooraf heeft liggen

Maareh, mijn vraag nog even. Ik zou graag willen dat er eens onderzocht werd of wij ons niet met bonobo's kunnen kruisen zodat er een vredelievender soort wezen ontstaat, die dus enerzijds de libidineuze oplossingsgerichtheid en saamhorigheid van de bonobo kent, en anderzijds de helderheid van het verstand van de mens.

Kunnen we het daar niet eens over hebben, in plaats van over robots die alleen maar zullen kunnen doen, wat wij in hun software planten?

[curious]

de vraag van dit topic is misschien eigenlijk: kunnen wij iets maken dat 'leeft' (zonder gebruik te maken van 'leven').

Het antwoord is nee.

[ypsilon]

Het antwoord is ja, volgens mij. Als wij evolutie voor de robots kunnen simuleren vervalt dit argument. Wij hebben als mens trouwens al een behoorlijke impact op de evolutie.

NOOIT kan zich dat ontwikkelen vanuit software die alleen maar calculatieve berekening is

Ook onze hersenen voeren digitalisering uit op de stimuli die wij uit onze omgeving ontvangen.

Maar dit is meer een discussie voor het topic over de menswording van robots, hier is de vraag: "Stel je voor..." en

Aan welke voorwaarden moet een 'bewustzijn' voldoen om het dusdanig aan het menselijk bewustzijn gelijkwaardig te mogen noemen dat wij er zelfs ons menselijk ethische stelsel mee zouden delen?

[curious]

vraag 1: kan de mens uit dode materie een (gelijkaardig/gelijkwaardig) moreel 'wezen' vervaardigen: natuurlijk niet, maar daar wil ik best op doorgaan evengoed.

Maar eerder kwam dus de gedachte al eens in mij boven (welke hiermede opnieuw wordt opgeroepen) of de mens niet een moreel hoogstaander wezen*) kan voortbrengen door zich te kruisen met een bonobo.

Denk dat die vraag (en de onderbouwing van misschien mijn of andermans poging op een bevestigend antwoord hierop) een stuk spannender is.

Tot na de paas

*) zich gedragend, denkend, voelend, beschouwend, belevend, verlangend, wensend, hopend, voorvoelend, corrigerend, aanpassend, nieuw ontwerpend, zelf creërend, verfijnend, uitkristalliserend, archiverend, inducerend...

[Rogier]

Het lijkt me echter evident dat verwantschap een rol speelt. Je hebt het het beste voor met mensen die dicht bij je staan.

(...)

Toch acht ik het niet alleen natuurlijk maar ook praktisch dat ook zij mensen een streepje voor geven op andere levende wezens.

En hoe zit het met wildvreemde mensen versus een robot waar je al 10 jaar mee bent bevriend?

Dit had ik ook als reactie op een uitspraak van Rogier in het topic over dieren kunnen plaatsen en voeg daar hier aan toe: niet levende maaksels staan nog lager op de ladder van verwantschap dan levende wezens.

Tja, wat is leven?

En in plaats van leven als criterium te gebruiken, vind je het ook redelijk om naar het bewustzijnsniveau te kijken? (los van de vraag hoe je die bij een ander mens, dier of robot kunt bepalen)

Op de eerste pagina noemde ik al dat ik in gedachte nog een stap verder wil gaan dan jdr. Ik stop dat wel even in een nieuwe thread om hier niet teveel offtopic te gaan.

[Rogier]

Hoe zou dat zomaar in geprogrammeerde software terecht kunnen komen wanneer dat er niet door die wetenschappers zelf ingestopt is?

Vind je dat John Conway al het complexe gedrag van dit soort patronen in zijn spelletje Life heeft gestopt? (wat uit niet meer bestaat dan 4 zeer simpele regeltjes)

[HeavenOnEarth]

Evolutie is een proces, niet een wezen.

Wetenschap, de wetenschappelijke methode en de techniek zijn ook de producten van een empirische evolutie. Theorieën en technologieën worden getoetst binnen de werkelijkheid en verworpen of aangepast wanneer er geen ‘fit’ is tussen de omgeving en de theorie of de toepassing. Je kan de robot opvatten als een product van de evolutie van de menselijke cultuur en natuur.

Wij zijn gevoel/emotie. Wij zijn niet een wezen waar emotie/gevoel door een ander wezen erin is gestopt. Bovendien lijk je mijn punt te missen: de robots kennen ten enemale geen emotie, omdat dat in de software niet aanwezig is, tenzij de makers van hen dat erin zouden hebben gestopt.

Onze genen kennen ook geen blijdschap, verveling, heimwee of pleinvrees.

Als je goed nadenkt over je inspanningen en beijveringen, je dromen, je wensen, al je motieven bij alles wat je doet, dan is het alfa en omega daarvan: emotie en gevoel, passie, en niet te vergeten empathie (waar onze moraal op is gefundeerd (en ook dat inleveingsvermogen is weer iets wezenlijks anders dan het ' programmaatje-zonder-meer' volgens welke de robots 'moreel' handelen)

NOOIT kan zich dat ontwikkelen vanuit software die alleen maar calculatieve berekening is, en bovendien een kant en klaar produkt vormt van een wezen dat inderdaad vele tienduizenden jaren van evolutie aan zijn ontsaan vooraf heeft liggen.

Een robot bestaat uit meer dan alleen software. Net zoals een emotie een fysiek component heeft, heeft de software hardware nodig om op te draaien.

Welke aanwijzingen heb je voor de stelligheid waarmee je uitsluit dat een kunstmatig wezen ooit menselijke emoties/ inlevingsvermogen /gastvrijheid/hartelijkheid op een menselijke manier zal beleven? Wat staat er principieel in de weg van een kunstmatige configuratie van hard- en software met menselijke gevoelens?

[theoriegeladen]

Wat een onzin. In 2133 laat je het huis affikken. Je kloont 60 bouwvakkers en een familie en klaar is kees. Mij moraal is bepaald door het dagelijks sterftecijfer in Afrika. Klonen hebben rechten of dieren hebben geen rechten!

En trouwens, knappe brandweerman als hij het verschil ziet. En als hij het verschil wel ziet, zijn het slechte klonen.

Ze kunnen beter een tijdmachine maken voordat het 2133 is, want zo wordt het nooit wat.

[Adpruys]

En hoe zit het met wildvreemde mensen versus een robot waar je al 10 jaar mee bent bevriend?

Tja, wat is leven?

En in plaats van leven als criterium te gebruiken, vind je het ook redelijk om naar het bewustzijnsniveau te kijken? (los van de vraag hoe je die bij een ander mens, dier of robot kunt bepalen)

ik mag aannemen dat je zelf gered zou willen worden als jeje in een brandend huis bevindt. Wat is het beste objectieve criterium van verwantschap waarop je aanspraak kunt maken gered te worden en niet de kat van de buren of de computer? De brandweerman kan wel gissen dat je een hoger bewustzijnsnivo bezit maar de waarde die hij zichzelf als mens toekent zal hem, van nature, doen besluiten een ander mens te redden.

De gedachte hierachter is bijvoorbeeld aanwezig in het spreekwoord "wat gij niet wilt wat u geschiedt, doet dat ook een ander niet" .

[Rogier]

Bovendien lijk je mijn punt te missen: de robots kennen ten enemale geen emotie, omdat dat in de software niet aanwezig is, tenzij de makers van hen dat erin zouden hebben gestopt.

Dat laatste zou dan natuurlijk ook het geval zijn. Althans de basisvoorwaarden waardoor er emoties kunnen ontstaan - het is natuurlijk niet zo dat de makers er letterlijk verdrietige of vrolijke buien in programmeren. Net zoals de makers van een schaakcomputer niet letterlijk de zetten hebben geprogrammeerd die de schaakcomputer doet.

Die robots zijn en blijven een plan van ons, een idee van ons, en alleen daarom zullen het nooit gelijkwaardige wezens worden. Wij zijn hun schepper, hun god.

Vreemd... Want kinderen, wat uiteindelijk ook onze 'producten' zijn, beschouwen we op den duur wel als gelijkwaardig.

NOOIT kan zich dat ontwikkelen vanuit software die alleen maar calculatieve berekening is, en bovendien een kant en klaar produkt vormt van een wezen dat inderdaad vele tienduizenden jaren van evolutie aan zijn ontsaan vooraf heeft liggen

Kennelijk sluit je uit dat de processen in onze hersenen uiteindelijk ook alleen maar calculatieve berekeningen zijn.

Wat betreft die tienduizenden jaren van evolutie: als je kijkt naar de ontwikkeling van het leven, hoe veel tijd ging er dan gemiddeld overheen voordat de complexiteit of intelligentie van het leven verdubbelde? Ik denk aanzienlijk meer dan de 18 maanden die computers erover doen. Wat dat betreft kun je een halve eeuw technische ontwikkeling best vergelijken met een paar honderd duizend jaar evolutie.

Kunnen we het daar niet eens over hebben, in plaats van over robots die alleen maar zullen kunnen doen, wat wij in hun software planten?

Nee, want daar stap je veel te makkelijk overheen. Mensen doen ook alleen maar wat er in hun hersens geprogrammeerd zit. Het verschil is alleen dat onze "software" veel geavanceerder is. Het wachten is dus slechts totdat we de software in robots net zo geavanceerd hebben gekregen.

[dekale]

In het geval dat een robot gemaakt kan worden die op een zelfde bewustzijnsniveau zit als de mens kan men er volgens mij niet omheen om die robot dan dezelfde rechten te geven als die de mens heeft.

De vraag of de emotie is geprogrammeerd, is denk ik niet relevant, daar de topicstarter ervan uit gaat dat de robot hetzelfde is qua bewustzijn als de mens.

Emoties als liefde, haat etc. zijn mijn inziens ook iets dat zich moet ontwikkelen bij mensen vanaf de geboorte.

De basis is er, maar moet verder nog uitgebouwd worden. Als een kind bijvoorbeeld geen tot weinig liefde ontvangt van de ouders zal het later zeer waarschijnlijk ook moeite hebben deze emotie ten volle te kunnen benutten.

Bij een robot zal dit dan niet anders moeten zijn, de basis software is er, maar de robot moet nog leren hoe dit te gebruiken.

Belangrijk zal denk ik ook zijn dat de robot zich er niet van bewust is dat het (hij/zij?) een kunstmatige oorsprong heeft. Indien de robot zich hiervan wel bewust is kan het dan nog wel als een gelijke gezien worden?