AI en morele bejegening

[ypsilon]

In die zin is een robot namelijk helemaal niet vrij om zelf tot conclusies te komen gezien het gebonden is aan de manieren van data verzenden.

Wij zijn ook gebonden aan de verwerkingsmechanismen en capaciteit van onze hersenen...

De robot zoals jdr die beschrijft zou in theorie op dezelfde hoogte moeten staan als de mens. Het volledig begrip van waar de emoties precies vandaan komen hebben we bij de mens ook niet. Toch wil ik het volgende opwerpen: misschien is deze robot meer vervangbaar dan een mens? Is er de mogelijkheid ergens een back up te maken van zijn brein, en is dit ook gebeurd, dan is het de meest logische keus eerst de mens uit de brand te redden... Of niet?

[Rogier]

Is er de mogelijkheid ergens een back up te maken van zijn brein, en is dit ook gebeurd, dan is het de meest logische keus eerst de mens uit de brand te redden... Of niet?

Inderdaad, daar dacht ik ook aan. Dan is de keuze natuurlijk evident, maar ik neem aan dat de vraag zo bedoeld was dat die twee "robot-individuen" echt verloren zouden gaan.

[ypsilon]

Laat ons dan hopen dat aan de robots uiterlijk geen verschil met een mens te zien is... Anders zie ik een nieuwe vorm van discriminatie opduiken: de mens houdt nogal vast aan zijn plaatsje als "koning van de schepping".

[Don Quichot]

Wij zijn ook gebonden aan de verwerkingsmechanismen en capaciteit van onze hersenen...

Dat was ook ene punt wat ik probeerde te maken (zij het dat een robot vastgelegde beperkingen zal kennen gezien wij de robot geprogrammeerd hebben).

De robot zoals jdr die beschrijft zou in theorie op dezelfde hoogte moeten staan als de mens. Het volledig begrip van waar de emoties precies vandaan komen hebben we bij de mens ook niet. Toch wil ik het volgende opwerpen: misschien is deze robot meer vervangbaar dan een mens? Is er de mogelijkheid ergens een back up te maken van zijn brein, en is dit ook gebeurd, dan is het de meest logische keus eerst de mens uit de brand te redden... Of niet?

Goed punt, maar de laatste backup hoeft niet per se op dat moment gemaakt te zijn. Los daarvan zijn het ook de fysieke mankementen die een wezen maken tot wat het is. Dat werkt ook de vraag op wat we moeten backuppen; de harde schijf of het vaste geheugen van de hardware (of beide). Maar als we dat gaan doen komen we op het punt dat een kunstmatig intelligent wezen voor zichzelf foute bewerkingen heeft gemaakt om te kunnen functioneren met fysieke afwijkingen.

In die zin is het misschien af te raden om backups te maken. Of zeg ik nu rare dingen. Het doet me overigens wel tot een andere gedachte komen die ik nog even voor me houdt ten bate van de discussie.

p.s. Dit is een ethische discussie. Ik stuur Veertje een p.m. voor een verplaatsing.

[jdr]

p.s. Dit is een ethische discussie. Ik stuur Veertje een p.m. voor een verplaatsing.

Heb hier zelf ook over getwijfeld, maar in 'ethiek' zou deze discussie een kant opgaan waarin ik hem niet bedoeld heb.

De ethische kant is wat mij betreft het middel niet de hoofdlijn.

[Don Quichot]

Wat is dan wel de hoofdlijn? Ik heb dit namelijk verkeerd opgevat blijkbaar.

[ypsilon]

Is het robotbrein te verplaatsen naar een ander lichaam? Als de robot voldoet aan alle kenmerken (behalve dan de manier van voortplanten e.d.) die een mens constitueren moeten we ervan uitgaan van niet: ook wij zijn onlosmakelijk verbonden met ons lichaam.

Dat was ook ene punt wat ik probeerde te maken (zij het dat een robot vastgelegde beperkingen zal kennen gezien wij de robot geprogrammeerd hebben).

In dit topic maak ik al een opening in die richting. Als een artificieel intelligent wezen een artificieel intelligent wezen maakt (etc. etc.) dan is het mogelijk dat deze beperkingen op den duur uitgevlakt worden, in zoverre zelfs dat de robot minder beperkingen zal ervaren dan wijzelf.

Het probleem lijkt mij dus nog steeds hetzelfde:

Laat ons dan hopen dat aan de robots uiterlijk geen verschil met een mens te zien is... Anders zie ik een nieuwe vorm van discriminatie opduiken: de mens houdt nogal vast aan zijn plaatsje als "koning van de schepping".

Maar wordt in mijn hoofd ondertussen zelfs nog iets uitgebreider: als de robots tussen en met ons leven, wat zal een robot-brandweerman dan doen - er vanuit gaande dat Asimovs wetten niet ingebakken zijn?

Wat is dan wel de hoofdlijn? Ik heb dit namelijk verkeerd opgevat blijkbaar.

En ik ook, lijkt me [rr]

[jdr]

Wat is dan wel de hoofdlijn? Ik heb dit namelijk verkeerd opgevat blijkbaar.

De rode lijn waar ik deze discussie naar toe had willen drukken is de volgende:

Aan welke voorwaarden moet een 'bewustzijn' voldoen om het dusdanig aan het menselijk bewustzijn gelijkwaardig te mogen noemen dat wij er zelfs ons menselijk ethische stelsel mee zouden delen?

Is het bijvoorbeeld voldoende wanneer een kunstmatige intelligentie kan benoemen dat hij pijn heeft omdat hij kennelijk een intern proces waarneemt dat hem waarschuwt voor mogelijke verwondingen en te ondernemen acties?

Wat maakt in dat geval zijn 'pijn' anders dan onze 'pijn'?

[ypsilon]

Als ik mijn voet stoot en jij doet dat ook, dan zullen we beide zeggen dat we pijn ervaren. Of dit werkelijk dezelfde pijn is, kunnen we niet weten. We kunnen hooguit aantonen dat dezelfde centra in het zenuwstelsel geactiveerd worden, maar ik zal nooit weten of jouw gewaarwording dezelfde is als die van mij, en omgekeerd. Welke reden hebben we dan om aan te nemen dat de robot-pijn fundamenteel zou verschillen van de onze?

Volgens mij gaat deze redenering op voor alles wat we als bewustzijn zouden kunnen bestempelen. Is dit dan ook niet een beetje ethiek? de vraag of deze robots fundamenteel anders zouden zijn dan wij?

[Adpruys]

De twee vragen die je stelt lijken me bijzonder makkelijk te beantwoorden en niet bepaald een dilemma. Aangezien het machines zijn zullen ze als minderwaardig worden beschouwd en de brandweerman (typisch een functie die eigenlijk door zo'n robot zou moeten worden uitgevoerd) dient natuurlijk de mens te redden. ook kunnen we ervan uitgaan dat de makers, verkopers en eigenaren verantwoording verschuldigd zullen zijn voor de nadelen die ze brengen.

[ypsilon]

Ga je daarmee niet wat kort door de bocht? Ze zijn uiterlijk volledig als mensen, ze vallen eerder te kwalificeren als machinale mensen dan als machine, ze zijn niet door de mens voorgeprogrammeerd. Is de stelling die je inneemt dan niet enkel gedreven door het sentiment dat wij daarboven staan. En zal de robot-brandweerman dan ook niet een dergelijk sentiment koesteren en eerst de andere robots redden?

[Adpruys]

Met "je" bedoelde ik topicstarter.

Als brandweermanrobotten andere robotten gaan redden dienen ze subiet vernietigd te worden en de eigenaar aansprakelijk gesteld (die het eventueeel bij de leverancier kan verhalen)

Het verwondert me een beetje. Deze discussie door deze intelligente mensen

[ypsilon]

Neem even aan (zoals in de opening van het topic min of meer wordt gesteld) dat deze robots bijna volledig menselijk zijn. Ze zijn niet gemaakt om brandweeropdrachten uit te voeren, ze hebben ervoor gekozen. Ze zijn autonoom en geen eigendom...

[Adpruys]

Waarom zou iemand autonome machines willen maken die aan niemand verantwoording verschuldigd zijn?

Ik ben voor een hoge mate van vrijheid, maar dit gaat me toch te ver om toe te staan.

[Rogier]

De twee vragen die je stelt lijken me bijzonder makkelijk te beantwoorden en niet bepaald een dilemma. Aangezien het machines zijn zullen ze als minderwaardig worden beschouwd

Maar als machines volledig hetzelfde gedrag, scala aan emoties, beleving, enzovoort vertonen als de mens, rijst dan niet de vraag of de mens in feite niet ook gewoon een machine zou kunnen zijn? (maar dan uit biologische/organische onderdelen opgebouwd i.p.v. chips en printplaten)

ook kunnen we ervan uitgaan dat de makers, verkopers en eigenaren verantwoording verschuldigd zullen zijn voor de nadelen die ze brengen.

Gedurende de hele bestaansperiode van de robot, of slechts totdat de robot een bepaalde mate van volwassenheid/zelfstandigheid heeft bereikt?

En waarom werkt dat anders bij menselijke nakomelingen? Ouders zijn slechts beperkt verantwoordelijk voor hun kinderen totdat die volwassen zijn. Waarom zou dat voor een autonome robot niet ook kunnen gelden?

Let wel, we hebben het hier over een complexe entiteit die leert, communiceert, en intelligentie, emoties, creativiteit en interactie vertoont op menselijk niveau. Niet over een keukenmixer.

Het verwondert me een beetje. Deze discussie door deze intelligente mensen

Wie weet zitten er wel een paar robots tussen

Maar waarom verwondert het je precies? Vind je het zo vreemd, eng of onvoorstelbaar dat we ooit dingen kunnen maken die onszelf evenaren?

Waarom zou iemand autonome machines willen maken die aan niemand verantwoording verschuldigd zijn?

Om dezelfde reden als waarom mensen andere autonome mensen willen maken die aan niemand verantwoording verschuldigd zijn.

Ik ben voor een hoge mate van vrijheid, maar dit gaat me toch te ver om toe te staan.

Het is niet zozeer een kwestie van toestaan, maar van ervoor kiezen. Vooropgesteld dat we het technisch gezien ooit kunnen, dan kunnen we t.z.t. bepalen of we zulke robots ook werkelijk willen maken ja of nee. Maar daar gaan we in deze discussie even vanuit, zie de eerste 3 woorden van jdr bovenaan.