AI en morele bejegening

[The Balor]

Stel: de mens maakt de computers zo slim, dat ze op de mens gaan lijken. Hun intelligentie kan zich meten met de onze. Wat dan?

In eerste instantie kun je zeggen dat wij ze hebben gemaakt, dus wij beslissen wat ze wel en niet mogen. Aan de andere kant: als ze een eigen bewustzijn hebben, mogen ze dan niet zelf over hun eigen lot beslissen? Immers, ze zijn zelfstandig en kunnen een eigen leven(tje) leiden.

De vraag: behandelen wij intelligente computers als een van ons, of behandelen wij ze als mindere?

[Rogier]

Op den duur zal het onetisch worden om computers als domme apparaten te behandelen i.p.v. intelligente wezens.

Maar dat zal nog lang duren, het K.I. niveau van onze huidige computers & software loopt echt nog ongelofelijk ver op ons eigen niveau achter.

[wasbeer]

Des te meer redenen om het niet zover te laten komen.

Een intelligente computer zal ook een eigen mening hebben, enz.

Wat je van een ander mens accepteert, duld je niet van een machine. Een apparaat is immers bedoeld om dienstbaar te zijn aan zijn gebruiker. Niemand zit te wachten op een nieuwe concurrent.

[Leuke gast]

Stel: de mens maakt de computers zo slim, dat ze op de mens gaan lijken. Hun intelligentie kan zich meten met de onze. Wat dan?

Wie heeft deze computers hun intelligentie gegeven? Wat voor programma zal er runnen op deze computer? Wie heeft de intelligentie gehad omdit programma te ontwerpen?

zal een neuraal computer netwerk vanzelf een hoog intelligentie niveau krijgen?

zal een neuraal computer netwerk vanzelf kunnen denken zoals een mens?

en dan dit als het gaat om gevoelens:

zal een neuraal computer netwerk vanzelf gevoelens krijgen?

Dit is geprogrammeerd.

zal een neuraal computer netwerk weten hoe deze dan met zijn gevoelens moet omgaan?

Dit is geprogrammeerd.

In eerste instantie kun je zeggen dat wij ze hebben gemaakt, dus wij beslissen wat ze wel en niet mogen.

Hoe ga je deze beperking invoeren? Dan zou je de hele gedachte van deze computer moeten kennen om te kunnen bepalen wanneer deze computer iets wil gaan doen wat WEL/ of NIET mag.

Hier heb je trouwens een heel interessant punt. Wat mag deze computer dan WEL en wat NIET doen?

Aan de andere kant: als ze een eigen bewustzijn hebben, mogen ze dan niet zelf over hun eigen lot beslissen? Immers, ze zijn zelfstandig en kunnen een eigen leven(tje) leiden.

Ik ben van mening dat het onmogelijk is om een computer te maken die een bewust zijn krijgt van een mens. Op welke basis zou hij dan over zijn lot beslissen? Door een bepaalde status van het neurale netwerk, dat een bepaalde output geeft? Met zo'n complex netwerk zal de output van deze computer ook nog eens erg onvoorspelbaar zijn, en niet onder controle te krijgen.

De vraag: behandelen wij intelligente computers als een van ons, of behandelen wij ze als mindere?

Jawel, je kent die tamagoshi, virtual animal

waarschijnlijk zullen er in de toekomst computerspellen komen waarin de makers hun karakters meer gevoel geven. De speler zal meer een (emotionele) band krijgen met deze karakters.

echter weet de speler dat alles geprogrammeerd en met een druk op de knop, staat ie gelukkig weer uit.

In deze topics is hier ook wat over te vinden:

http://sciencetalk.nl/forum/invision/in...?showtopic=4049

http://sciencetalk.nl/forum/invision/in...?showtopic=4389

[The Balor]

en dan dit als het gaat om gevoelens:

zal een neuraal computer netwerk vanzelf gevoelens krijgen?

Dit is geprogrammeerd.

zal een neuraal computer netwerk weten hoe deze dan met zijn gevoelens moet omgaan?

Dit is geprogrammeerd.

Het maakt niet uit dat het geprogrammeerd is; voor de computer is het echt. Wij hebben als mens gevoelens, en die gevoelens komen voort uit onze 'voorgeprogrammeerde' hersenen. Uiteraard ontwikkelen wij onze hersenen tijdens ons leven, maar dat kan een computer ook. Er zijn nu al programma's die de computer zelf laten knutsenen aan een verbindingsysteem, en zo zichzelf kan 'ontwikkelen'.

Hoe ga je deze beperking invoeren? Dan zou je de hele gedachte van deze computer moeten kennen om te kunnen bepalen wanneer deze computer iets wil gaan doen wat WEL/ of NIET mag.

Hier heb je trouwens een heel interessant punt. Wat mag deze computer dan WEL en wat NIET doen?

Je kunt een soort sleutel inprogrammeren, en als je die sleutel opnoemt, stoppen ze met wat ze aan het doen zijn. Als ouder leer je je kinderen ook dingen door ze te laten stoppen met dingen die ze niet mogen doen. Daar leert het kind van. Hetzelfde moet mogelijk zijn bij computers.

Ik ben van mening dat het onmogelijk is om een computer te maken die een bewust zijn krijgt van een mens. Op welke basis zou hij dan over zijn lot beslissen? Door een bepaalde status van het neurale netwerk, dat een bepaalde output geeft? Met zo'n complex netwerk zal de output van deze computer ook nog eens erg onvoorspelbaar zijn,  en niet onder controle te krijgen.

Je gaat mij toch niet vertellen dat het menselijk brein wel voorspelbaar is, toch? Just asking 8) Trouwens, wie zegt dat ons gevoel eigenlijk wel echt is? Als je het mij vraagt is het bewustzijn van een hele geavanceerde computer (dus met een hogere K.I.) net zo echt als het onze.

Echter weet de speler dat alles geprogrammeerd en met een druk op de knop, staat ie gelukkig weer uit.  

De vraag is dus: mogen wij het vermogen hebben om de computer zo te behandelen?

[Leuke gast]

Op den duur zal het onetisch worden om computers als domme apparaten te behandelen i.p.v. intelligente wezens.

Maar dat zal nog lang duren, het K.I. niveau van onze huidige computers & software loopt echt nog ongelofelijk ver op ons eigen niveau achter.

waarom/wanneer zouden we computers als wezen gaan behandelen?

kun je daar een aantal argumenten/voorbeelden over geven?

waar ligt de grens tussen domme computer en intelligente wezens?

Men zal pas een computer als wezen gaan behandelen zodra deze computer een 'echt' gevoel krijgt.

Een gevoel is altijd ingeprogrammeerd door mensen, dus dat zal nooit 'echt' zijn.

Als een computer wordt uitgezet blijven zijn herinneringen bewaard, en als je het daarna weer aanzet kan deze weer gewoon verder gaan waar deze gebleven was.

Laten we eerst onze dieren uit de natuur beschouwen als intelligente wezens. Helaas gebeurd dit zelfs niet, waardoor dier soorten uitsterven.

[Leuke gast]

Het maakt niet uit dat het geprogrammeerd is; voor de computer is het echt.  

Dan zou je kunnen stellen dat Windows XP ook voor de computer 'echt' is.

Wanneer wordt voor een computer iets 'echt'?

Wij hebben als mens gevoelens, en die gevoelens komen voort uit onze 'voorgeprogrammeerde' hersenen.

Daar ben ik niet van overtuigd. Kun je daar argumenten/aanwijzingen voor geven dat onze hersenen zijn 'voorgeprogrammeerd'?

Uiteraard ontwikkelen wij onze hersenen tijdens ons leven, maar dat kan een computer ook. Er zijn nu al programma's die de computer zelf laten knutsenen aan een verbindingsysteem, en zo zichzelf kan 'ontwikkelen'.

Inderdaad een mens krijgt veel informatie in onze hersenen tijdens het leven. Echter ben ik niet van mening dat dit iets met 'ontwikkelen' te maken heeft. 'ontwikkelen' doet eens mens als deze zich bezig houdt met zijn 'ik', met andere woorden 'Wie ben ik?' en 'Wie wil ik zijn?'.

Je kunt een soort sleutel inprogrammeren, en als je die sleutel opnoemt, stoppen ze met wat ze aan het doen zijn. Als ouder leer je je kinderen ook dingen door ze te laten stoppen met dingen die ze niet mogen doen. Daar leert het kind van. Hetzelfde moet mogelijk zijn bij computers.

Dan zou je in sommige gevallen als te laat kunnen zijn als de computer iets verkeerds doet.

een afstandsbediening met de knop 'UIT' zal al heel goed werken.

Je gaat mij toch niet vertellen dat het menselijk brein wel voorspelbaar is, toch? Just asking 8)

Klopt.

Trouwens, wie zegt dat ons gevoel eigenlijk wel echt is?

Ons gevoel is wel echt, kijk maar naar de emoties van mensen om je heen. Je kunt zelf op de gevoelens van mensen inspelen, je kunt mensen een 'goed' gevoel geven.

Als je het mij vraagt is het bewustzijn van een hele geavanceerde computer (dus met een hogere K.I.) net zo echt als het onze.

Kun je daar aanwijzingen of een verklaring voor geven dat dit echt zo is?

De vraag is dus: mogen wij het vermogen hebben om de computer zo te behandelen?

Zodra als een computer een eigen mening begint te vormen en kan uitvoeren zal deze computer gestopt worden. De mens zal deze computer als dreiging gaan zien. De mens zal bang zijn dat deze computer meer macht zal krijgen als een mens.

Gelukkig zal een computer nooit een eigen mening kunnen hebben. De manier hoe een computer functioneerd is door mensen ingebracht, en de output is altijd op basis van statistische en/of programatische bewerking.

[RDLoos]

Men zal pas een computer als wezen gaan behandelen zodra deze computer een 'echt' gevoel krijgt.

Een gevoel is altijd ingeprogrammeerd door mensen, dus dat zal nooit 'echt' zijn.

Wie zegt dat datgene wat jij als echt gevoel ervaart niet is ingeprogrammeerd door mensen. Jij zegt dat computers niet voelen, omdat computers afhankelijk zijn van de input van anderen. Echter, geldt dit niet ook voor levende wezens? Ik denk dat wat wij als zelfbewustzijn ervaren een gevolg is van intelligentie, oftewel de vermogen om verbanden te leggen tussen verschillende zaken en patronen verder door te trekken. Huidige computers kunnen dit echter nauwelijks zelfstandig op het moment en de vraag is of ze dit in de toekomst wel zouden kunnen.

Wanneer een computer in staat zal zijn zelfstandig patronen en verbanden te herkennen en daaruit verdere conclusies kan trekken, bestaat er denk ik wel iets wat wij zelfbewustzijn noemen. De vraag of het ethisch verantwoord is om een computer tegen die tijd als een mindere te ervaren als een mens lijkt mij dus terecht, hoewel ik betwijfel of men computers zo ver kan krijgen. De complexiteit van de hersenen valt nauwelijks te onderschatten en wetenschappelijk kennis over de werking van de hersenen is nog zeer gering.

[Rogier]

Des te meer redenen om het niet zover te laten komen.

Een intelligente computer zal ook een eigen mening hebben, enz.

Is dat niet juist een mooie ontwikkeling?

Wat je van een ander mens accepteert, duld je niet van een machine. Een apparaat is immers bedoeld om dienstbaar te zijn aan zijn gebruiker. Niemand zit te wachten op een nieuwe concurrent.

Waarom zou het geen vriend kunnen worden in plaats van een concurrent? Kan een entiteit met een eigen mening ons niet meer tot dienst zijn, hebben we meer aan domme rekenkrachten? Zou een verstandige, intelligente computer met emoties en eigen wil niet kunnen bijdragen aan onze eigen ontwikkeling?

Ik zou zelfs de vergelijking willen maken tussen toekomstige computers en onze kinderen! Die beschouwen we toch ook niet als concurrent waar we geen eigen wil van dulden? In tegenstelling, dat waarderen we juist.

Verder blijven domme rekenkrachten natuurlijk ook handig (noodzakelijk zelfs) voor het al maar toenemende administratieve rekenwerk in onze informatiemaatschappij, maar als we slimme ('menselijke') computers hebben wil dat niet zeggen dat we geen domme modellen meer kunnen maken.

[Rogier]

waarom/wanneer zouden we computers als wezen gaan behandelen?

kun je daar een aantal argumenten/voorbeelden over geven?

waar ligt de grens tussen domme computer en intelligente wezens?

Dat is natuurlijk geen scherpe grens, maar naarmate wij ons meer kunnen identificeren met de respons die een computer geeft op input die wij hem voeren, denk ik dat we hem meer als intelligent wezen i.p.v. een domme rekenmachine gaan beschouwen.

Als een computer begrijpt wanneer of waarom we ons gelukkig of verdrietig voelen, aangeeft het prettig te vinden om met ons of met andere computers te communiceren, protesteert (met menselijke argumenten) als je hem uit wilt zetten, een karakter heeft en ontwikkelt, begrip en ondersteuning biedt in persoonlijke of ethische kwesties... Hebben we het dan nog over een simpel apparaat??

Men zal pas een computer als wezen gaan behandelen zodra deze computer een 'echt' gevoel krijgt.

Een gevoel is altijd ingeprogrammeerd door mensen, dus dat zal nooit 'echt' zijn.

In welke zin zijn de gevoelens of gedachten die in de hersenen (neuraal netwerk) van een mens voorkomen, 'echter' dan die van een computer?

Hersenen vormen toch in feite ook één groot algoritme? Veel groter en gecompliceerder (en daardoor ondoorgrondelijker) dan de huidige computers, maar toch.

Als een computer wordt uitgezet blijven zijn herinneringen bewaard, en als je het daarna weer aanzet kan deze weer gewoon verder gaan waar deze gebleven was.

Dat dat bij de mens (nog?) niet kan is een slechts een technisch verschil. Misschien kunnen we in de toekomst iemand heel snel invriezen tot dichtbij nul ^oK, een paar jaar op 'pauze' laten staan en daarna weer opwarmen en verder laten leven. Of een hersenscan maken die de complete status van al je neuronen opslaat, en dezelfde 'instellingen' bij een ander stel hersens kan aanbrengen of digitaal kan simuleren.

Laten we eerst onze dieren uit de natuur beschouwen als intelligente wezens. Helaas gebeurd dit zelfs niet, waardoor dier soorten uitsterven.

100% mee eens

[StevenNr1]

Als een computer wordt uitgezet blijven zijn herinneringen bewaard, en als je het daarna weer aanzet kan deze weer gewoon verder gaan waar deze gebleven was.

Dat dat bij de mens (nog?) niet kan is een slechts een technisch verschil. Misschien kunnen we in de toekomst iemand heel snel invriezen tot dichtbij nul ^oK, een paar jaar op 'pauze' laten staan en daarna weer opwarmen en verder laten leven. Of een hersenscan maken die de complete status van al je neuronen opslaat, en dezelfde 'instellingen' bij een ander stel hersens kan aanbrengen of digitaal kan simuleren.

Mja maar als dat zou lukken, die computer heeft dan nog steeds geen zenuwstelsel en een lichaam hé...

[Rogier]

Mja maar als dat zou lukken, die computer heeft dan nog steeds geen zenuwstelsel en een lichaam hé...

Moet dat dan? Het gaat toch om ons denkproces... Nu gebeurt dat toevallig door middel van organische zenuwcellen, maar dat hoeft toch niet de enige manier te zijn waarop menselijke denkprocessen kunnen optreden?

Als je neuronen één voor één zouden worden vervangen door plastic varianten, die weliswaar kunstmatig zijn maar verder hetzelfde werken. En je kunt naderhand nog steeds alles denken, voelen, etc. Dan is dat toch ook menselijk?

[StevenNr1]

Ahja zo... Ik had begrepen dat jullie enkel de hersenen wouden namaken. Maar met wat jij zegt kan je nog steeds iemands hersenen niet oveprlanten hoor, die hersenen zijn helemaal gefinetuned op een lichaam (dus ook vorm, ziektes, ...) dus ik weet het toch niet zo. Het enige wat echt een mens als resultaat zal hebben, volgesn mij alleszins, is klonen.

[Leuke gast]

Wie zegt dat datgene wat jij als echt gevoel ervaart niet is ingeprogrammeerd door mensen.

Dus je bedoeld dat liefde/verdriet/geluk/onvreden/blijdschap door mensen is geleerd?

Ik ben van mening dat dit niet het geval is,

door middel van 3D echo-grafie hebben doktoren al uitdrukkingen op het gezicht van babies in de buik van de moeder waargenomen.

Als gevoel ingeprogrammeerd zou zijn door mensen dan zouden niet alle mensen dezelfde soorten gevoelens hebben.

Het is heel interessant om eens na te denken over welke gevoelens er precies bestaan en waarom we deze gevoelens hebben, en waar ze vandaan komen.

Jij zegt dat computers niet voelen, omdat computers afhankelijk zijn van de input van anderen.

Ik bedoelde hiermee dat de soorten gevoel programmatisch in de computer ingeprogrammeerd zijn door mensen. Dus uiteindelijk bepaald de programmeer welke gevoelens die computer zou kunnen simuleren.

Echter, geldt dit niet ook voor levende wezens?

Inderdaad we hebben onze gevoelens al vanaf de geboorte meegekregen.

Ik denk dat wat wij als zelfbewustzijn ervaren een gevolg is van intelligentie, oftewel de vermogen om verbanden te leggen tussen verschillende zaken en patronen verder door te trekken.

Is dat al bewezen?

Huidige computers kunnen dit echter nauwelijks zelfstandig op het moment en de vraag is of ze dit in de toekomst wel zouden kunnen.

Is dat wel zou? Waarom kunnen computers niks zelfstanding? Als eenmaal iets in een computer is geprogrammeerd blijft hij zelfstandig dit kunstje herhalen. Computers hebben een perfect geheugen, alles blijft precies bewaard. Computers maken nooit fouten. In een computer kan een (zelf)lerend algoritme worden geprogrammeerd, voorbeelden: patroon herkennings, GezichtsHerkenning Software, Handschrift OCR, Spraak Herkennings Software.

Maar ik geloof niet dat een computer als een mens geprogrammeerd zou kunnen worden. een computer zou zich nooit als een mens gedragen.

Wanneer een computer in staat zal zijn zelfstandig patronen en verbanden te herkennen en daaruit verdere conclusies kan trekken, bestaat er denk ik wel iets wat wij zelfbewustzijn noemen.

Zou een computer nu al bewust hebben? Hoe zou een computer zijn bewust zijn tonen?

De vraag of het ethisch verantwoord is om een computer tegen die tijd als een mindere te ervaren als een mens lijkt mij dus terecht, hoewel ik betwijfel of men computers zo ver kan krijgen. De complexiteit van de hersenen valt nauwelijks te onderschatten en wetenschappelijk kennis over de werking van de hersenen is nog zeer gering.

Dat dacht ik ook. Computers blijven voor de fun.

[RDLoos]

Wie zegt dat datgene wat jij als echt gevoel ervaart niet is ingeprogrammeerd door mensen.

Dus je bedoeld dat liefde/verdriet/geluk/onvreden/blijdschap door mensen is geleerd?

Ik ben van mening dat dit niet het geval is,

door middel van 3D echo-grafie hebben doktoren al uitdrukkingen op het gezicht van babies in de buik van de moeder waargenomen.

Als gevoel ingeprogrammeerd zou zijn door mensen dan zouden niet alle mensen dezelfde soorten gevoelens hebben.

Daar zit zeker wat in. Bij nader inzien klopt de stelling dat de mens gevoel waarneemt doordat dit wordt 'ingepregrammeerd' door andere mensen niet. De rol van evolutie laat ik dan onterecht buiten spel. Evolutie is de proces dat - over zeer vele generaties - bepaalde nakomelingen (iets) meer kans hebben op nakomelingen (of meer nakomelingen hebben) dan andere nakomelingen door individuele verschillen veroorzaakt door kleine mutaties. Hierdoor heeft een muis met net iets meer angst jegens katten dan zijn soortgenoten een grotere kans op overleving. gevoelens is dus in dit context iets wat wordt veroorzaakt door evolutie.

Ik denk dat wat wij als zelfbewustzijn ervaren een gevolg is van intelligentie, oftewel de vermogen om verbanden te leggen tussen verschillende zaken en patronen verder door te trekken.

Is dat al bewezen?

Nee en misschien gebeurt dit ook nooit. Ik zei ook 'Ik denk'. Wat ik hier zei is slechts een theorie. Andere zaken zullen wel meetellen in hoe intelligent iets op ons overkomt (zoals geheugen), maar het is gevolgtrekking uit bepaalde patronen wat de meest bepalende is. Kijk maar eens naar de gemiddelde IQ test en zijn vragen. Vaak is het in de trans van: Als A staat tot B, Staat C tot ... of vul de volgende getallenreeks aan. Het dwingt je dus een verband te leggen tussen wat je weet en wat je moet weten. Maar, zoals ik al zei: het is slechts een theorie van mij.

Huidige computers kunnen dit echter nauwelijks zelfstandig op het moment en de vraag is of ze dit in de toekomst wel zouden kunnen

Is dat wel zou? Waarom kunnen computers niks zelfstanding? Als eenmaal iets in een computer is geprogrammeerd blijft hij zelfstandig dit kunstje herhalen.

Ik zeg niet dat computers niks zelfstandig kan. Wanneer eenmaal is ingesteld op welke patronen de computer moet gaan letten en in welke situaties hij deze patronen moet toepassen kan een computer perfect (beter dan een mens) zelfstandig doorgaan. Computers zijn echter niet in staat zelf te bepalen naar welke patronen hij moet zoeken en in welke situaties het gewenst is deze patronen toe te passen. Als ze dit wel zouden kunnen, hoefden we hen enkel de regels van schaken uit te leggen, waarna computers na meerdere partijen vanzelf beter worden doordat er steeds meer patronen worden opgeslagen en het steeds duidelijker wordt wanneer welke patroon toepasbaar is. Dit is echter niet het geval. Al deze patronen moeten eerst worden geprogrammeerd, waarna de computer er nooit eentje bijleert. Leren is dus de meest opvallende consequentie van intelligentie. Wel heb ik grappige programmatjes gezien waarbij de computer wel zelf patronen legde en toepasde, maar de eindresultaat was nooit verbijsterend goed, wel vaak verbijsterend.

Deze proces is dus kennelijk zeer complex en daarom ben ik er niet zeker van dat we deze ooit kunnen simuleren op een computer.

Zou een computer nu al bewust hebben? Hoe zou een computer zijn bewust zijn tonen?

Een computer heeft denk ik nog niets wat lijkt op de zelfbewustzijn van de mens. In de film '2001: A space odyssey' toont de computer Hal zijn zelfbewustzijn door een tegenzin voor de dood en dus door - paradox genoeg - zijn gebrek aan kille logica. Ik denk dat wanneer computers in staat zullen zijn dingen te leren aan de hand van zelfgelegde patronen we kunnen spreken van een levend-gelijkend intelligentie. Alle dieren met een zenuwstelsel kunnen dit al, dus van zelfbewustzijn zoals de mens die kent is er dan nog niet noodzakerlijk sprake. Maar doordat electronica enkele voordelen heeft boven hersenen zal het vanaf dan zeer snel gaan denk ik.