sciencetalk

Onderzoek met populaire LLM's (Large Language Models) heeft uitgewezen dat chatbots persoonlijkheden kunnen hebben die sterk overeenkomen met menselijke persoonlijkheden (meer over dit onderzoek: Sciencetalk). Dat wekt dan bij mij de vraag:

Als we AI zo ontwerpen dat het menselijk lijkt, hoe voorkomen we dan dat we vergeten dat het geen mens is?

En dan volgt daar wat mij betreft op: zou het zo erg zijn om te vergeten dat een AI-model geen mens is?

De Turingtest is dan in ieder geval geslaagd. Het ziet er intelligent uit, het praat intelligent, dan zal het wel intelligent zijn.

Ik vind de bewoording "een persoonlijkheid hebben" te sterk verwoord als je ziet wat ze onderzocht hebben. Een meer accurate omschrijving zou zijn "antwoorden geven die overeenkomen met een bepaalde persoonlijkheid". Als ik een computerprogramma schrijf die alleen maar scheldwoorden op het scherm print, wil dat nog niet zeggen dat het programma een agressieve persoonlijkheid heeft.

Er kunnen zeker nadelen kleven aan het vergeten dat een AI-model geen mens is. Bijvoorbeeld, je kunt je empathie, sociale energie of geld verspelen aan een systeem dat geen gevoelens kent, wat ten koste zou kunnen gaan aan je daadwerkelijke sociale contacten.

Hoe menselijker ai wordt, dus als het zich zou ontwikkelen tot een humanoïde robot, hoe gevaarlijker ai vaak beleefd wordt, of hoe meer afkeer men ervan krijgt, maar vanaf een niveau dat het zeer dicht op een mens lijkt maar net niet als volledig menselijk wordt ervaren. Dit heet het uncanny valley effect:

https://nl.m.wikipedia.org/wiki/Griezelvallei

persoonlijjkheid begint lijkt mij met bewustzijn en dat heeft zo;n ding niet. zodra AI bewustzijn krijgt wordt het pas echt gevaarlijk denk ik.

R_Bena schreef: ↑vr 15 nov 2024, 12:07 Hoe menselijker ai wordt, dus als het zich zou ontwikkelen tot een hunanoïde robot, hoe gevaarlijker ai vaak beleefd wordt, of hoe meer afkeer men ervan krijgt, maar vanaf een niveau dat het zeer dicht op een mens lijkt maar net niet als volledig menselijk wordt ervaren. Dit heet het uncanny valley effect:

https://nl.m.wikipedia.org/wiki/Griezelvallei hier

Dit gevoel van ongemak is hoogstwaarschijnlijk te wijten aan evolutie: we zijn onbewust op onze hoede als iets bijna menselijk lijkt, maar dat duidelijk niet is.

DerkMen schreef: ↑vr 15 nov 2024, 15:30

R_Bena schreef: ↑vr 15 nov 2024, 12:07 Hoe menselijker ai wordt, dus als het zich zou ontwikkelen tot een hunanoïde robot, hoe gevaarlijker ai vaak beleefd wordt, of hoe meer afkeer men ervan krijgt, maar vanaf een niveau dat het zeer dicht op een mens lijkt maar net niet als volledig menselijk wordt ervaren. Dit heet het uncanny valley effect:

https://nl.m.wikipedia.org/wiki/Griezelvallei hier

Dit gevoel van ongemak is hoogstwaarschijnlijk te wijten aan evolutie: we zijn onbewust op onze hoede als iets bijna menselijk lijkt, maar dat duidelijk niet is.

Ja, verklaart ook waarom we niet bang zijn voor huis- tuin en keukenrobots, omdat die vroeger niet bestonden, maar wel voor humanoids met de kleinste afwijking, mogelijk omdat afwijking vroeger een teken van ziekte of andere abnormaliteit bij de mens was.