Artificial Intelligence AI

[WillemB]

Het algoritme van een schaak programma is niet zo ingewikkeld,
Het rekent veel zetten uit, en indien mogelijk vergelijkt het met eerdere
Gespeelde partijen. Dat kan een mens ook prima, maar heeft meer tijd nodig.

Als er dus op tijd gespeeld moet worden , ja dan wint een programma altijd,
Een programma hoeft maar 1 taak te doen, en een mens heel veel andere zaken erbij.

[Xilvo]

Het algoritme van een schaak programma is niet zo ingewikkeld,
Het rekent veel zetten uit, en indien mogelijk vergelijkt het met eerdere

Een computer als AlphaGo Zero werkt totaal anders en leerde zich go spelen door heel veel partijen tegen zichzelf te spelen.

[WillemB]

Het principe blijft steeds hetzelfde, een bak electronica, die continue met
Eenen en nullen schuift, totdat de nodige data geordend is zoals opgedragen.
En dat op de juiste manier presenteert zodat wij krijgen wat we wilden.

Inderdaad kan je ook bijv eeen schaak comp. Tegen zichzelf laten spelen zodat,
Er een werkbare database beschikbaar komt , waar dan snel in gezocht kan worden
Naar de beste resultaten, als voorwerk.

[Xilvo]

Het principe blijft steeds hetzelfde, een bak electronica, die continue met
Eenen en nullen schuift, totdat de nodige data geordend is zoals opgedragen.

Principieel niet anders dan hoe onze hersens werken.

[WillemB]

Het principe blijft steeds hetzelfde, een bak electronica, die continue met
Eenen en nullen schuift, totdat de nodige data geordend is zoals opgedragen.

Principieel niet anders dan hoe onze hersens werken.

Inderdaad, daarom zou het best kunnen dat wij toch in een simulatie zitten.
Alleen hoe ontdek je dat …,

voorlopig blijft AI omgeven door veel commerciele prietpraat terwijl het nog
Steeds die domme bak electronica is zonder bewustzijn.

[irArjan]

Het principe blijft steeds hetzelfde, een bak electronica, die continue met
Eenen en nullen schuift, totdat de nodige data geordend is zoals opgedragen.

Er zijn hele discussies te vinden over vrije wil en of dat wel of niet bestaat. Kijk/lees eens wat van Robert Sapolsky (een neurowetenschapper). Hij beweert dat zo ongeveer alles wat je doet afhankelijk is van al bestaande patronen in je hersenen en dat je daardoor dus geen 'vrije' beslissingen kan maken.

Persoonlijk vind ik dit een te beperkte (triviale) definitie van 'vrije wil' (laten we die discussie niet hier voeren), maar ik kan niet ontkennen dat heel veel beslissingen en/of keuzes die je maakt meer/grotendeels bepaald wordt door je ervaringen/kennis uit het verleden dan dat je op dat moment een 'vrije' keuze maakt, net zoals als een computer dus...

Inderdaad, daarom zou het best kunnen dat wij toch in een simulatie zitten.
Alleen hoe ontdek je dat …,

Dit heeft er niks mee te maken. Dit is ongeacht of we in een simulatie zitten of niet.

[vijv]

voorlopig blijft AI omgeven door veel commerciele prietpraat terwijl het nog
Steeds die domme bak electronica is zonder bewustzijn.

Dat hangt natuurlijk af van je definitie van domheid. Een ding staat vast AI is enorm sterk in patroonherkenning, maar erg zwak in verbanden leggen.

[irArjan]

Ik werk er regelmatig mee. Niet intelligent maar de output is gewoon vaak beter dan die van mensen. Het is uitgebreider, preciezer en accurater op heel veel domeinen. Dat is ook logisch, omdat er zoveel data in gegooid wordt versus de beperkte menselijke capaciteit om zaken te onthouden en informatie op te slaan.

Er is een verschil tussen kennis en intelligentie. Ik denk dat LLMs wel goed zijn in het samenvatten van grote hoeveelheden tekst (dat lijkt me de belangrijkste toepassing voor LLMs). Dat is prima, maar dat is geen intelligentie. Op basis van die gegenereerde tekst zelf conclusies trekken (dus tot nieuwe inzichten komen, iets wat niet in de trainingsdata zit) gaat mis.

In mijn optiek niet. Pak een simpel voorbeeld van een rijmpje maken op shakesperiaanse wijze, en chatgpt doet het beter. Ik kan nog vele voorbeelden noemen. Ik vind het in de meeste gevallen superieur en betrouwbaarder. Maar dat is uiteraard mijn mening.

Het grootste probleem dat ik met LLMs heb is dat ze agnostisch zijn voor wat betreft consistentie en feiten. Er zit geen zelfcorrigerend mechanisme in dat kan checken of wat het zelf zegt enigszins hout snijdt of niet, of dat het consistent is met wat het eerder beweerde of met andere delen van zijn 'kennis'. Het kent geen logica. Als het iets zegt dat correct is, is dat meer geluk dan wijsheid. Natuurlijk is dit 'correct zijn' een stuk waarschijnlijker gemaakt door de trainingsdata en natuurlijk zijn er een hoop gevallen dat 'correct' overeen komt met 'statistisch meest waarschijnlijk', dat is het hele doel van trainen. Maar dat is gewoon geen intelligentie, dat is samenvatten. Dat heeft zeker zijn nut.

Maar daarmee zijn LLMs ook sterk afhankelijk van de trainingsdata die je erin stopt. Het blind laten 'eten' van wat er op internet staat gaat niet goed, daar moet een of ander filter in dat de trainingsdata weegt (bijvoorbeeld re-enforcement learning). Daarmee boots je wat intelligentie na, maar dat is niet zelf intelligentie. En daarmee komen alle biases de LLMs binnen.

Samenvattend: ik vertrouw LLMs gewoon niet. Het bootst intelligentie na, soms op overtuigende wijze, maar het is gewoon niet hetzelfde. Het kan zijn dat ik een vraag stel die zo goed vertegenwoordigd is in de trainingsdata dat je het goede antwoord krijgt, maar dat is niet gegeven. En er is geen enkele manier om dat te weten. En het ding heeft geen enkele vorm van zelfreflectie.

[R_Bena]

Op basis van die gegenereerde tekst zelf conclusies trekken (dus tot nieuwe inzichten komen, iets wat niet in de trainingsdata zit) gaat mis.

Zoveel anders is dat bij mensen ook niet hoor. Men papegaait vaak gewoon dingen na, met het idee of de claim een origineel en eigen standpunt in te nemen, terwijl het gewoon (onbewust) bepaald wordt door de omgeving en de input die ze krijgen.

Het grootste probleem dat ik met LLMs heb is dat ze agnostisch zijn voor wat betreft consistentie en feiten. Er zit geen zelfcorrigerend mechanisme in dat kan checken of wat het zelf zegt enigszins hout snijdt of niet

Ook dit is bij veel mensen niet veel anders. Hoe vaak komt het voor dat mensen bij hun standpunt blijven, ondanks dat alle feiten en empirie erop wijzen dat ze verkeerd zitten.

Samenvattend: ik vertrouw LLMs gewoon niet.

Er is een hoop voor verbetering vatbaar, zeker, en soms past het gewoon een mouw aan zaken, maar zijn mensen dan altijd te vertrouwen? Zijn politici te vertrouwen? Zijn ondernemers met hun commerciële belangen te vertrouwen in hun communicatie? Zijn de media te vertrouwen? Zijn je vader en moeder te vertrouwen met hun advies, in de zin dat ze van een andere generatie komen en vaak geen benul hebben van de problemen waar jij mee kampt vergeleken met die van hun tijd?

Er zijn imo vele redenen te benoemen om net zo voorzichtig te zijn met de info die van mensen komt als de info die van LLM's komt:

1) mensen zijn een product van hun omgeving en worden vaak beïnvloed door vastgeroeste sociale, hiërarchische en maatschappelijke structuren, die vaak een beperking vormen en voor een nauwe view op zaken zorgen.

2) ze hebben te maken met coping/afweermechanismen. Mensen met een échte wetenschappelijke mindset zijn op zoek naar waarheid én durven tot unconvenient of zelfs verontrustende conclusies te komen over de werkelijkheid. Maar veel mensen zitten niet zo in elkaar. Ze zijn wel op zoek naar zingeving en waarheid, maar doen er alles aan om ongunstige waarheden die hen pijn doen te vermijden. Ze ontvluchten de werkelijkheid en waarheid in plaats van dat ze ermee geconfronteerd willen worden.

3) mensen hebben een beperkt geheugen en opslagcapaciteit. Heel weinig data gaat erin, nog minder data wordt onthouden.

4) mensen hebben een sterke neiging tot 'geloven', en daar valt in mijn optiek ook ideologie onder, want dat beschouw ik ook als religie. Politieke discussies bijvoorbeeld, hebben vaak niets met wetenschap of waarheid te maken, maar alles met persoonlijke- of groepsbelangen, en waar men in gelooft of in wil geloven. Wat er wordt geroepen of gezegd is dus per definitie gebiast. Je wilt objectieve informatie horen om de optimale beslissing te kunnen nemen, geen subjectieve hoog-emotionele flauwekul die gebaseerd is op eigen belangen en ideologisch gekleurde visies.

En ik kan nog een hoop zaken noemen die de objectiviteit van menselijke informatie vertroebelt, zoals dat wie iets zegt voor mensen vaak belangrijker is dan wat er gezegd wordt en dat daar meer waarde aan wordt gehecht, ook al is het onwaar, dat mensen verre van alles zeggen wat ze eigenlijk zouden willen zeggen vanwege hiërarchische structuren, de angst om gestraft te worden, acceptatie willen krijgen, etc.

Ook is de menselijke geest vaak niet logisch. Er worden dikwijls conclusies getrokken die op het eerste gezicht logisch klinken of lekker vallen, maar als je dieper graaft, de data erbij pakt etc., blijkt er niks van waar te zijn en zitten de redeneringen heel krom in elkaar.

Ik ben het wel met je eens dat er nog geen sprake is van 'echte' intelligentie bij LLM's, maar we moeten de intelligentie van mensen ook weer niet overschatten.

[Xilvo]

Ik ben het wel met je eens dat er nog geen sprake is van 'echte' intelligentie bij LLM's, maar we moeten de intelligentie van mensen ook weer niet overschatten.

Mensen kunnen tenminste goed en logisch denken, al doen ze dat zelden. De huidige AI klets vaak maar wat raak en alle echte kennis komt uit bronnen, niet uit AI zelf.

Ik ben niet blij met AI. Niet om de AI zelf maar wegens al de mensen die er veel te veel op (kunnen gaan) vertrouwen.

[HansH]

Zoveel anders is dat bij mensen ook niet hoor. Men papegaait vaak gewoon dingen na, met het idee of de claim een origineel en eigen standpunt in te nemen, terwijl het gewoon (onbewust) bepaald wordt door de omgeving en de input die ze krijgen.

Dit vind ik wel een leuke. De mens papagaait na en charGPT ook dus is de mens niet intelligenter dan chatGPT?
het grote verschil is denk ik dat de mens na papagaait omdat er een nivo tje hoger een voordeel mee te behalen is bv omdat je er dezelfde mening over hebt of omdat je er op een of andere manier voordeel uit kunt halen.

charGPT papagaait na omdat het gewoon te dom is om zelf na te kunnen denken en alleen maar op elkaar lijkende zaken kan groeperen.

en dat is nu net het essentiele verschil tussen mens en machine. zolang chat GPT geen bewustzijn heeft en echt kan denken zoals een mens hoeven we ons geen zorgen te maken.

Waar ik me wel zorgen over maak zijn quantum computers als die echt gaan doen wat we denken. Dat lijkt veel meer op parallel processing zoals onze hersenen doen, dus de kans dat quantum computers bewustzijn gaan ontwikkelen lijkt me aanwezig als er heel veel dingen parallel kunnen. en dan is helaas voor on het einde zoek.

[HansH]

Dus ik denk dat de mens ervoor moet waken om dit soort gevaren op tijd te zien en te elimineren. Dan maar geen quantum computers. of in ieder geval zorgen dat ze geen fysieke kracht eraan gekoppeld krijgen zodat we in ieder geval altijd zelf de stekker eruit kunnen trekken.

[R_Bena]

Dit vind ik wel een leuke. De mens papagaait na en charGPT ook dus is de mens niet intelligenter dan chatGPT?

Chatgpt papegaait ook na, maar ik heb liever dat er na wordt gepapegaaid op basis van enorm veel data om de meest waarschijnlijke uitkomst te krijgen, dan dat één iemand met een volkomen subjectieve visie iets napepapegaait waarna mensen dat voor waarheid aannemen.

Ik heb overigens nooit beweerd dat de mens niet intelligenter is, slechts dat de output van chatgpt vaak zuiverder en accurater is dan die van de gemiddelde mens, in tegenstelling tot wat de media ons willen doen geloven.

het grote verschil is denk ik dat de mens na papagaait omdat er een nivo tje hoger een voordeel mee te behalen is bv omdat je er dezelfde mening over hebt of omdat je er op een of andere manier voordeel uit kunt halen.

Ja, ook, maar mensen papegaaien ook na zonder dat ze het doorhebben.

charGPT papagaait na omdat het gewoon te dom is om zelf na te kunnen denken en alleen maar op elkaar lijkende zaken kan groeperen.

Als de uitkomst betrouwbaarder is of wordt, dan is het superieur. Wat maakt het uit welke weg je naar Rome neemt?

en dat is nu net het essentiele verschil tussen mens en machine. zolang chat GPT geen bewustzijn heeft en echt kan denken zoals een mens hoeven we ons geen zorgen te maken.

De discussie gaat ook niet om zorgen maken toch. Er is al voldoende om ons zorgen te maken op basis van informatie en desinformatie van mensen, waarop bijvoorbeeld complete oorlogen worden gevoerd.

Waar ik me wel zorgen over maak zijn quantum computers als die echt gaan doen wat we denken. Dat lijkt veel meer op parallel processing zoals onze hersenen doen, dus de kans dat quantum computers bewustzijn gaan ontwikkelen lijkt me aanwezig als er heel veel dingen parallel kunnen. en dan is helaas voor on het einde zoek.

Helaas of gewoon part of (technologische) evolutie? Heeft er iemand medelijden met dinosaurussen?

[HansH]

ok, maar we hebben het toch over kunstmatige intelligentie. in mijn ogen is dat dan bewustzijn en daarnaar handelen. enorm veel data processen kan de domste computer ook al, maar is niet intelligent. en weet vooral ook niet wat die aan het doen is.

[HansH]

Ja, ook, maar mensen papegaaien ook na zonder dat ze het doorhebben.

Voor sommige mensen zou je inderdaad bijna de neiging hebben om ze te degraderen tot niet intelligente wezens. het 'niet door hebben' zou dan best wel eens een stukje 'even uitgeschakeld en dus niet bewust meemaken' kunnen zijn. bijna bewusteloos dus. onder narcose ben je waarschijnlijk ook niet meer intelligent.