Wat is Informatie ?

[vijv]

@Vijv,



p.s; de dobbelsteen heeft quasi oneindig veen meer informatie, zijn kleur, gewicht, vlakheid, temperatuur, ........ onnoemelijk veel, volgens mij gelimiteerd volgens zijn Planck (zie *) ............... maar volgens mij NIET oneindig veel ........ want twee dobbelstenen hebben er meer !

Als je hier over valt ontgaat je de essentie. De dobbelsteen is hier een metafoor een visualisatie van een systeem dat maar zes toestanden bezit.
Ik heb nog getwijfeld om dit als voorbeeld aan te halen, omdat ik dit soort reacties had verwacht.

Een slecht voorbeeld dus van mij.

[Regor]

@vijv,

Natuurlijk val ik erover, het is niet slecht, maar gewoon fout !

[wnvl1]

Vollediger is dan om te gaan kijken naar de entropie zoals ze gedefinieerd wordt in de informatietheorie. Dan wordt er ook nog rekening gehouden met de kansverdeling.

https://nl.wikipedia.org/wiki/Entropie_ ... ietheorie)

Ik vind het artikel van wikipedia niet zo goed.
Volgens mij is informatie onafhankelijk te definieren van entropie. Entropie is eerder een maat van verborgen informatie.

Entropie was echt wel de kern van heel onze cursus informatietheorie vroeger. We gebruikten het boek Digital and analog communication systems van Sam Shanmugam wat een bekende referentie is. Dat is daar ook volledig op gebaseerd. Daarin wordt het veel diepgaander uitgelegd en toegepast op alle soorten van modulatie.

[vijv]

Entropie was echt wel de kern van heel onze cursus informatietheorie vroeger. We gebruikten het boek Digital and analog communication systems van Sam Shanmugam wat een bekende referentie is. Dat is daar ook volledig op gebaseerd. Daarin wordt het veel diepgaander uitgelegd en toegepast op alle soorten van modulatie.

Natuurlijk is in de informatietheorie entropie een centraal begrip.
Over informatie op zich is er immers niet veel te vertellen volgens mij buiten heoveel informatie een systeem bezit en er behoud van is of niet.

PS was het voorbeeld van de dobbelsteen dan zo onduidelijk?

[wnvl1]

Het voorbeeld van de dobbelsteen is wel duidelijk.

Informatie gaat volgens mij in het algemeen wel niet om het zuiver tellen. Het is eerder hoeveel bits heb je nodig om de toestand van een systeem te specificeren, gegeven het aantal mogelijke toestanden én hun waarschijnlijkheden. Jij zou dus die waarschijnlijkheden eerder weglaten. Voor een meer diepgaande discussie moet je volgens mij vanaf daar niet te veel gaan veralgemenen. Je moet het dan toepassingsgebied per toepassingsgebied gaan bekijken. De insteek gaat dan telkens wat verschillen.

[Regor]

Ik wacht nog steeds naar wetenschappelijk aansprekende definitie van informatie (in zijn meervoud) en de kleinst mogelijke informatie.

[vijv]

Regor,

Ik dacht dat ik die gegeven had: "Informatie is het aantal toestanden waarin een systeem zich kan bevinden."
Wat mis je hier nog in?

[HansH]

als voorbeeld: hoeveel informatie zit er in een avatar van 200 x 200 pixels met 3x 256 kleuren per pixel?
dat is dus 200 x 200 x 256 x 256 x 256=6.7E11 informatie eenheden. dus je kunt maximaal zoveel verschillende avatars maken op science talk.

[Regor]

@vijv,

Ok, schrijf aub niet "het is" ... maar i"ik denk of "volgens mij"/
(Ik ben allergisch aan "het is" .....tenzij in de zuivere wiskunde)
komt er volgens mij al behoorlijk dichtbij......... maar volgens uw definitie is informatie dus "een getal" ....... ben ik helaas niet mee eens.

@HansH,

Uw voorbeeld getuigt van een heel enge visie over informatie, sorry.
Informatie heeft niets te maken met aantal mogelijkheden !

[vijv]

@vijv,

Ok, schrijf aub niet "het is" ... maar i"ik denk of "volgens mij"/
(Ik ben allergisch aan "het is" .....tenzij in de zuivere wiskunde)

Als ik iets schrijf is het evident dat ik dat denk, dus mag je dat er altijd bij denken bij mijn teksten. maar ik ga die overbodige informatie er niet altijd bijschrijven

komt er volgens mij al behoorlijk dichtbij......... maar volgens uw definitie is informatie dus "een getal" ....... ben ik helaas niet mee eens.

Wat zijn je argumenten om te denken dat een getal onvoldoende is?

[Regor]

informatie is geen getal !

[vijv]

informatie is geen getal !

Dat had je al gezegd maar waar besluit je dat uit, (En ik zeg niet dat je ongelijk hebt)

[HansH]

informatie is geen getal !

hoeveel informatie denk je dat er op een CD kan van 700megabyte?

[wnvl1]

5.6 miljard bits als er geen redundantie is. Dus toch een getal.

[Regor]

@wvnl1,

Een CD bezit veel meer informatie dan wat U opgeeft, ..... zijn afmetingen, zijn temperatuur, zijn kleur ..... en nog quasi oneindig veel meer.
.....................................
@Allen,

Wat is de maximum hoeveelheid informatie die één Planck Ruimte - Tijd kan bevatten ?