Das Kefk Network Wiki befindet sich im Testbetrieb.
Zufallsinformation
Aus Kefk.
Zufallsinformation steht in der Theorie der Information im Gegensatz zu nicht zufälliger oder geordneter Information.
Darstellung von Zufall und Ordnung
Betrachtet man eine binäre Datei einer bestimmten Länge z. B. mit 20 Stellen, dann kann man die Gesamtinformationsmenge aller Möglichkeiten ausrechnen, die mit 20 Stellen und 2 Zeichen dargestellt werden kann:
Ein Teil der Möglichkeiten aus dieser Gesamtinformationsmenge sind reine Zufallsfolgen, der Rest sind mehr oder minder geordnete Folgen. Die Grenze zwischen beiden Bereichen ist nicht scharf zu ziehen, sondern nur mit einem Wahrscheinlichkeitsniveau von z. B. 95 % festzulegen. Je weiter man von der Grenze weg ist, desto klarer ist die Zuordnung. Chaitin hat 2 Beispiele genannt:
- Geordnete Reihe: 10101010101010101010
- Zufall = 0 oder fast Null
- Ungeordnete Reihe: 01101100110111100010
- Zufällige Folge
Beide Reihen haben dieselbe Länge und denselben Speicherplatzbedarf an Bits, trotzdem unterscheiden sie sich fundamental. Die Menge an Zufall einer Reihe lässt sich durch die Entropie bzw. den Informationsgehalt quantifizieren, bezüglicher der sich beide Reihen sehr stark unterscheiden. Dies ist gegenstand der Informationstheorie, die erstmals von Claude Shannon formalisiert wurde. Die erste Reihe hat zum Beispiel eine Entropie von 0 oder nahe 0, die zweite Reihe hat eine Entropie von 20 bit.
Mathematische Definition von Ordnung
Mit dem Begriff Ordnung verbinden sich ganz verschiedene Vorstellungen. Will man Ordnung ( wie es beispielsweise die Kristallchemie tut) als Gegensatz von Entropie ansehen , als Kehrwert zur Entropie, dann kann man folgende Formel aufstellen
O = 1/ S Ordnung = 1 / Entropie daraus folgt Entropie = 1 / Ordnung
Mit dieser Definition gibt es ein Problem: Bei einer Entropie von 0 wird die Ordnung unendlich groß.
Als Beispiel wird betrachtet eine 40er Folge von 1 und 0
- reiner Zufall:
- Entropie = 40 Bit
- Ordnung = sehr niedrig
- 1011011010101001110010110011100000011110
- reine Ordnung:
- Entropie = 0 Bit
- Ordnung = maximal
- 1111111111111111111111111111111111111111
- 0000000000000000000000000000000000000000
Wie soll man dann Ordnung definieren ?
O = 1 / E daraus folgt O = 1/40 bis O = Unendlich
Wahrscheinlich ist folgende Lösung besser:
O = 1 / (E + 1) daraus folgt O = 1/41 bis O = 1
Abgeleitet davon kann man die Ordnung als Prozentwert angeben:
O = 100 / ( E + 1) % daraus folgt O = 100 /41 % = 2,5 % Ordnung bis 100 % Ordnung
Analyse
Eine interessante Frage ist nun, wie hoch der Anteil der Zufallsfolgen an der Zahl der gesamten Möglichkeiten ist. Eine weitere interessante Frage ist, ob man die Nichtzufälligkeit irgendwie quantifizieren kann, also ob man sagen kann: Je stärker eine nichtzufällige Reihe komprimierbar ist, desto größer ist ihre Ordnung. Die einfachste Form der Ordnung ist hier die wiederholung von Teilstücken, man spricht auch von Redundanz.
Dann ergeben sich die allgemeinen Aussagen: Der Anteil der Zufallsfolgen wächst mit der Anzahl der Gesamtmöglichkeiten, oder anders ausgedrückt: Je länger eine binäre Sequenz ist, desto mehr Möglichkeiten für Zufallsfolgen stecken in ihr.
Je geordneter eine ganz bestimmte Binärfolge ist, desto weniger Zufall steckt in ihr. Vor allem in dem Begriff der Komprimierbarkeit, den man zur Definition der geordneten Folge heranzieht, stecken einige Tücken. Er ist mathematisch auf verschiedene Arten definierbar.
Bei kurzen binären Sequenzen ist die Unterscheidung zwischen Ordnung und Zufall willkürlich, je länger die Sequenzen werden, desto besser sind sie dem Bereich des Zufalls oder dem Bereich geordneter Folge zuzuordnen.
Trotzdem bleiben auch bei längeren Folgen von Nullen und Einsen Überlappungen zwischen geordneten Folgen und Zufallsfolgen bestehen. Jede geordnete binäre Folge kann mittels eines guten Komprimierungsverfahrens in eine scheinbare Zufallsfolge überführt werden.
Das Ergebnis sieht dann zwar zufällig aus, in ihm steckt aber bedeutsame Information.
Umgekehrt kann man mittels komplizierter Rechenverfahren Zufallszahlen erzeugen, die ausschauen wie echte (z. B. gewürfelte) Zufallszahlen, die aber in Wirklichkeit das Ergebnis eines festgelegten Algorithmus sind (siehe Pseudozufallszahlen).
