2008年09月28日

情報は氾濫しない:情報量 情報圧縮

このエントリーをはてなブックマークに追加
ホモ・モーベンス―都市と人間の未来 (中公新書 198)





自分の転載です


情報量とは、情報理論における定義の情報量(エントロピー)のことです。
コンピュータサイエンス、アルゴリズム、数学的文脈で「情報量が大きい」、という場合、
通常の字面どおりの意味「「情報」の「量」が「多い」」という意味とは全く異なります。
普通、エントロピーといわれる量のことです。

情報量

ある情報(記号列)を受け取った(観測した)際に、得られる情報の量のことです。

...........

同じ情報が10000個あったら、
各々の価値が1/10000に薄くなるということを数学的に言ってるのです。

一見「氾濫している」ような情報には全く価値がないのです。
→薄い密度の情報がたくさんあるだけで、全部あわせても情報の総量は増えないということです。
「薄い密度」という言葉を使いましたが、
それは、意味の量が少ないとか、役に立たないとか、中身がないという意味とは全く異なります。
そうではありません。 その情報はユニークであるかどうか、すでに知っている情報であるか、
その情報は発生確率が大きいか小さいか、という点にのみに絞られます。








情報量と大いに関係がありますが、情報圧縮によってデータの総量は減らせます。
同一の記号列を、より短い記号列で記述できるということです。

情報圧縮 

画像処理論の授業で教授がしゃべっていたのですが、
「........認識というのが究極の情報圧縮だから、認識することで情報は大幅に減らせるんですよ」


これは、画像処理論では全く本質的ではないのですが、情報の総量に関しては極めて本質的です。
認識というのは情報圧縮の側面がある、ということです。

「1」←これは数字の1であると認識し、数字の1であるとして記憶していますね

このとき、すでに「1」の詳細な形、ピクセル情報なんかは人間には見えていないのです。
必要最低限の量子化された情報(それは数字の1である)だけを使って処理が行われます。

それは基本的には、自然言語でも、音でも、静止画、動画でも、
味でも匂いでも何でも全く差はありません。

実世界の情報は非常に多いのですが、生物の認知レベルになると情報が極限的に圧縮されるので、
実際に宇宙を物理的に記述する記号の総量なんかは全く問題ではなくなるくらい、究極的に情報が減るのです。

........
と、いうことです
認知機構を最大限に活用していれば、情報が氾濫しているようになんかは思えるはずは絶対にない
のです。







物理的レベル、社会的レベル、心理的レベルの全てで
情報は氾濫し得ません。

トラックバックURL

コメントする

名前:
URL:
  情報を記憶: 評価:  顔   星
 
 
 
サイト内検索
にほんブログ村 科学ブログへ
にほんブログ村
adsense
Archives
amazon
blogchart
QRコード
QRコード
Recent Comments