2009年09月06日 17:00 [Edit]

ITの礎 - 書評 - 通信の数学的理論

Amazonで見つけてあわてて購入。

知らなかった。

このあまりに重要な業績が、本書まで邦訳されていなかったことを。

[追記あり]


本書「通信の数学的理論」は、情報科学にとっての「プリンキピア」。情報をデジタルに扱うという、今我々が空気のように扱っている手法は、すべてここから始まったのだ。

目次
通信の数学的理論への最近の貢献(ワレン・ウィーバー)
通信の数学的理論(クロード・E.シャノン)
I 離散的無雑音システム
II 雑音のある離散的通信路
III 連続情報
IV 連続通信路
V 連続情報源のレート
付録
訳者解説

シャノンの最大の功績は、情報という曖昧模糊としたものに、計測可能で明快な定義を与えたことにある。そう。情報は計れるのだ。計れるおかげで我々はコンピューターを設計できるし、計れるおかげでインターネットを構築できる。bit や byte といった、今や専門家でなくても当たり前に使っている言葉も、シャノンあってのことなのだ。

そして、今や我々は生命の設計図すら「そういうやり方」で書かれていることを知っている。DNAは単にデジタルなだけではなく、二進法の親戚である四進法だった。原著の重要性は宇宙背景放射に似ている。あまりに重要で、そしてありとあらゆる場所に登場するので、空気化してしまっているのである。本書が訳出されたのが今年だということがそれをよく示している。シャノンがどうやって情報を測ったか、シャノンという名を聞いたことがない人も知っているし、そして知っている人はそれがシャノンの業績であることも知っていたにも関わらず、原典が訳出されていることに誰も驚いていなかったのだから--それが出るまでは。

原典というのは簡単なものだとは限らない。実際「プリンキピア」は難しい。同じことを理解するのであれば、後世に書かれた解説の方がずっといい場合の方が多い。たとえば逆二乗の法則の導出なら、数学入門の方がずっとすっきりしている。

ところが、本書は驚くほど簡単なのだ。本書には数式も当然登場するが、連続情報に関するものを除いてすべて高校生であれば必ず習う(はずですよね?)対数までの知識があれば確実に理解できる。しかも単に数式を並べてあるだけではなく、具体例をきちんと示しているので、「体育会系」でもばっちり。連続情報のところは微積分の知識が必要だが、アナログ情報に関するそこは飛ばしてもかまわない。IIまでわかれば充分なのだから。

そういうわけなので、本書は情報理論の基礎を学びたいひとのみならず、論文アレルギーを克服したい人にもお勧めだ。知らない人は「論文」というだけでなんだか難しいものを予想してしまうが、何のことはないただの文章に過ぎない。そして論文であればこそ、簡潔なものほど価値は高い。少なくとも、論文においては難解であることそのものは無価値どころかマイナスの価値である。

一つだけ留意を。シャノンが測ったのはあくまで情報「量」であって、その質は一切問わない。我々が言う「ノイズ」とシャノンが定義した「ノイズ」はそこが決定的に異なる。たとえば

ツイッターはなぜノイズが少ないか - 池田信夫 blog
最近、2週間ほどツイッターを使ってみて、意外にノイズが少ないことに気づいた。

という場合の「ノイズ」は、シャノンのノイズではない。SPAMだろうがHAMだろうが、発信者の「原稿」とどれだけ「ずれている」かがノイズで、その意味でSPAMがそのままあなたの mailbox に飛び込むのもまた、シャノンの功績と言えなくもない。

もう一つ例をあげよう。小柴昌俊にノーベル賞をもたらしたカミオカンデにとって、ニュートリノというのは本来の目的、すなわち陽子崩壊の観測という点からすればノイズに相当する。その「ノイズ」の中に、ノーベル賞をもたらした「シグナル」が入っていたのだ。

「意味」や「価値」まで含んだ「シグナル」と「ノイズ」の峻別は、シャノンのそれとは違う。もちろん知っている人はあくまでそれが比喩であることを知った上で使っているのだが、それが比喩で、「オリジナル」とはどれだけ違うのかということ知っておくためにも、本書は一度は目を通しておくべきだ。

Dan the Source of (Noise|Signal)

追記:私の生年に1969年に訳出されていたらしい。

しかし、ウィーバーじゃなくてヴィーヴァー、ISBNもなし。これではわからん><。本書の中にも前書に関する言及ゼロ。「本書は、ちくま学芸文庫のために新たに訳出されたものである。」これではわからん><。復刊でなくて新訳したのはどうしてなのだろう。


この記事へのトラックバックURL

この記事へのトラックバック
ReviewMarket.NETでは通信の数学的理論 (ちくま学芸文庫)の良質なレビューを集めています。
ReviewMarket.NET:通信の数学的理論 (ちくま学芸文庫)レビュー【ReviewMarket.NET:良質なレビューを提供するサイト】at 2009年09月10日 00:43
以下で何か言い忘れていたか、やっと思い出した。 404 Blog Not Found:ITの礎 - 書評 - 通信の数学的理論ツイッターはなぜノイズが少ないか - 池田信夫 blog 最近、2週間ほどツイッターを使ってみて、意外にノイズが少ないことに気づいた。 という場合の「ノイズ」は....
ノイズが強めるシグナル【404 Blog Not Found】at 2009年09月08日 16:00
この記事へのコメント
シャノンらの業績を紹介する時に「情報とは何かについて定義を与えた」と記述するのはよくある通俗的な誤りですね。
情報の「量」を定義したのであって「情報」そのものを定義したわけではないです。
Posted by pedant at 2011年07月10日 07:41
どうでもいいですけど、対数をやらないで卒業する高校生というのは存在します。まあ、たいていの人はやると思いますけど。
参考:
高等学校学習指導要領,第1章,第3款,1,(4)
http://www.mext.go.jp/b_menu/shuppan/sonota/990301/03122603/001.htm
Posted by indifferent at 2009年09月08日 21:11
やや話題ズレですが,
岩波文庫の
 職業としての学問 は マックス ウェーバー著
 職業としての政治 は マックス ウェーバー著
で出版されています。
「政治」の方の訳者は「正しい発音にしただけ」と言っていました。

ワレン・ウィーバーはアメリカ在住だったようなので,何と発音んでいたかは不明ですが。
Posted by musina at 2009年09月07日 10:31
たぶん、古本屋で見つけて、お値段がお手ごろでないと入手しないと思うのですが、この、情報科学の非常に貴重な基礎的な資料を、世に広く紹介してくださってありがとうございます。

まあ、この本を読んだからといって、プログラミングや検索が上手になれるわけではないけれど、日本人は、とかく、哲学を軽視するからね。
Posted by enneagram at 2009年09月07日 07:59
>「意味」や「価値」まで含んだ「シグナル」と「ノイズ」の峻別は、シャノンのそれとは違う。

Nが増えると情報量が増えて困るね、って意味で使ってるだけでしょう。
通信モデルを比喩として使うなってことでしょうか(笑)

>という場合の「ノイズ」は、シャノンのノイズではない。SPAMだろうがHAMだろうが、発信者の「原稿」とどれだけ「ずれている」かがノイズで、その意味でSPAMがそのままあなたの mailbox に飛び込むのもまた、シャノンの功績と言えなくもない。

シャノンの功績の大きな部分はエントロピーの概念を持ち出して拡張可能にしたことだと考えます。
通信の技術的な側面に限定すると、(彼の功績も大きいですが)それまでの理論を体系化した点が大きいと思いますが。。
Posted by おじさん at 2009年09月06日 19:57
[シャノン][DNA] に反応してしまいました。 初めまして。

シャノンのエントロピーを塩基配列群について計算するちょっとした
スクリプトを研究者(お客さん)の依頼で作ったことがあります。
お客さんにエントロピーの式を見せてもらいましたが、昔統計物理の授業で
ならった混合のエントロピーの式と同じで、名前のついたエントロピーの
シャノンさんって誰?と思うにとどまっていました。

デジタル回路設計の父であり、この本、情報理論の分野の古典なのですね。

その後お客さんが書いた論文では The mathematical theory of
communication を引用していたような気が。。。

完全スルーしていたけど、再会の機会を与えてくれてありがとう。
Posted by ごんし at 2009年09月06日 19:31
DNAの情報は四進数というより、パリティ付の二進数と言った方が正しい気がしますね。
Posted by 通りすがり at 2009年09月06日 18:06
「本書まで邦訳されていなかった」ということはありません。邦訳は『コミュニケーションの数学的理論』(明治図書出版)として1969年に出ています(絶版)。
Posted by 池田信夫 at 2009年09月06日 18:05
>このあまりに重要な業績が、本書まで邦訳されていなかった

されていますよ:
長谷川淳・井上光洋訳『コミュニケーションの数学的理論』(明治図書出版、1969年)

ただ、長らく絶版状態だったので、今回の新訳はうれしい限りです。
Posted by 師茂樹 at 2009年09月06日 17:46