<< 生物が外界の情報を処理する数学モデル | main | アフィリエイトで競合のキーワードを知る方法 >>

情報理論におけるエントロピーは、乱雑ではない?

エントロピーというのは、乱雑さの指標であるときいておりました。
したがって、エントロピーは増大に向かうというのが、熱力学の第二法則であると。

しかしながら、情報理論においては、2を底とする対数でエントロピーを求めるということですから、情報量が多いほどエントロピーが大きくなり、情報量が減ると、エントロピーが減ることになります。

これはいったいどういうことなのでしょう。

情報理論におけるエントロピーは、乱雑さを表さないで、何か別のものを表しているのでしょうか。なぜ、そうなのですか。
http://q.hatena.ne.jp/1277102879
calendar
     12
3456789
10111213141516
17181920212223
24252627282930
31      
<< December 2017 >>
miteyo
sponsored links
selected entries
categories
archives
recent comment
  • (女性限定)ハンカチ王子が使っていたハンカチがオークションに出ていたら、いくらなら買いますか?
    minnminn (11/10)
links
profile
search this site.
others
mobile
qrcode
powered
無料ブログ作成サービス JUGEM