エントロピー

提供: testwiki
ナビゲーションに移動 検索に移動

テンプレート:Distinguish テンプレート:物理量 {{#invoke:Sidebar |collapsible | bodyclass = plainlist skin-invert-image | titlestyle = padding-bottom:0.3em;border-bottom:1px solid #aaa; | title = 熱力学 | imagestyle = display:block;margin:0.3em 0 0.4em; | image = | caption = 古典的テンプレート:仮リンク | listtitlestyle = background:#ddf,;text-align:center;color: light-dark(black,white); | width = 256px | expanded =

| list1name =branches | list1title = 分野 | list1 = テンプレート:Startflatlist

テンプレート:Endflatlist

| list2name = laws | list2title = 熱力学の法則 | list2 = テンプレート:Startflatlist

テンプレート:Endflatlist

| list3name = systems | list3title = | list3 =

テンプレート:Sidebar

| list4name = sysprop | list4title =系の特性

| list4 =

注: 斜体はテンプレート:仮リンクを示す。
テンプレート:Sidebar

| list5name = material | list5title = テンプレート:仮リンク | list5 =

比熱容量  c=
TS
NT
圧縮率  β=
1V
Vp
熱膨張  α=
1V
VT

| list6name = equations | list6title = テンプレート:仮リンク | list6 = テンプレート:Startflatlist

| list7name = potentials | list7title = 熱力学ポテンシャル | list7 = テンプレート:Startflatlist

テンプレート:Endflatlist テンプレート:Unbulleted list

| list8name = hist/cult | list8title = テンプレート:Hlist | list8 =

テンプレート:Sidebar

| list9name = scientists | list9title = 科学者 | list9 = テンプレート:Startflatlist

テンプレート:Endflatlist

| below =

}} テンプレート:統計力学 エントロピーテンプレート:Lang-en-short)は、熱力学統計力学情報理論などにおいて定義される示量性状態量のひとつである。

エントロピーはエネルギー温度で割った次元を持ち、国際単位系における単位ジュールケルビン(記号: J/K)である。エントロピーと同じ次元を持つ量として熱容量がある。エントロピーはフランス物理学者サディ・カルノーテンプレート:Lang-fr-short)にちなんで一般に記号 テンプレート:Mvar を用いて表される[1]

熱力学では、適当に基準となる状態 テンプレート:Math と、そのときの基準値 テンプレート:Math(J/K)を決めて、状態 テンプレート:Math におけるエントロピー テンプレート:Math を、

テンプレート:Indent

と定義する。ここで、 テンプレート:Mvar温度 テンプレート:MvarK)の熱源から得るの微小変化量(J)であり、 テンプレート:Math は基準状態 テンプレート:Math から状態 テンプレート:Math へと変化する可逆過程である。熱力学第三法則を適用することが出来るため、基準状態 テンプレート:Math には、絶対零度を採用すると都合が良い。

統計力学では、その系が取り得る微視的な状態の数テンプレート:Mvar(個)であるときのエントロピー S を、

テンプレート:Indent

と定義する。ここで テンプレート:Mvar(J/K)はボルツマン定数である。

情報理論では、確率変数 テンプレート:Mvar に対して、 テンプレート:Mvar のエントロピー テンプレート:Math を、

H(X)=iPilnPi

と定義する。ここで テンプレート:Mvarテンプレート:Math となる確率である。

以上の定義の詳細については、それぞれ熱力学におけるエントロピー統計力学におけるエントロピー情報理論におけるエントロピーとの関係を参照。

エントロピーは当初、熱力学において「断熱条件下での不可逆性」を表す指標として導入され、統計力学において微視的な「乱雑さ」[注 1]を表す物理量という意味付けがなされた。統計力学での結果から、系から得られる情報に関係があることが指摘され、情報理論にも応用されるようになった。

物理学者テンプレート:仮リンクのようにむしろ物理学におけるエントロピーを情報理論の一応用とみなすべきだと主張する者テンプレート:誰もいる。

語源

エントロピーは、ルドルフ・クラウジウスの造語である。ギリシャ語由来であり、テンプレート:Langテンプレート:Lang と、英語のテンプレート:Langに相当するテンプレート:Langという語根から成る[2]

和製漢語では「内転勢力」[3]などと訳される。現代中国語では「熵 shāng」という字で表現される

物理学者のレオン・クーパーは、造語「エントロピー」に対して、「彼(クラジウス)は誰にとっても同じもの、つまり『何も意味しない言葉』の造語に成功した」[4]とコメントしている[5]

概要

エントロピーは、熱力学統計力学情報理論など様々な分野で使われている。しかし分野によって、その定義や意味付けは異なる。よってエントロピーを一言で説明することは難しいが、大まかに「何をすることができて、何をすることができないかを、その大小で表すような量」であると言えるテンプレート:Sfn

エントロピーに関わる有名な性質として、熱力学におけるエントロピー増大則がある。エントロピー増大則は、断熱条件の下でがある平衡状態から別の平衡状態へ移るとき、遷移の前後で系のエントロピーが減少せず、殆ど必ず増加することを主張する。断熱条件の下で系の平衡状態が テンプレート:Math から テンプレート:Math への遷移が可能な場合、系のそれぞれの平衡状態におけるエントロピーの間には テンプレート:Indent の関係が成り立つ。等号が成り立ち、状態を移る前後でエントロピーが変化しない場合には、逆向きの テンプレート:Math から テンプレート:Math への遷移が可能である。逆向きの遷移が可能なのは準静的な断熱過程だけである。逆向きの断熱過程が存在しないならば、状態の遷移に伴ってエントロピーが必ず増加する。 エントロピー増大則は熱力学の特徴である可逆性と不可逆性を特徴付ける法則であり、エントロピーは熱力学における最も基本的な量である。

固体の模式図 液体や気体の模式図
のような結晶性固体は、結晶構造に従って分子が配列される。

一方、のような液体水蒸気のような気体は、自由な分子配置をとれる。 このため、液体や気体が取り得る状態の数が固体に比べて大きく、エントロピーも大きい。

エントロピーに関する法則としてもう一つよく知られるものに、統計力学におけるボルツマンの原理がある。ボルツマンの原理は、ある巨視的な系のエントロピーを、その系が取り得る微視的な状態の数と関係づける。微視的な状態数が テンプレート:Mvar のときのエントロピーは テンプレート:Indent で表される。比例係数 テンプレート:Mvarボルツマン定数と呼ばれる[6]。系の巨視的な状態は、系のエネルギー体積物質量などの巨視的な物理量の組によって定められるが、それらの巨視的な物理量を定めたとしても系の微視的状態は完全には定まらず、いくつかの状態を取り得る。状態数とは巨視的な拘束条件の下で可能な微視的状態の数を見積もったものである。ボルツマンの原理から、可能な微視的状態の数が増えるほどにエントロピーが大きいことが解る(対数は狭義の単調増加関数である)。逆に、微視的状態が確定する[注 2] テンプレート:Math の状況ではエントロピーが テンプレート:Math となる。可能な微視的状態の数が増えるということは、巨視的な情報しか知り得ないとすれば、それだけ微視的世界に関する情報が欠如していると捉えることができ、この意味でボルツマンの原理はエントロピーの微視的乱雑さを表す指標としての性格を示している。

歴史

ルドルフ・クラウジウス

エントロピーは、ドイツの物理学者ルドルフ・クラウジウスが、カルノーサイクルの研究をする中で、移動する熱を温度で割ったテンプレート:Mathという形で導入され、当初は熱力学における可逆性と不可逆性を研究するための概念であった。後に原子の実在性を強く確信したオーストリアの物理学者ルートヴィッヒ・ボルツマンによって、エントロピーが原子や分子の「乱雑さの尺度」であることが論証された。

クラウジウスは1854年にクラウジウスの不等式として熱力学第二法則を表現していたが、彼自身によって「エントロピー」の概念が明確化されるまでにはそれから11年を要した。不可逆サイクルでゼロとならないこの量をクラウジウスは仕事と熱の間の「変換」で補償されない量として、1865年の論文においてエントロピーと名付けた。エントロピーという言葉は「変換」を意味するテンプレート:Lang-el(トロペー)に由来している。

その後ボルツマンやギブスによって統計力学的な取り扱いが始まった。情報理論(直接的には通信の理論)における情報量の定式化が行われたのは、クロード・シャノン1948年通信の数学的理論』である。シャノンは熱統計力学とは独立に定式化にたどり着き、エントロピーという命名はフォン・ノイマンの勧めによる、と言われることがあるが、シャノンはフォン・ノイマンの関与を否定している[7]

熱力学におけるエントロピー

熱エントロピーの説明用の図。

エントロピーは、熱力学における断熱過程不可逆性を特徴付ける量として位置付けられる。

エントロピーは平衡状態に対して定義される状態量(=物理的な系の熱力学的な状態に実数を対応させる関数として定式化される物理量)であり、2つの状態テンプレート:Mvarテンプレート:Mvarに対し、テンプレート:Mvarからテンプレート:Mvar断熱的に遷移テンプレート:Efn2する事ができれば、これら2つの状態のエントロピーS(A)S(B)S(A)S(B)を満たすし、逆にS(A)S(B)ならテンプレート:Mvarからテンプレート:Mvarに断熱的に遷移できる。特にS(A)=S(B)であれば、テンプレート:Mvarテンプレート:Mvar双方から他方に断熱的に遷移できる。

熱力学では、系のすべての熱力学的な性質が、一つの関数によってまとめて表現される。そのような関数は完全な熱力学関数と呼ばれる。エントロピーは完全な熱力学関数の一つでもある。

エントロピーの基本的性質と存在一意性

エリオット・リーブヤコブ・イングヴァソンは、エントロピーの基本的性質として以下の3つを挙げたテンプレート:Sfnテンプレート:Math theoremそして彼らは各々の系テンプレート:Mvarに対し、テンプレート:Mvarにおける熱力学的な平衡状態全体の集合(状態空間)に断熱的に遷移できるか否かで順序関係テンプレート:Efn2を入れ、そこに熱現象に関する素朴な直観を反映した公理を入れて次の事実を数学的に導いた:テンプレート:Math theorem上記の定理ではエントロピーの選び方には定数cΓ,dΓ分の自由度があるが、実際の熱力学では後述するSU=1Tという関係式を用いて、内部エネルギーテンプレート:Mvarの単位である「J」と温度Tの単位である「K」から定数cΓを決める。一方dΓは、どの平衡状態テンプレート:MvarS(A)=0とするかという基点の選び方の自由度であるが、絶対零度でエントロピーがテンプレート:Mvarになるとする熱力学の第三法則を要請する事によりdΓを決めるテンプレート:Sfn

熱力学では平衡状態を内部エネルギーテンプレート:Mvar体積テンプレート:Mvarなどの有限個の状態量で記述するのでテンプレート:Efn2、状態空間はnの部分集合だとみなせる。平衡状態テンプレート:Mvarテンプレート:Mvarがそれぞれ(UA,VA,)(UB,VB,)と表せているとき0t1に対し、(tUA+(1t)UB,tVA+(1t)VB,)と表せる平衡状態をtA+(1t)Bと書くときテンプレート:Efn2、リーブとイングヴァソンはさらに、エントロピーが以下の性質を満たす事を上述の公理のもと示した。(これはもともと物理的考察により知られていたものである)。テンプレート:Math theoremこれは後述するエントロピー最大の原理など、エントロピーに関する基本的な性質を下支えする重要な事実であるテンプレート:Sfn

他の物理量との関係

テンプレート:節stub

エントロピーの導出

上ではリーブとイングヴァソンによる数学的な導出を見たが、より物理的な考察によりエントロピーを導出する手法として以下のものがある:

なお教科書によっては、

というスタイルで記述されているものもある。

以下のエントロピーの説明は、クラウジウスが1865年の論文テンプレート:Sfnの中で行ったものを基にしているテンプレート:Sfn。クラウジウスはを用いてエントロピーを定義した。この方法による説明は多くの文献で採用されているテンプレート:Sfn

簡単な状況下での説明

熱機関(中央の円)。温度THの高熱源(右の四角)から熱量QHを受け取り、低熱源(左の四角)温度TCのに熱量QCを渡す。

温度 テンプレート:Math の吸熱源から テンプレート:Mathを得て、温度 テンプレート:Math の排熱源に テンプレート:Math の熱を捨てる熱機関(サイクル)を考える。この熱機関が外部に行う仕事エネルギー保存則から テンプレート:Math であり、熱機関の熱効率 テンプレート:Mvarテンプレート:Indent で与えられる。 カルノーの定理によれば、熱機関の熱効率には二つの熱源の温度によって決まる上限の存在が導かれ、その上限は テンプレート:Indent で表される[注 3]。 これら2本の式を整理することで、 テンプレート:NumBlk が成立することが分かる。

可逆な熱機関の熱効率は テンプレート:Math と等しく、このため可逆な熱機関ではテンプレート:EquationNoteは等号 テンプレート:NumBlk が成り立つ。すなわち、可逆な過程で高熱源に接している状態から低熱源に接している状態に変化させたとしても テンプレート:Math という量は不変となる。クラウジウスはこの不変量をエントロピーと呼んだ。

可逆でない熱機関は熱効率が テンプレート:Math よりも悪いことが知られており、このため可逆でない熱機関ではテンプレート:EquationNoteは等号ではなく不等式 テンプレート:Indent が成り立つ。すなわち、可逆でない過程で高熱源で熱を得た後、低熱源でその熱を捨てるとエントロピーは増大する(エントロピー増大則)。

一般の場合

上では話を簡単にするため、高熱源と低熱源の2つしか熱源がない場合を考えたが、より一般にテンプレート:Mvar個の熱源がある状況を考えるとテンプレート:EquationNoteテンプレート:Indent となる(クラウジウスの不等式)。ただし上の不等式ではテンプレート:EquationNoteと違いテンプレート:Mvarは全て温度テンプレート:Mvarの熱源から得る熱であり、熱を捨てる場合は負の値としている。

可逆なサイクルでは等号 テンプレート:Indent が成り立ち、この式でテンプレート:Mathとすると、 テンプレート:Indent となる[注 4] 。状態テンプレート:Mathから状態テンプレート:Mathへと移る任意の可逆過程テンプレート:Mvar,テンプレート:Mvarを考え、テンプレート:Mathテンプレート:Mvarの逆過程とする。このとき、テンプレート:Mvarテンプレート:Mathを連結させた過程テンプレート:Mathは可逆なサイクルとなり テンプレート:Indent テンプレート:NumBlk が成り立つ。つまり、この積分の値は始状態と終状態が同じならば可逆過程の選び方によらない。

そこで、適当に基準となる状態テンプレート:Mathと、そのときの基準値テンプレート:Mathを決めると、状態テンプレート:Mathにおけるエントロピーテンプレート:Mathテンプレート:Indent と定義することができる。ここでテンプレート:Mathは基準状態テンプレート:Mathから状態テンプレート:Mathへと変化する可逆な過程である。テンプレート:EquationNoteからエントロピーの定義は可逆過程テンプレート:Mathの選び方によらない。

基準状態テンプレート:Mathから状態テンプレート:Mathへと移る可逆過程テンプレート:Mathと、状態テンプレート:Mathから状態テンプレート:Mathへと移るある可逆過程テンプレート:Mvarを連結させた過程テンプレート:Mathは基準状態テンプレート:Mathから状態テンプレート:Mathへと移る可逆過程である。したがって、 テンプレート:Indent あるいは テンプレート:Indent となる。

エントロピー増大則

状態テンプレート:Mathから状態テンプレート:Mathへと移る任意の過程テンプレート:Mvarと、同じく状態テンプレート:Mathから状態テンプレート:Mathへと移る可逆過程テンプレート:Mvarを考え、テンプレート:Mathテンプレート:Mvarの逆過程とする。このときテンプレート:Mvarテンプレート:Mathを連結させた過程テンプレート:Mathはサイクルとなる。

このサイクルについて、導出と同様にクラウジウスの不等式から テンプレート:Indent テンプレート:Indent が導かれる。ここでテンプレート:Mathは熱源の温度であり、一般には系の温度テンプレート:Mvarとは一致しない。しかし、可逆過程テンプレート:Mvarの間においては、系は常に平衡状態にあるとみなされるから、熱源の温度テンプレート:Mathは系の温度テンプレート:Mvarに一致する。したがって テンプレート:Indent となる。

特に断熱系(外から仕事が加えられても良い)においてはテンプレート:Mathなので、 テンプレート:Indent という結果が得られる。これがエントロピー増大則である。熱力学第二法則と同値なクラウジウスの不等式からこれが求められたことにより、熱力学第一法則エネルギー保存則と対応するのになぞらえて熱力学第二法則とエントロピー増大則を対応させることもある。なお、この導出から明らかなように、熱の出入りがある系ではエントロピーが減少することも当然起こり得る。

エントロピーが増加するために、熱エネルギーのすべてを他のエネルギーに変換することはできない。したがって、熱エネルギーは低品質のエネルギーとも呼ばれる。

完全な熱力学関数

熱力学第一法則から、ある熱力学過程の間に系が外部から得るテンプレート:Mvarは、その過程の前後での系の内部エネルギーテンプレート:Mvarの変化テンプレート:Mvarと、その過程の間に系が外部になす仕事テンプレート:Mvarにより テンプレート:Indent と表すことができる。無限小の変化で考えると テンプレート:Indent となる[注 4]。クラウジウスの不等式とエントロピーの定義式から無限小変化に対して テンプレート:Indent となる。系が体積テンプレート:Mvarの変化テンプレート:Mvarを通してのみ外部に仕事をなす場合には、外部の圧力をテンプレート:Mathとして テンプレート:Indent となる。これらをまとめると テンプレート:Indent が成り立つことがわかる。可逆過程では等号 テンプレート:Indent が成り立ち、さらに準静的過程では系と外部が熱平衡および力学的平衡にあるので、外部の温度テンプレート:Mathは系の温度テンプレート:Mvarに等しく、外部の圧力テンプレート:Mathは系の圧力テンプレート:Mvarに等しい。すなわち、テンプレート:Mathで表される平衡状態からテンプレート:Mathで表される平衡状態への準静的な無限小変化では テンプレート:Indent となる。

系と外部の間で物質の出入りがなく、外場の作用も受けていないときには、平衡状態にある系の温度と圧力は、テンプレート:Mathの関数として一意に定まることが経験的に知られている。系の温度と圧力がそれぞれテンプレート:Mathテンプレート:Mathで表されるとき、不可逆過程においても、テンプレート:Mathで表される平衡状態からテンプレート:Mathで表される平衡状態への無限小変化で、準静的過程と同じ式 テンプレート:Indent が成り立つ。なぜなら、左辺のテンプレート:Mvarが状態量テンプレート:Mvarの変化量なので、右辺もまた途中の過程に依らないからである。この式をテンプレート:Mathの全微分テンプレート:Mvarと比べると、直ちに偏微分 テンプレート:Indent が得られる。 特に前者は、統計力学において熱力学温度テンプレート:Mvarを導入する際に用いられる関係式である(エントロピーの存在を公理的に与える論理展開の場合は、熱力学においてもこの式が熱力学温度の定義式である)。

系と外部の間で物質の出入りがなく、外場の作用も受けていないとき、テンプレート:Mathテンプレート:Mathの両方の関数形が知られていれば、これら二つの関数から、熱容量やエントロピーなどの、系の全ての状態量を計算することができる。しかし、どちらか一方の関数形が不明な場合は、これが不可能になる。例えば、テンプレート:Mathだけから系の熱容量を計算することは不可能である。また、テンプレート:Mathだけからでは、体積変化に伴うエントロピー変化を求めることはできない。一方、テンプレート:Mathが知られていれば、この関数ひとつだけから、系の全ての状態量を計算することができる。すなわち、系と外部の間で物質の出入りがなく、外場の作用も受けていないとき、テンプレート:Math完全な熱力学関数となる。

エントロピーは内部エネルギーや体積などの示量性状態量を変数に持つとき、完全な熱力学関数となる。系が化学反応など物質の増減によってエネルギーの移動が生じるときは テンプレート:Indent となる。 ここで、テンプレート:Mvar物質量テンプレート:Mvar化学ポテンシャルである。さらに他の示量性状態量の変化テンプレート:Mvarによるエネルギーの移動があるときは、それに対応する示強性状態量テンプレート:Mvarとして テンプレート:Indent となる。 テンプレート:Mvarテンプレート:Mvarの組としては

などがある。

温度による表示

エントロピーを完全な熱力学関数として用いる場合の系の平衡状態を表す変数は内部エネルギーと体積などの示量性変数である。しかし、温度は測定が容易なため、系の平衡状態を表す変数として温度を選ぶ場合がある。 閉鎖系で物質量の変化を考えない場合に、温度 テンプレート:Mvar と体積 テンプレート:Mvar の関数としてのエントロピー テンプレート:Math の温度 テンプレート:Mvar による偏微分は テンプレート:Indent で与えられる。ここで テンプレート:Mvar 定積熱容量である。 また、エントロピー テンプレート:Math の体積 テンプレート:Mvar による偏微分はMaxwellの関係式より テンプレート:Indent で与えられる。これは熱膨張係数 テンプレート:Mvar等温圧縮率 テンプレート:Mvar で表せば テンプレート:Indent となる。

従って、テンプレート:Math 表示によるエントロピーの全微分は テンプレート:Indent となる。

さらに体積に変えて圧力 テンプレート:Mvar を変数に用いれば、体積 テンプレート:Math の全微分が テンプレート:Indent であることを用いれば、テンプレート:Math 表示によるエントロピーの全微分は テンプレート:Indent となる。

気体のエントロピー

低圧領域において実在気体の状態方程式をビリアル展開 テンプレート:Indent の形で書くと、モルエントロピー テンプレート:Math の圧力による偏微分は、マクスウェルの関係式より テンプレート:Indent となる。従って、低圧領域においてモルエントロピーは テンプレート:Indent で表される。ここで テンプレート:Indent で定義される テンプレート:Math は、温度 テンプレート:Mvar における標準モルエントロピーであり、この実在気体が理想気体の状態方程式に従うと仮定した時の、圧力 テンプレート:Mvar°におけるモルエントロピーに相当する。

統計力学におけるエントロピー

ある巨視的状態(例えば、圧力と体積を指定した状態)に対して、それを与える微視的状態(例えば、各分子の位置および運動量)は多数存在すると考えられる。そこで仮想的にアンサンブルを考える。つまり、ある巨視的状態に対応する微視的状態の集合を考え、その各々の元が与えられた巨視的状態の下で実現する確率分布を与えることにする。

系の微視的状態(例えば量子系であればエネルギー固有状態)テンプレート:Mvarを考え、微視的状態テンプレート:Mvarが実現される確率分布テンプレート:Mathが与えられているとき、ボルツマン定数テンプレート:Mvarとして、エントロピーテンプレート:Mvarテンプレート:Indent により定義する[注 5]。これはギブズエントロピーテンプレート:Lang-en-short)とも呼ばれる。

すなわち、統計力学におけるエントロピーは情報理論におけるエントロピー無次元量)と定数倍を除いて一致する[注 6]

小正準集団

例えば、エネルギーテンプレート:Mvarの状態にある孤立系に対応して、小正準集団を用いるとする。すなわち、微視的状態テンプレート:Mvarにあるときのエネルギーをテンプレート:Mathとしたときに、系のエネルギーテンプレート:Mvarにある微視的状態のみに有限の確率を等しく テンプレート:Indent として与える[注 7]等重率の原理)。ここで、規格化定数テンプレート:Math状態数と呼ばれ、系がエネルギーテンプレート:Mvarにあるときに実現しうる微視的状態の数を意味する。このとき、エントロピーはボルツマンの公式としてよく知られる テンプレート:Indent で与えられる。

熱力学との整合性

このように小正準集団により与えられたエントロピーが、先に見た熱力学のエントロピーと整合していることを確認する。エネルギーテンプレート:Mvar、小正準集団によるエントロピーテンプレート:Mvarの系を、透熱壁を入れることにより 2 つの部分系に分離する。それぞれの系にエネルギーがテンプレート:Mathと分配されるとしよう。この場合、系全体の状態数か、あるいはその対数であるエントロピーが最大になるように部分系のエネルギーが決定されると考えるのは自然であろう。系全体の状態数は 2 つの部分系の状態数の積であり、すなわち系全体のエントロピーテンプレート:Mvarは 2 つの部分系のエントロピーテンプレート:Mathの和である。条件テンプレート:Mathの下で全体のエントロピーを最大とする条件を考えると、 テンプレート:Indent すなわち テンプレート:Indent となる。ここで、このエントロピーを熱力学のものと同一視すると、テンプレート:Mathが成立するのであった(部分系の体積は固定しておくことにする)。透熱壁を用いて 2 つの系を接触させた場合、平衡状態では当然 2 つの系の温度は等しくなることと、ここで確認した事実は確かに整合している。

熱力学と整合するアンサンブルは、ここで例示した小正準集団の他にも、正準分布大正準分布がある。

情報理論におけるエントロピーとの関係

テンプレート:See also 情報理論においてエントロピー確率変数が持つ情報の量を表す尺度で、それゆえ情報量とも呼ばれる。 確率変数テンプレート:Mvarに対し、テンプレート:Mvarのエントロピーテンプレート:Math

H(X)=iPilnPi (ここでテンプレート:Mvarテンプレート:Mathとなる確率)

で定義されており、これは統計力学におけるエントロピーと定数倍を除いて一致する。この定式化を行ったのはクロード・シャノンである。

これは単なる数式上の一致ではなく、統計力学的な現象に対して情報理論的な意味づけを与える事ができることを示唆する。情報量は確率変数テンプレート:Mvarが数多くの値をとればとるほど大きくなる傾向があり、したがって情報量はテンプレート:Mvarの取る値の「乱雑さ」を表す尺度であると再解釈できる。よって情報量の概念は、原子や分子の「乱雑さの尺度」を表す統計力学のエントロピーと概念的にも一致する。

しかし、情報のエントロピーと物理現象の結びつきは、シャノンによる研究の時点では詳らかではなかった。この結びつきは、マクスウェルの悪魔の問題が解決される際に決定的な役割を果たした。シラードは、悪魔が分子について情報を得る事が熱力学的エントロピーの増大を招くと考えたが、これはベネットにより可逆な(エントロピーの変化ない)観測が可能である、と反例が示された。最終的な決着は1980年代にまで持ち越された。ランダウアーがランダウアーの原理として示していたことであったのだが、悪魔が繰り返し働く際に必要となる、分子についての以前の情報を忘れる事が熱力学的エントロピーの増大を招く、として、ベネットによりマクスウェルの悪魔の問題は解決された。

この原理によれば、コンピュータがデータを消去するときに熱力学的なエントロピーが発生するので、通常の(可逆でない=非可逆な)コンピュータが計算に伴って消費するエネルギーには下限があることが知られている(ランダウアーの原理。ただし現実の一般的なコンピュータの発熱とは比べるべくもない規模である)。また理論的には可逆計算はいくらでも少ない消費エネルギーで行うことができる。

さらにテンプレート:仮リンクは統計力学におけるギブズの手法を抽象することで、統計学情報理論における最大エントロピー原理を打ち立てた。この結果、ギブズの手法は統計学情報理論の統計力学への一応用例として再解釈されることになった。

統計力学と情報理論の関係は量子力学においても成立しており、量子統計力学におけるフォン・ノイマンエントロピー量子情報の情報量を表していると再解釈された上で、量子情報量子計算機の研究で使われている。

ブラックホールのエントロピー

テンプレート:See also ブラックホールのエントロピーは表面積に比例する。 テンプレート:Indent ここでテンプレート:Mvarはエントロピー、テンプレート:Mvarはブラックホールの事象の地平面の面積、テンプレート:Mathディラック定数(換算プランク定数)、テンプレート:Mvarボルツマン定数テンプレート:Mvar重力定数テンプレート:Mvar光速度である。

生物学におけるエントロピー

テンプレート:See also エルヴィン・シュレーディンガーは、生命をネゲントロピー(負のエントロピー)を取り入れエントロピーの増大を相殺することで定常状態を保持している開放定常系とした。負のエントロピー自体は後に否定されたが、非平衡系の学問の発展に寄与した。

脚注

出典

テンプレート:Reflist

注釈

テンプレート:Reflist

参考文献

論文
書籍

関連項目

テンプレート:Div col

テンプレート:Div col end

外部リンク

テンプレート:Normdaten

  1. エントロピーの定義とエントロピー増大の法則の意味
  2. テンプレート:Cite web
  3. 斎藤秀三郎『新増補版 英和中辞典』東京岩波書店 1936年 391頁
  4. 原文 "he succeeded in coining a word that meant the same thing to everybody: nothing".
  5. Cooper, Leon N. (1968). An Introduction to the Meaning and Structure of Physics. Harper. 331頁
  6. IUPAC Gold Book
  7. 出典は情報量#歴史を参照


引用エラー: 「注」という名前のグループの <ref> タグがありますが、対応する <references group="注"/> タグが見つかりません