まずは次の動画をご覧ください。
必要に応じて字幕を表示したり、再生速度を変更して下さい。
動画の下に、動画を理解するためのヒントを掲載しています。理解のヒントにして下さい。
動画をしっかり理解したら、Moodleから小テストを受講して下さい。
小テストの内容は「テキストの２章」と「動画の内容」の両方から出題します。
■０：００～０：３１
Shannonは人名、シャノンです。ご存知の通り、情報理論の父です。
cryptography は 暗号理論 を意味します。情報理論は情報の圧縮（情報源符号化）、誤り訂正（通信路符号化、符号理論）だけでなく、暗号理論で標準的に用いられる理論です。
human communication は 人間同士のコミュニケーション と考えてかまいません。情報理論系で communication というと 通信 という意味になることを忘れずにいましょうね。
世界大戦の際、暗号解読のキーとなったアイデアは、randomness と statistical dependencies の応用だったと言われています。
letter は 手紙ではなく、 文字（とくに１文字）を表します。
シャノンが情報理論を発表した論文”A Mathematical Theory of Communication”が最初に出版されたのは1948年のことでした。その後、1949年に”The Mathematical Theory of Communication”にタイトル変更されて出版された。論文名と２つの年を覚えるのは、情報理論を学ぶ際のマストと考えよう。
■０：３２～１：００
Markov model は マルコフモデル とそのままカタカナに訳されます。マルコフ過程に従う確率モデルの一つです。マルコフモデルは統計学で学びます。
またMarkov chainはマルコフ過程の例の一つです。過去何回の時点に依存するかを orderという言葉で表します。
machine は 計算機理論の意味での マシン を意味します。有名なものにチューリングマシンがあります。講義「情報数学２」で習う DFA、 NFAなども同様です。
■１：０１～１：３０
approximation は 近似 を意味する単語です。数学ではもちろん、情報理論や符号理論などでもしばしば用いられる単語です。
symbol はアルファベットの 元 を表します。つまり 記号 という意味です。
sequence は 系列 を表します。系列とは 記号を並べたもの です。情報理論でも計算理論でも良く用いる単語です。
structure は 構造 と訳される単語です。代数で 群の構造 と呼ぶのと同じ感覚です。情報数理学系では純粋数学の感覚で理論を扱うことがしばしばあります。学部生程度の数学は一通り理解しておきましょう。
■１：３１～２：００
情報理論・符号理論などでは、何かのイベントが発生するときに occur という表現を用いることがよくあります。例えば、通信路でノイズが発生した、というときにも occurと言います。
state は 状態 を表す単語です。例えば、部屋の電気が点いているか、いま何時か、ディスプレイに何が写っているか、おなかは空いているか、なども状態です。
conditional probability は 条件付き確率 を意味します。続く前置詞を覚えましょう。
■２：０１～２：３０
generate は 生成する という意味の単語です。学部１，２年次に「集合 S が環 R を生成する」、「基底の集合 E が線形空間 V を生成する」と同じ意味です。
つまり、１つのものを作るのではなく、わらわらわらっと造り出すイメージです。
系列のなかでも、ある人がある人へ伝えたいものを message と表現します。とくに、加工等を行う場合、加工前のものを original message と表現します。
■２：３１～３：００
ここまでに説明した専門用語と一般的な英単語だけで理解できます。
■３：０１～３：３０
symbolを並べたものをsequenceと呼ぶと解説しました。本質的に同じ意味ですが、異なる表現としてletterを並べたものをwordと呼びます。これらを厳密に区別する必要はなく、symbolを並べてwordと呼ぶこともあります。
さて、この辺で、みなさんギョギョギョオオと興奮したのではないでしょうか。
こういう動画を見るのも、勉強の手段として有効だと実感したのでは。
■３：３１～４：００
いよいよエントロピー（entropy）の登場です。
動画の後
動画を一通り理解したら、テキストの２章を開いて、Moodleから小テストに挑戦して下さい。
