物理的宇宙

物理学を自分なりに再構成することを目指すブログです

確率・統計と情報

←ホーム

確率、情報の哲学

確率とは何か

 古典確率とラプラスの無知解釈、エントロピー最大の原理

 客観確率と頻度主義

 主観確率ベイズ主義

数学的な確率モデルと現実世界の確率の関係

因果関係とは何か、因果関係と相関関係

 ヒュームの因果説

情報とは何か

確率

確率の定義

確率の公理

論理演算と確率の演算、ベイズの定理

確率変数

確率変数と確率分布関数

特性関数

積分

確率母関数

積率母関数

特性値

期待値、分散、標準偏差

中央値

積率

歪率・尖度

共分散、相関係数、無相関

スペクトル分析

パワースペクトル密度

確率変数についての定理

大数の定理

中心極限定理

いろいろな確率分布

離散確率分布

一様分布

二項分布

ベルヌーイ分布

ポアソン分布

幾何分布

パスカル分布

超幾何分布

負の二項分布

連続確率分布

正規分布、標準正規分布

多変量正規分布

対数正規分布

べき分布

指数分布

アーラン分布

確率過程

確率過程の定義

ブラックショールズ方程式

確率のパラドックス

統計

統計データ

確率分布の推定

推定関数の定義、点推定と区間推定

確率変数としての推定量、推定区間についての定義量

点推定と真の値の間の関係

区間推定と真の値の間の関係

推定の良さの基準

一致性

不偏性

有効性

充足性

最適推定量

モーメント法
最尤法

尤度関数、対数尤度関数

曲線の当てはめ

特性値の推定量としての統計量

平均、分散、不偏標準偏差

中央値

積率

歪率・尖度

共分散、相関係数、無相関

スペクトルの推定

ウィーナーヒンチンの定理

ピリオドグラム

実験誤差

実験誤差の種類

誤差の伝播

母集団の推定

有限の母集団から抽出されたデータによる推定

仮説検定

ベイズ推定

確率分布自体が確率変数であるような確率理論、確率分布汎関数

統計的因果推定

因果関係の定義

情報

情報理論

標本化定理

選択情報量

シャノンエントロピー(平均情報量)

結合情報量

相互情報量

条件付き情報量、条件付きエントロピー

相対エントロピー

エントロピー最大の原理

符合理論

暗号理論

参考文献

確率論の古典的名著。数理モデルとしての確率の基礎を把握できる。

確率統計について基本事項がよくまとまっている。ぜひ手元に置いておきたい一冊。