-
-
ロジスティック回帰とROC曲線
ロジスティック回帰 2値の特徴量tを持つトレーニングデータ(x,y,t)を正解/不正解に分類する問題を考えたとき、最尤推定によりモデルf(x,y)を決めるのがロジスティック回帰。モデルf(x,y)がト …
-
-
ロジスティック回帰 教師有り確率的分類モデル
2種類の値tを持つトレーニングデータ{(xn,yn,tn)}を正解/不正解に分類するパラメトリックモデルを立てて、パラメトリックモデルと不正解に分類されるトレーニングデータの距離E(w)が最小になるw …
-
-
パーセプトロン
(x,y)平面上のサンプルデータ(xn,yn)が、(x,y)平面を分割する1次多項式f(x,y)=w0+w1x+w2y を基準に f(xn,yn)>0 であれば正解、f(xn,yn) 0 \Right …
-
-
最尤推定 確率分布をもったトレーニングデータの学習
前回までのエントリでトレーニングデータからパラメトリック曲線とそのパラメタの導出方法を書いた。 観測点(xn,tn)の背景にあるパラメトリック曲線を求める パラメタの評価式を決定する 評価式の値が最良 …
-
-
最小二乗法 パラメトリックモデルのパラメタ決定と過学習
2017/03/07 -機械学習
パラメトリックモデル, 最小二乗法, 過学習一つ前のエントリ”トレーニングデータからパラメトリックモデルを決定してみた“では、トレーニングデータからM次多項式曲線を求めてみた。このエントリではMの候補の中から一つを見つけ …
-
-
最小二乗法 トレーニングデータからパラメトリックモデルを決定してみた
2017/03/06 -機械学習
パラメトリックモデル, 最小二乗法トレーニングデータが与えらえたとき、与えられたトレーニングデータを最もうまく説明する構造を決めて、その構造から未来のサンプルを予測/説明するという試みがある。トレーニングデータを正解として扱うことにな …
-
-
WordPressで数式を書くプラグイン MathJax-LaTeX を使って見る
機械学習の各種アルゴリズムを読み解いていく際に、高頻度で確率統計に現れる数式が現れる。機械学習を習得していくにあたってWordPressに習得内容をまとめていきたいな、等と思うと、やはりHTMLで数式 …
-
-
機械学習 決定木 サンプルデータ(iris)をRのrpartに通してみた
2017/03/02 -機械学習
教師有り学習の基本、決定木の動作を実データを使って確認してみた。 データの集合が以下の通り与えられていたとする。 (x,y)i = (x1,x2,x3,……,xk,y)i 決定 …
-
-
Q-Lerningを試してみる(座学編)
2016/08/05 -機械学習
そういえばQ熱って感染症があったな。不明の(Query)熱という意味だそうな。関係ないがQというパズルゲームがあって名作らしい。 食わず嫌いをしていても仕方がないのでちょっと調べてみた。割と単純な探索 …
-
-
重回帰分析と教師あり機械学習
2016/08/02 -機械学習
機械学習と多変量解析は本質的に同じ。 重回帰分析 観測された事象から目的変数と説明変数の関係をモデル化する。 目的変数 = a×説明変数1+b×説明変数2+c×説明変数3+d 機械学習 大量のデータを …