学習用記事– category –
統計学・機械学習などの理論や、プログラミングの学習に活用できる記事です。
-
Pythonによる日付・時刻の計算
Pythonによる日付や時刻の計算方法を整理しました。 現在時刻の取得 まずはdatetimeライブラリをインポートします。現在日時の取得は簡単で、nowメソッドを呼び出します。 [crayon-6876cbc0552ae728475446/] [crayon-6876cbc0552b0299452396/] これで、現... -
「系統解析」の意味と様々な手法
系統解析とは、生物の持つDNAなどの情報を基にして、生物の進化の過程を推測する技術のことを言います。複数の生物の進化の過程をトーナメント表のように表した「系統樹」と呼ばれる図を作成する事が多くの場合の目的になります。 系統樹を生物の教科書な... -
「平均適合率」と「MAP」の意味
予測された「ランキング」がどれだけ正解に近いかを評価したい事があります。例えば、Googleのような文章検索システム。例えば「人工知能 仕組み」という言葉で検索したとすると、関連するホームページが上位に大量に出てきます。 人工知能の仕組みについ... -
Pythonでランダムフォレストを実行する方法
Pythonを使ってランダムフォレストを実行してみます。決定木分析を基調とした手法なので、先に決定木分析の記事を読んで頂いてからの方が分かりやすいかもしれません。 https://analysis-navi.com/?p=2007 ランダムフォレストとは 一言で言えば決定木分析... -
PythonによるSVM(サポートベクターマシン)の実行
Pythonで機械学習のひとつSVM(サポートベクターマシン)を実行してみます。1963年に基礎理論が発表されてから未だに使用される事の多い、機械学習の代表的手法です。 サポートベクターマシンとは 以下のように、座標平面上に2種類のデータがあるとします。 ... -
Pythonで同時に使われやすい単語ペアを調べる(共起分析)
Pythonで共起分析を行います。 共起分析とは、文章の中で「同時に使われやすい言葉」を調べる分析手法です。(ネットワークをグラフィカルに図示したものを「共起ネットワーク」と呼びます。) 以前、文章中の頻出単語を調べてみましたが、単純に文章中の... -
仮説検定の手法一覧と、それらの使い分け方
「仮説検定」というのは、「ある仮説」が正しいのか間違えているのかを統計学的に検証する方法の事を言います。 調べたい事柄がどんな事でも同じ手法を適用すれば良い訳ではなく、一体どんな仮説を検証したいかによって適切な手法は変わってきます。 そこ... -
Python+Doc2Vecで似た意味を持つ文章を調べる
以前、単語をベクトル化できる技術「Word2Vec」を用いて似た意味を持つ単語を調べてみました。今度は、文章をベクトル化できる技術「Doc2Vec」を用いて、似た意味を持つ文章を調べてみます。 https://analysis-navi.com/?p=2258 Doc2Vecは2014年に発表され... -
Pythonによるワードクラウドの作成方法
「ワードクラウド」とは、文章中に現れる出現頻度の高い単語を抽出し、1枚の絵にしたものです。ある文章がどんな傾向なのか視覚的に"パッと見"で分かるので、手っ取り早く、かつ取っつきやすい方法のひとつです。 オンラインでワードクラウドが作成できる... -
Python+Word2Vecで似た意味を持つ単語を調べる
文章中に含まれる「単語の使われ方」を見て、そこから単語同士の類似性を測ってみます。 そのためには単語を数字のベクトルで表現する必要があるのですが、今回はGoogleが2013年に発表した「Word2Vec」という技術を用いて行ってみます。当時、「王様」-「...