学習用記事– category –

アンケートデータなどのテキスト情報を集計・分析する時、"表記揺れ"には非常に悩まされます。例えば、同じ単語でも「Windows10」「Ｗｉｎｄｏｗｓ１０」「WINDOWS10」「Windows-10」・・・といって、人によって様々な書き方があります。このような表記揺...

ナイーブベイズ(単純ベイズ)とは、あるデータがどのカテゴリに属するかを確率的に求める機械学習のひとつです。 特にナイーブベイズが多用されるのはテキスト分類で、例えばメールの文面がスパムか、スパムでないかを推定する「ベイジアンフィルタ」の仕組...

データ分析するためのツールの代表といえばExcelですが、複雑な処理をしたい場合にはExcelでは難しくなってきます。そんな時はPythonの出番です。Pythonでのデータ操作を使いこなせば、どんな複雑な処理であっても自由自在にデータ分析することができます...

ある会社の社員に「あなたにとってこの会社は100点中何点ですか？」というアンケートを取ったとします。その結果、全社員の平均値が昨年60点だったのが、今年は80点に上がりました。この結果を見ると、多くの方は社員満足度が向上したと考えると思います。...

データ分析や統計学を学ぶと、「分散」や「標準偏差」という言葉は極めて序盤に出てきます。なんとなく、「データのばらつき具合の指標」であることは分かっているですが、解釈が分かりづらいためか、実際にこれらの指標が用いられている事は少ないように...

「相関」とは、ある2つのデータが互いにどれほど影響を及ぼしているかを表す指標です。 例えば、ある売店において、「入り口から陳列棚までの距離」と「その商品の売上数」に相関関係があることが分かったとします。そうすると、売りたい商品は入り口付近...

Pythonを用いて、化学式（組成式）を構成元素とその数に分割する方法です。例えば、「C16H10ClN3」というように記載された化学式を、{C:16,H:10,Cl:1,N:3}という辞書データに分解することをゴールとしています。 関数の作成 化学式を入力して、構成要素を...

様々あるデータ分析手法の中でも非常に活躍の機会が多い「クラスタリング」ですが、一体クラスタリングとは何なのでしょうか？ 一概に「クラスタリング」と言っても、その手法は様々です。それらの意味をきちんと理解して使わなければ、正しく分析を行えな...

何かしらで行った数値の「予測」と、「正解」がどれほど離れているかを評価したい時があります。例えば、あるサッカーチームの向こう10回の試合結果を2人で予測し合って、どちらの予想が近かったかで勝負するとします。 予測が3点で正解が5点なら誤差は2・...

相関分析をPythonで実行し、可視化まで行ってみます。Excelでも相関分析は可能ですが、Pythonで実行すれば一度に全データの分布の傾向が一気に見れたり、視覚的に美しい図を作成したりと、ハイレベルな分析が簡単にできます。 データの読み込み 今回は以下...