[第七章]贝叶斯分类算法

贝叶斯分类概述

贝叶斯概率基础

条件概率

P(A|B)
在B的条件下A的概率

加法定理

P(A+B)=P(A)+P(B)-P(AB)
  • 对于互斥事件P(A+B)=P(A)+P(B)

乘法定理

P(AB)=P(B)P(A|B)
  • 对于互斥事件P(AB)=P(A)P(B)

联合概率

  • 完备事件组:B1/B2/B3…Bn互斥构成整个事件

先验后验

  • 获取条件之前先验
    • 主观先验
    • 客观先验
  • 获取某些条件限制后的概率:后验

贝叶斯定理

贝叶斯信念网络

  • 有向无环图DAG
    • 一个节点是一个随机变量
    • 指向的是孩子节点
  • 条件概率表CPT
    • 没有父节点则为先验概率
    • 有多个父节点(Y1Y2Y3)则为P(X|Y1Y2Y3)
  • 随机变量A数据对象a
    • p(a1,a2…an)=PAIP(ai|parent(Ai))
    • parent(Ai)是父节点,无父节点则为本身

朴素贝叶斯分类

 

原理

特征向量X(x1x2….)描述属性An类别属性Cm其中后验概率是P(Ai|Cj)可以通过训练样本得出
目的,X(x1,x2…)描述属性的条件下类别属性是哪一个
即求
分母恒定,所以求最大分子即可
  • 先计算P(Ci)
  • 再求描述属性后验概率的连乘
  • 类别属性的先验概率乘每一个描述属性的后验概率。每一个类别属性如此做后找到最大值
    • 离散
    • 连续符合高斯分布
notion image
notion image
 
 

SQL Server朴素贝叶斯分类

电子商务数据的贝叶斯分类

 
Prev
[第六章]决策树分类算法
Next
[第八章]神经网络算法
Loading...
Article List
一个NotionNext搭建的博客
数据库系统概论
大数据原理与应用
javaWeb应用开发基础教程
python
毕业设计
大数据技术综合应用
实训-航空数据系统
java面向对象程序设计
数据结构
算法分析与设计
SPARK
Python爬虫大数据采集与挖掘
云计算
概率论与数理统计
数字逻辑
计算机网络
计算机组成原理
linux
操作系统
人工智能导论
数据仓库与数据挖掘
数据可视化
大数据安全与隐私保护
c语言
C++