2008年6月17日 星期二

問一下"貝氏定理"是在說些什麼?

之前學data mining…到處找來的文章…


它是一種統計學......

在十八世紀後期,貝氏(Reverend Thomas Bayes, 1702-61)在玩弄著條件機率的公式時,忽然有個驚人的發現--這些公式都是內部對稱的。
  假設有兩事件在一段時間內發生,就像先洗牌再發出五張玩梭哈的牌,這時我們就稱這兩個事件分別為「前」(before)與後「後」(after)。說後面事件發生的機率以前面發生事件為條件,是有意義而且說的通的;如果牌沒洗好,當然會影響玩家得到一對A的機率。貝氏發現也可以反過來,計算後面的事件已發生的條件下,前面事件發生的機率,這實在很詭異,也沒什麼道理。就像玩家已經拿到一對A以後,再來看看整副牌裡有四張A的機率是多少,或是已知一個病人罹患了肺炎,在回過頭計算他是隱君子的機率。
  貝氏把這些計算放一邊,沒在生前張揚,但他死後,這些論文被人發現,也發表出來,從那時起,貝氏定理就令許多統計分析學家相當迷惑。貝氏把條件機率反轉過來,並不是說不通,相反的他在很多地方大有名堂。例如當流行病學家想找出某種罕見醫學狀況的可能原因,就會用到貝氏機率。而比這種直接用貝氏定理~條件機率反轉過來~更重要的用途,是用來估計分部的參數。大家一值有一種想法,就是參數本身也是隨機的,因此可以計算和這些參數有關的機率。例如說,假定我們想比較兩種癌症治療法,並希望得到像「我們有95%的把握,A治療法的五年存活率會比B治療法高」的結論,我們只要應用貝氏定理一至兩次,就可以辦到。
http://www.math.ncu.edu.tw/~xusw/math1.htm



貝氏定理算出 有上帝存在 機率67

雖然「上帝是否存在」這個問題通常被認為是一種「信則有不信則無」的信仰問題,不過曾專職為美國政府預測核子災變風險的英國物理學家昂溫(Stephen Unwin)博士宣稱,他利用統計學中著名的貝氏定理,推算出上帝存在的機會為67%。
昂溫說上帝是否存在不只是宗教上的問題,更是一個統計學問題。他使用來推算上帝存在與否的基本機率公式為PG/E=APG×PE/G)。

其實這是一種特殊的條件機率,其中的PG/E)代表大自然出現各種現象(E)時上帝存在的機率,等於是上帝存在的假定機率APG),乘以上帝存在時出現這些現象的機率(E/G)。

 畢業於英國曼徹斯特大學的昂溫,先假定上帝存在和不存在的機率各為50%,然後以各種支持和反對上帝存在的證據(現象),如超自然現象和祈禱後出現神蹟的個案為上帝存在的證據,天災人禍和無神論理據則為上帝不存在的證據,來計算上帝存在的各種可能機率,結果得出上帝存在總機率為67%。
文章錄自yahoo奇摩新聞(2004-04-06)
http://knight.fcu.edu.tw/~a08/index34.htm

貝氏定理是用作求條件機率的一個公式
是指 (B事件)發生的狀況下 (A事件)也發生的機率 P(A|B)表示

P(A|B) = P(A
交集B) / P(B)

意思就是先求出(A事件)(B事件)皆發生的機率
再求(B事件)發生的機率 因為(B事件)是現在的樣本空間

兩者相除就是條件機率 用貝氏定理處理

貝氏定理可以用中文的一句話來說明,就是事後的先見之明,一般用來處理的況是由結果推測發生的原因,在各種疾病防治領域運用很廣

例如,已知一千人中,有三百人抽煙,七百人不抽煙,得肺癌的有二十人,這二十個人裡有八個抽煙,十二個不抽煙,能不能從這些資料裡去推算抽煙較易導致肺癌的結論?
要計算的東西有兩個,一個是抽煙的人得肺癌的機率是8/300,另一個是不抽煙的人得肺癌的機率12/700,由於8/30012/700來得大,所以可以推估抽煙較易得肺癌

貝氏估計法兩類,貝氏估計又分為最大後驗法(maximum a posteriori,MAP)與期望後驗法(expected a posteriori,EAP)。

貝式估計法使用在適性測驗(即因材施測式的測驗方式)當中,與最大近似估計法都是常用的能力評估方法。最大近似值估計法的估計效能很好,但遇到題數少或估計值無法收斂時,都會產生很大的問題;貝氏估計法雖能克服這些困難,但對事前分配的假設如果不當的話,卻會產生有所偏差的能力估計值。

在使用上,若以貝氏估計法來選題的話,則可以估計能力之變異數小到某個預定的標準時,便可終止施測。此外,如果前述兩種標準均很慢才達到的話,也可以預設施測試題的上限,只要題數一測完,即使尚未達到預定的標準,也可以終止施測,以避免漫無止境地繼續下去,浪費考生的許多寶貴時間。

Owen(1969,1975)
所提出貝氏估計法(Bayesian procedure),認為能力的後驗 (posterior) 機率分配是最大概似函數以及能力先驗 (prior) 機率分配相乘的結果 (Hambleton & Swaminathan 1985),因此,只要預先假設受試的能力,再根據答題結果計算出 MLE ,就可以得知受試能力估計值。

貝式估計法亦常用於預測推估,以及影像處理上。

另一個貝式估計法衍申出來,就是常聽到的馬可夫鏈蒙地卡羅法。

點估計的意思是,從樣本的函數類中求一個與總體的某參數(均值、標準差、 比例等)靠近的函數。這個樣本的函數就是該參數的點估計。

貝式估計是一種機率,因此並非為點估計。

貝氏定理為條件機率的一個應用...
簡單的貝氏定理公式如下:
A B 為同一出象空間的兩個事件...而且 P(A)≠0...P(B)≠0...
P(A|B)=P(A∩B) /P(B)
詳細的公式打不出來..
不過小妹在清大數學系教授的網頁找到這個文件檔寫得很清楚..
提供給閣下做參考:
http://chao.stat.nthu.edu.tw/Stat2130/paper/p4.doc

條件機率和貝氏定理之間的關係和個別解釋?

條件機率P(A|B)=P(A交B)/P(B)
貝氏定理P(A|B)=P(A)*P(B|A)/P(A)*P(B|A)+P(A')*P(B|A'

為什麼有時候條件機率不需用到貝氏定理
她們之間的不同和關聯是什麼?

同樣都是求P(A|B)
如您所列出的公式:
(1)
條件機率的公式 是在已知事件B發生的機率時用的

(2)
貝氏定理的公式 是在尚未知事件B發生的機率時用的,
但我們可從題幹的條件P(A)與P(B|A)與P(A')與P(B|A')求出P(B)
也就是說
∵P(BA)=P(B∩A)/P(A
=>
P(B∩A)=P(A)*P(BA
同理,P(B∩A')=P(A')*P(BA'
∴P(B)=P(B∩A)+P(B∩A'
=P(A)*P(B|A)+P(A')*P(B|A'

條件機率是用在某種條件下的機率

貝氏定理是用在算事前機率與事後機率的一種方法
即事前機率--新的資訊--貝氏定理--事後機率

雖然式子一樣,有些部份所代表的意義並不一樣

請問一下貝氏的最大後驗法???

可否請問一下,順便詳細說明:
1.
貝氏的最大後驗法
2.maximum-likelihood(ML)

貝氏機率à 事後機率, 以事前機率與條件機率調整求算事後機率。

Thomas Bayes(1702-1761)英格蘭牧師 所提出

P(A∩B) / P(A) = P (B | A) = P (A | B) P ( B) / P (A)

Maximum likelihood (ML)方法和Maximum parsimony方法一樣必須先畫出所有可能的樹形,但是判斷樹形優劣所依賴的數值(criterion)則是樹形產生序列資料的最大可能性,再由各樹形中找出可能性最高者。因此在繪出各種樹形之後,就必須先求出各個樹形的可能性函數(likelihood function),利用下式來表示:

(t, q) = Prob ( Data | t, q) =

Prob ( Aligned sequences | tree, model of evolution) (1)

其中L(t, q)代表在已知序列資料的條件下,特定演化模型(包括樹形與核苷酸取代模型)產生此序列資料的可能性,此函數的形態與機率函數Prob ( Data | t, q)相同,此函數預測以固定的演化模型產生特定序列的機率。


以下列樹形(圖一)為例

先設定使用的演化模型,假設為JC69,則已知

(2)

(3)

Pij(t)為在經過時間t之後任一位置由核苷酸i轉變為j的機率

使用公式(2)(3)可以計算出樹中每一個分枝發生的機率

而此樹形的可能性函數即為

Pr[Dj, t, M] = (4)

貝式最大後驗法:用交集方式替換得到之貝式機率

最大概似法:以條件機率列出所有情形選取機率最大值的方法

條件機率的應用時機為何?

一袋中有5個藍球 3個紅球 大明先從袋中抽球看其顏色後不放回
小華再從袋中抽球 令A表大明抽到紅球的事件 B表小華抽到紅球的事件
P(B|A)=2/7   因為小華拿球時 袋中只剩下2紅5藍
P(B|A')=3/7   因為小華拿球時 袋中只剩下3紅4藍

甲乙丙三射手同射一靶 每人一發 已知甲乙丙三人射擊命中率依次為2/3、3/4、4/5
且個人命中靶面的事件為獨立事件
若已知靶面恰命中一發 則這發是甲命中的機率為2/9 (靶面恰命中一發的機率為3/20)

為什麼第一個例子感覺直接把小華的事件在心中已經發生 然後直接只算小明發生的情況
第二個例子卻是要P(命中一發 交 甲命中)/P(命中一發)
為什麼不能在心中已經知道洽命中一發且這一發是甲發出
直接就P(A)*P(B')*P(C')?

訂正一下.題目裡這句
"
為什麼第一個例子感覺直接把小華的事件在心中已經發生 然後直接只算小明發生的情況"
應改成
"
為什麼第一個例子感覺直接把大明的事件在心中已經發生 然後直接只算小華發生的情況"

第一個題目中
P( B | A ) . A 事件是已經發生.
而且可以很明確的描述如下:
大明抽走一顆紅球.且袋中剩25

除此之外.無任何可能.因此心中就當已經發生了

就好像登記參選的候選人只有一個(又叫同額競選)
只有一種可能.就是他當選

第二個題目中
X = 恰命中一發
A = 甲命中
P ( A | X ). X 事件是已經發生.
而且可以很明確的描述如下:
靶面恰中一發
但是這個情形.並無法確認.是誰命中的...

甲命中.另二人沒中 有可能 = P(A)*P(B')*P(C'
乙命中.另二人沒中 也有可能 = P(A')*P(B)*P(C'
丙命中.另二人沒中 還是有可能 = P(A')*P(B')*P(C)

在三種都有可能的情況下.
就不能在心中已經知道恰命中一發且這一發是甲發出
(
這樣擺明了偏袒甲...乙丙會抗議的)

請問你的意思是這樣嗎?
就是在第一例當中
小華前面條件的情況只有一種 所以P(明抽紅 交 華抽紅)包含於P(明抽紅) 然後直接著眼明抽紅當中的華抽紅
在第二例當中
因為條件的情況有三種 一塊餅(恰中一箭)被三個人分走

Ans : Yes.
是的

那依照貝氏定理 第一例要怎麼講?

Ans:
貝氏定理 討論 事前機率與事後機率的關係
第一例.不是這類題目
第二例.
甲命中機率 = 2/3 .........(這是事前機率)
已知靶面恰命中一發 .........(這是事件發生)
則這發是甲命中的機率為2/9......(這是事後機率)
這才是貝氏定理的模式...

用感覺的不準!
你要先了解條件機率的定義:
P(B|A)=P(BA)/P(A)

這道理很簡單,
如果你把 A 當作是樣本空間 S
P(B|S)=P(B∩S/P(S)是不是 P(B)!?

所以條件機率P(B|A)代表在 A 事件發生的條件下,B 事件發生的機率,
當然是以 A 事件為樣本空間,
且在 A 事件發生的條件下,B 事件發生的情形當然是B∩A

所以第一題中
大明先從袋中抽一球後,袋中只剩下 7 球,
A代表袋中剩下2紅5藍,取一球有n()C(7,1)7種情形
'代表袋中剩下34藍,取一球有n(')C(7,1)7種情形
B表小華抽到紅球的事件
所以n()C(,1)2n(')C(3,1)3
則P(B|A)=2/7;P(B|A')=3/7

第二題
已知靶面中一發,有可能是甲或乙或丙打中的,
甲打中的機率=(/3)(1/4)(1/5)
乙打中的機率=(1/3)(3/4)(1/5)
丙打中的機率=(1/3)(1/4)(4/5)
所以 P(靶面中一發)(/3)(1/4)(1/5)+(1/3)(/4)(1/5)+(1/3)(1/4)(4/5)9/60
P(甲打中的|靶面中一發)
=P(甲打中的靶面中一發)/P(靶面中一發)
=P(甲打中乙沒打中丙沒打中)/P(靶面中一發)
[(/3)(1/4)(1/5)]/(9/60)
2/9

用定義想,
兩題的道理都一樣喔!

複合事件常為事件的聯集與交集
*通常使用列聯表來表示
*使用的公式方法
加法規則 (Additive rule)
條件機率規則 (Conditional probability formula)
乘法規則 (Multiplicative rule)

使用於複合事件聯集事件的機率求解
P(A OR B)= P(A U B)
= P(A) + P(B) - P(A∩ B)
*互斥事件時:
P(A OR B)= P(A U B) = P(A) + P(B)
條件機率
*當另一事件發生後某事件發生的機率
*當另一事件發生後新的訊息改變了原來的樣本空間排除了一些樣本點(結果)
P(A | B) = P(A and B)
P(B)
□Independence
獨立事件:
1.
A事件的發生不影響B事件發生的機率時Event occurrence does not affect probability of another event
投擲一硬幣兩次Toss 1 coin twice
2.
不具有引發或因果關係Causality not implied

乘法規則:
*使用來計算複合事件中交集事件的機率,也稱為交乘事件
*A交集B的機率為P(A and B) = P(A ∩ B)
= P(A)*P(B|A)
= P(B)*P(A|B)
*對於獨立事件For independent events:
P (A and B) = P(A ∩ B) = P(A)*P(B)

貝氏定理是用作求條件機率的一個公式
是指 (B事件)發生的狀況下 (A事件)也發生的機率 P(A|B)表示
P(A|B) = P(A
交集B) / P(B)

意思就是先求出(A事件)(B事件)皆發生的機率
再求(B事件)發生的機率 因為(B事件)是現在的樣本空間
兩者相除就是條件機率 用貝氏定理處理

條件機率=所給條件與所求事件的交集之機率/所給條件的機率
P(A|B)=P(A與B交集)/P(B)

1.甲有兩個孩子,其中至少有一個是男孩,問兩個都是男孩的機率?

事件B「至少有一個是男孩」→機率3/4(因為兩個都是女生的機率是1/4,所以至少有一個是男孩的機率是3/4)
事件A是「兩個都是男孩」
A與B之交集:兩個都是男生。

所求=P(A|B)=P(A與B交集)/P(B)=(1/4)/(3/4)=1/3

2.乙也有兩個孩子,其中老大是女孩,問兩個都是女孩的機率?

事件D「老大是女孩」→機率1/2(任何一個孩子是女孩的機率都是1/2)
事件C是「兩個都是女孩」
C與D之交集:兩個都是女生。

所求=P(C|D)=P(C與D交集)/P(D)=(1/4)/(1/2)=1/2

.5個完全相同ㄉ碗(1)14(2)23(3)32(4)41(5)50.
隨機抽取任1個碗中ㄉ2個球,取出不放回.
1.
請問2個都是抽中白球ㄉ機率是多少?
2.
2個都是抽中白球,請問由第3個碗抽中ㄉ機率為多少?

.2個賭徒身上各有6,2人對賭,賭金為每次1.
1.
請問2人玩6次後打成平手ㄉ機率為多少?
2.John
在第10次讓對方書光ㄉ機率為何?

一、
1.
每個碗被抽中的機率 1/5
取出不放回W.O.R且有先後順序~排列 n!/(n-r)!
用貝氏定理(樹狀圖) 我不會在上面畫圖= =
我的算式為: P(兩顆白球)=1/5 ( 2/5*1/4+ 3/5*2/4+ 4/5*3/4 +1 )=2/5 有錯的話聯絡俺= =( 算錯的答案給人很丟臉..XD)

2.條件機率 : <--是交集啦..打不出來..XD
P(
第三碗 | 兩顆白球)=P(第三碗 兩顆白球) / P(兩顆白球)=(1/5*3/5*2/4)/ (2/5)=3/20 ( 有錯跟我講嘿~ 感恩)

1.C63*(1/2)^3 *(1/2)^3
我們有興趣的是打平手的機率~
分別所以6局最多贏3局才會平手,而我們不知道是哪
三局贏,所以是"C63"
且贏的機率(1/2)不變 用二項分配X~B(n,p)

A隊與B隊舉行一系列的競賽. 先獲得三場勝利的隊伍就贏得此系列的競賽. 每一個隊伍每一場比賽獲得勝利的機會相等, 每一場比賽必須分出勝負, 且各場比賽的結果都不會互相影響. B隊贏了第二場比賽且A隊贏得此系列的競賽, B隊贏得第一場比賽的機率為多少?

aA贏,bB贏。
B隊贏了第二場比賽且A隊贏得此系列的競賽的情形有:
abaa :
機率1/16
bbaaa :
機率1/32
abbaa :
機率1/32
ababa :
機率1/32
根據貝氏定理,B隊贏得第一場比賽的機率為1/32/(1/16+1/32+1/32+1/32)=1/5