跳到主要內容

畫分勢力範圍的K-means



如果有一組資料,沒有任何事先的分類標記,有辦法對它們進行分群(Clustering)嗎?呃……通靈比較快!想要分群,總是必須指定某些條件作為依據。


而分群演算法有不少,入門時,常會先接觸到K-means分群,因為它概念上容易理解,實作上也不困難,在機器學習的領域,K-means演算被歸類在非監督式(unsupervised)學習,意即無需人類介入標記,也能自動分群。


以距離來衡量勢力


從結果來看,K-means分群時,確實是不需要標記,但它並不是沒有任何假設就能自動分群。


在使用K-means分群時,其實就意謂著,同意了「資料之間有距離的概念」、「群心勢力範圍內的資料屬於同一群」的假設,也就是實際上,你還是已經告訴機器該怎麼做,簡單來說就是,以距離為勢力依據,尋找勢力均衡。


既然是以距離為依據,那麼,我們透過座標資料來理解K-means分群原理,是最為簡單的方式,若有一堆點散落在座標平面,這些點在視覺上顯然構成兩群,若要對這些點自動標記為A、B兩群,由於K-means的假設是「群心勢力範圍內的資料屬於同一群」,首要任務是尋找群心,然而,窮舉出各點間的組合、逐一計算距離,顯然行不通,因為需要的運算過於龐大。


一般而言,K-means尋找群心的方式,是採取最大期望(Expectation-maximization)演算法,先隨機找兩個位置當群心,接著是期望(Expectation)步驟,看其他點距離哪個群心近(通常採取歐式距離),就將該點畫分為與該群心同一群,最後會得到兩群,再接著是最大化(Maximization)步驟,最大化群心與群中各點的距離,針對兩群的資料,各求其幾何中心,作為新群心,也就是每個座標分量的算術平均值(這也就是為何K-means有means 字眼的原因),作為新的群心座標。


如果舊群心與新群心差距太大(未收斂),重複期望步驟與最大化步驟,直到舊群心與新群心變動不大(在某個差距內),或者是超過了指定的迭代次數而結束。以方才兩群座標為例,若能順利收斂,A群資料至A群心的距離,會小於它們至B群心的距離。


以距離加總來衡量群數


直接指定群數依距離分群,是K-means最常的應用之一,特別是透過資料在距離上的區隔,我們可以明顯觀察出一群一群的趨勢時,透過K-means就非常的方便。


座標之間的距離概念容易理解,然而,像分數之類的,也具有距離的概念,像是各學科分數,例如,有人擅長文科、有人擅長理科,此時,若將文科、理科的分數作為資料,可能也會有一群一群的趨勢;另外,像是人與人間的年紀差距、學歷差距、年收入差距、子女差距、居住城市發展指標的差距等,都是具有距離遠近的概念。


有時候手邊的資料,不見得能夠以可視化的方式,來判斷可以分為幾群(特別是高維資料),或者就算能可視化,也看不出群與群之間的分界為何,這時如何能決定該分為幾群呢?


基本上,同一群資料至其群心的距離,應該不會大於至另一群心的距離,既然如此,如果我們將各群資料各自平方距離的加總,應該可以作為分群個數的參考。


空壓機這裡買最划算!

晨達空壓機秉持著專業空壓機技術、優質快速服務、空壓機合理價格。為您解決工作中需要風量、風壓的問題。


貨櫃屋優勢特性有哪些?

由於貨櫃屋[可移動/施工快速/可組裝、堆疊(延展性高)/可回收/未來擴充便利]等特性,二手貨櫃屋已普遍被應用於展場活動、居家住宅、工業商辦上。

客製專屬滑鼠墊、可愛造型L夾L型資料夾、透明證件套、手提袋,專業印刷設計廠商!

通過SGS環保認證,無毒無害 環保材質符合歐盟RoHs、REACH認證


SMD electronic parts counting machine

累積多年設計生產 Embossed Carrier Tape承載帶的實際經驗,專為電子主、被動零件設計、包裝、製造、改良承載帶、奠定了良好基礎



然而,隨著群數變大,各群平方距離加總必然會變小,為了尋找適當的平方距離加總,我們可以將群數與距離加總可視化為曲線,找出曲線中突然變和緩處的群數,這表示:更多群數終低平方距離加總的效益不大了,而這個方式稱為手肘法(Elbow method)。


另外,群與群之間的輪廓如果是明顯的,重疊的部份理應比較小。事實上,有一種稱為輪廓係數(Silhouette coefficient)的方式,我們可以用來評估群與群間的輪廓,計算方式為b*a/max(a, b),a是群中各點間的平均距離,b是某群中各點與最接近群中各點間的平均距離,而且,輪廓係數越大,分群的品質就越好。


只不過,找出可能的群數後,各群代表的意義,是必須去思考的,例如,給你一堆圖片,若透過手肘法、輪廓係數分析後,認為可以分為十群,那這十群代表什麼呢?如果圖片其實來自MINST手寫數字圖片資料集,能猜出這些圖片分群後代表著十個數字嗎?


也就是說,K-means可以作為一種分析資料的工具,例如,你手中有一組人們的資料,包含了學歷差距、收入差距、年紀、居住縣市(經緯度、離首都的遠近)等,這些資料會不會有某種群聚性呢?分為三個群,合理嗎?還是要四個、五個?如果這些資料能夠分群了,那麼,這些群個別又代表什麼意義呢?政治取向?消費習慣嗎?


以勢力的中心作為代表


使用K-means分群後,群心勢力範圍內的資料屬於同一群,談到勢力範圍,我們可能會直覺地聯想到Voronoi,其中每個細胞的核心,就相當於分群後的群心,細胞邊界規範的勢力範圍,就畫分了資料屬於哪一群,確實!若視覺化後群與群之間有明顯的群聚,透過沃羅諾伊圖(Voronoi Diagram),我們可以畫分出群與群之間的勢力界線。


群心是勢力範圍的幾何中心,是群中資料的平均值,若使用群心來取代該群中每一筆資料,不就可以是一種壓縮資訊的方式?例如,彩色圖片具有RGB三原色,而RGB的資訊可以當成座標資訊、畫在三維空間,相近的色彩在三維空間中,會有距離上的相近,若將之分群,以群心的RGB來作為同群的顏色,就可以減少色彩資訊。


可能的應用之一是,在印刷一張彩色圖片時,只能使用K個顏色,這時透過K-means來分出K群,找出群心的RGB資訊,使用群心顏色填滿同一群,也就是相近的顏色(不是像素座標上的距離相近)最後都變成同一色,最後圖片的顏色會被壓縮K個(不是像素被壓縮為K個)。


從另一方面來看,使用群心來代表該群資料,代表著n筆資料可以被壓縮為K筆資訊,也就是說,K-means某些程度上也可做為一種降維工具。無論是單純地壓縮資訊,或作為降維,K的選擇是直接視需求而定,跟平方距離加總、輪廓係數等的評估就無關了。


其他形狀的勢力範圍


使用K-means,其實,還有另一個假設,那就是:在採取歐氏距離的情況下,就二維來看,勢力範圍基本上是個圓形,三維來看是個球形,圓或球之間會有受到擠壓的界線;然而,資料不見得會群聚為這類形狀,畢竟你應該也看過群聚為橢圓、狹長形狀等的資料。


有種高斯混合模型(Gaussian mixture models)類似K-means,同樣採用最大期望演算,不過,它增加了權重與高斯機率分佈等,來作為資料分群與尋找群心的依據,如此一來,各群的勢力範圍就不會單純是圓或球之類的形狀,甚至可以進行複雜的非線性分群。


綜合來說,K-means的原理雖然簡單,就結果而言是分群沒錯,然而重點在於分析資料是否具備距離的概念,以及分群後各群或群心代表的意義,如此就能衍生出多元化的應用。

https://www.ithome.com.tw/voice/146393


票選推薦煮婦最愛手壓封口機,省荷包不犧牲品質

意信臻專營:封口機、各式包裝機械、專業製造、全省批發零售



幫你考照過關,堆高機裝卸操作教學影片大公開 !

上千家公司找到最適合的堆高機搬運方案,專業的規劃與完善的售後服務,讓孚克力堆高機與各大知名廠商建立長期合作。


總是為了廚餘煩惱嗎?

雅高環保提供最適用的廚餘機,滿足多樣需求。


全自動飲水機與一般飲水機差異在哪?

推薦各種冰溫熱開飲機飲水機:台銀採購契約飲水機、日本進口電解水機系列、落地型飲水機




Orignal From: 畫分勢力範圍的K-means

留言

這個網誌中的熱門文章

《商情》期金續疲;原油回跌;期銅觸六周新低;小麥創兩個月新低

時報-商情早報 1.美元走強 紐約期金續疲。 2.LME:08/14期銅收8291.50美元/公噸,跌3.00美元。 3.NYMEX:9月輕質原油跌0.68美元,每桶為82.51美元。 4.西德州原油下跌0.67美元,每桶為82.50美元。 5.08/14BDI運費指數為1135.00。 6.SICOM:天然橡膠9月期貨RSS3下跌0.50美分。 7.NYCE:10月棉花跌1.64美分,每磅為87.65美分。 8.CBOT:8月黃豆粉漲25.40美元,每公噸為462.30美元。 9.08/14TRJ-CRB下跌1.64,為278.10。 10.SGX:62%鐵礦石報每公噸103.47美元,跌1.40美元。 感應門神 ,總是為了廚餘煩惱嗎?雅高環保提供最適用的 廚餘機 ,滿足多樣需求。把原有 貨櫃屋改裝 成任何尺寸大小及多咖貨櫃合併。 空壓機 這裡買最划算!優質快速服務、空壓機合理價格。精緻包裝 茶葉罐 ,也能撐場面! 示波器 探測執行效能最佳化的8大秘訣;(全省) 堆高機 租賃保養一覽表,由簡易堆高機修改而成,無需現場施工,交機即可使用!哪裡買的到省力省空間,方便攜帶的 購物推車 。客製專屬 滑鼠墊 、可愛造型 L夾 、 L型資料夾 、透明證件套、手提袋,專業印刷設計廠商! 二手貨櫃屋 已普遍被應用於展場活動、居家住宅、工業商辦上。掌握產品行銷策略,帶你認識商品 包裝設計 基本要素。各種精緻鐵盒包裝 茶葉罐 、禮品罐,增加商品收藏及實用性。 Peel Force Tester ,協助客戶導入半導體設備、 工業型機械手臂 以提高產能及加工技術,工業型 無線充電裝置 、精密加工元件; 噴霧式乾燥機 賣場 商品防竊 是怎麼做的 商情綜述: 1.貴金期貨-美元走強,周一紐約期金續疲;因美元指數(DXY)上漲0.3%,觸及一個月最高,削弱投資人以美元計價的黃金購買吸引力,以及美國10年期公債殖利率上升,令金價觸及一個月最低;周一(08/14)收盤報價,12月黃金跌2.60美元,報每盎司1944.00美元;9月白銀跌0.03美元;10月白金跌7.80美元;9月鈀金跌36.20美元。(王思涵整理) 2.LME基本金屬-中國房地產債務危機,期銅觸六周新低;...

澳洲19歲少年英勇大營救 燒傷無尾熊坐滿車上

摘錄自2020年1月10日星島日報報導 澳洲山火持續,有專家估計10億隻野生動物喪生於大火,日前一名19歲少年和他的堂兄弟兩人自發展開無尾熊救援行動,一群受傷的無尾熊瑟縮在他們的車內,令人既悲傷又感動。 澳洲19歲少年米卡(Micah)和18歲的卡勒布(Caleb)是堂兄弟,在當地被稱為「無私的少年英雄」,因為他們在災害最嚴重的地區之一袋鼠島(Kangaroo Island)附近努力營救被大火圍困的無尾熊。 兄弟二人計劃暫時照顧這些受傷的無尾熊,等到一切都安全了才會將牠們放歸自然。同時,他們也因為英雄般的舉動廣受網民讚揚,同時引發更多人參與救援行動。 本站聲明:網站內容來源於https://e-info.org.tw/,如有侵權,請聯繫我們,我們將及時處理【其他文章推薦】 ※ 牙冠增長術 治療費用   ※ 過40歲拉警報?何時該看「 不孕症 」門診? ※微感冒得吃藥? 紫錐花   紫錐菊 打擊感冒效果增六成 ※牙齒矯正通常 隱適美費用 要多少? ※早期發現早期治療!一張表讓你看懂 癌症檢測 、 性病篩檢 流程! ※ 菜花皰疹 病源不同性行為非唯一感染途徑 Orignal From: 澳洲19歲少年英勇大營救 燒傷無尾熊坐滿車上

歐盟擴大懲俄油 貿易新亂流

繼針對俄羅斯原油設限的制裁措施之後,歐美與G7盟國5日將擴及俄國精煉石油產品,包括柴油和航空燃料。能源分析師擔心,歐盟升高俄油制裁,恐徒增油市及全球貿易流混亂。 歐美同意將俄國柴油等石油產品價格,限制在每桶100美元,至於俄產燃料油或工業潤滑油,價格上限為45美元,引發油市供給混亂加劇的疑慮。 為避免克里姆林宮從石油收入取得戰爭財源,歐盟和七國集團(G7)對俄國海運原油頒禁運令後,去年12月5日加碼對俄國石油設每桶60美元的價格上限。而2月5日起,此俄油限價的制裁措施,將從原油擴大到精煉石油產品。 但政治風險諮詢公司歐亞集團(Eurasia Group)分析師警告,歐盟制裁俄國精煉油品帶來的破壞性衝擊,恐怕比之前制裁俄國進口原油還大。 總是為了廚餘煩惱嗎?雅高環保提供最適用的 廚餘機 ,滿足多樣需求。把原有 貨櫃屋改裝 成任何尺寸大小及多咖貨櫃合併。 空壓機 這裡買最划算!優質快速服務、空壓機合理價格。精緻包裝 茶葉罐 ,也能撐場面! 示波器 探測執行效能最佳化的8大秘訣; 臭氧機 的滅菌效果如何?(全省) 堆高機 租賃保養一覽表,由簡易堆高機修改而成,無需現場施工,交機即可使用!哪裡買的到省力省空間,方便攜帶的 購物推車 。客製專屬 滑鼠墊 、可愛造型 L夾 、 L型資料夾 、透明證件套、手提袋,專業印刷設計廠商! 二手貨櫃屋 已普遍被應用於展場活動、居家住宅、工業商辦上。掌握產品行銷策略,帶你認識商品 包裝設計 基本要素。各種精緻鐵盒包裝 茶葉罐 、禮品罐,增加商品收藏及實用性。 Peel Force Tester ,協助客戶導入半導體設備、 工業型機械手臂 以提高產能及加工技術,工業型 無線充電裝置 、精密加工元件; 噴霧式乾燥機 英國經濟學人智庫(EIU)分析師謝伍德(Matthew Sherwood)指出,歐盟市場還在等著替代油源之際,最新俄油制裁措施一出,料會引發混亂,石油產品背負上漲壓力將更普遍。 謝伍德還提到,EIU團隊預期全球貿易會改變流向,俄國石油將多輸往中國、印度、中東及非洲,歐洲則大舉從印度、中國、中東、美國進口原油,但可能因此增加運輸成本。能源分析師老早對G7設俄油價格上限的效果存疑,莫斯科當局大可將原本要海運到歐洲的原油,轉而出口到中國、印度、土耳其。 歐盟呼籲中印...