Voor- & nadelen van methodes (data&AI)
CLUSTERING
Hard clustering
1. Hierarchical clustering
GEBRUIKEN:
o Voor exploratieve analyse: eerste blik op structuur van dataset
dendrogram geeft overzicht van hoeveel clusters er
ongeveer zouden kunnen zijn
o Kleine dataset (< 1000)
NIET GEBRUIKEN:
o Grote datasets rekentijd ~ n2
o Online data
o Gevoelig aan ruis & outliers (zeker bij single linkage methode)
o Hierarchical clustering forceert het vormen van
clusters/definiëren van clusters forceert structuur, ook al is
die er niet echt
o Eenmaal punt tot cluster is toegekend, algoritme komt hier
niet meer op terug
1.1. Single linkage: bij kettingstructuren (gevoelig voor outliers)
1.2. Complete linkage: bij compacte & goed gescheiden clusters
1.3. Average linkage: compromis tussen vorige 2
1.4. Ward linkage: bij ronde, compacte clusters (enkel Euclidische
afstanden)
PARAMETERS: geen
2. Partitioning clustering
PARAMETERS: k (& gamma bij prototype)
GEBRUIKEN:
o Grote datasets (minder rekenintensief)
o Als je #clusters ongeveer kent (je kent k)
o Compacte & goed gescheiden clusters (vaak rond & ongeveer
zelfde grote/dichtheid)
o Geen hiërarchie
NIET GEBRUIKEN:
o Onbekend #clusters
o Kleine dataset & nood aan interpretatie (dendrogram beter
van hiërarchische clustering)
1
, o Niet-ronde clusters (bv langgerekte clusters/ketens of bij zeer
verschillende dichtheden)
o Bij ruis forceert alle punten in een cluster
2.1. K-means: bij veel numerieke data, k gekend, rond & compact
(gevoelig aan outliers/noise & probleem bij kiezen van random
centroïds)
2.2. K-means++: stabieler dan k-means (centroids beter gekozen in
begin, voor de rest zelfde als k-means)
2.3. K-mode: bij veel categorische data, k gekend (gevoelig aan
outliers/noise)
2.4. K-prototype: bij combinatie van numerieke & categotische data
(enkel bij combinatie dus gebruiken, gevoelig aan ruis, DATA MOET
GENORMALISEERD ZIJN EERST)
PARAMETERS: k (& gamma bij 2.4)
3. HDBSCAN (hierarchical density-based spatial clustering of applications
with noise)
GEBRUIKEN:
o Onbekend aantal clusters (k wel gekend)
o Clusters met verschillende dichtheden
o Bij ruis & outliers
o Niet-bolvormige clusters
o Exploratieve analyse want heeft ook hiërarchische
clustering
o Dus eig wanneer rest niet gaat
o Grote datasets!!!
NIET GEBRUIKEN:
o Kleine datasets
o Wanneer we willen dat elk punt in een cluster gaat zitten
o Online data
PARAMETERS: minimal clusters ize
Evaluation:
- External
o Precision
o Recall
o Rand index
- Internal
o SSE
o Withing-cluster scatter matrix
o Category utility metric
2
CLUSTERING
Hard clustering
1. Hierarchical clustering
GEBRUIKEN:
o Voor exploratieve analyse: eerste blik op structuur van dataset
dendrogram geeft overzicht van hoeveel clusters er
ongeveer zouden kunnen zijn
o Kleine dataset (< 1000)
NIET GEBRUIKEN:
o Grote datasets rekentijd ~ n2
o Online data
o Gevoelig aan ruis & outliers (zeker bij single linkage methode)
o Hierarchical clustering forceert het vormen van
clusters/definiëren van clusters forceert structuur, ook al is
die er niet echt
o Eenmaal punt tot cluster is toegekend, algoritme komt hier
niet meer op terug
1.1. Single linkage: bij kettingstructuren (gevoelig voor outliers)
1.2. Complete linkage: bij compacte & goed gescheiden clusters
1.3. Average linkage: compromis tussen vorige 2
1.4. Ward linkage: bij ronde, compacte clusters (enkel Euclidische
afstanden)
PARAMETERS: geen
2. Partitioning clustering
PARAMETERS: k (& gamma bij prototype)
GEBRUIKEN:
o Grote datasets (minder rekenintensief)
o Als je #clusters ongeveer kent (je kent k)
o Compacte & goed gescheiden clusters (vaak rond & ongeveer
zelfde grote/dichtheid)
o Geen hiërarchie
NIET GEBRUIKEN:
o Onbekend #clusters
o Kleine dataset & nood aan interpretatie (dendrogram beter
van hiërarchische clustering)
1
, o Niet-ronde clusters (bv langgerekte clusters/ketens of bij zeer
verschillende dichtheden)
o Bij ruis forceert alle punten in een cluster
2.1. K-means: bij veel numerieke data, k gekend, rond & compact
(gevoelig aan outliers/noise & probleem bij kiezen van random
centroïds)
2.2. K-means++: stabieler dan k-means (centroids beter gekozen in
begin, voor de rest zelfde als k-means)
2.3. K-mode: bij veel categorische data, k gekend (gevoelig aan
outliers/noise)
2.4. K-prototype: bij combinatie van numerieke & categotische data
(enkel bij combinatie dus gebruiken, gevoelig aan ruis, DATA MOET
GENORMALISEERD ZIJN EERST)
PARAMETERS: k (& gamma bij 2.4)
3. HDBSCAN (hierarchical density-based spatial clustering of applications
with noise)
GEBRUIKEN:
o Onbekend aantal clusters (k wel gekend)
o Clusters met verschillende dichtheden
o Bij ruis & outliers
o Niet-bolvormige clusters
o Exploratieve analyse want heeft ook hiërarchische
clustering
o Dus eig wanneer rest niet gaat
o Grote datasets!!!
NIET GEBRUIKEN:
o Kleine datasets
o Wanneer we willen dat elk punt in een cluster gaat zitten
o Online data
PARAMETERS: minimal clusters ize
Evaluation:
- External
o Precision
o Recall
o Rand index
- Internal
o SSE
o Withing-cluster scatter matrix
o Category utility metric
2
