Seri Machine Learning | Python Dimension Reduction | Anomaly Detection - #134

#TutorialBelajar #SeriMachineLearning Outlier Detection dengan 6 library termasuk PyOD


Di vlog edisi ke 134 ini, saya mau melanjutkan algoritma ke 2 dari pembahasan model dimensional reduction yaitu Anomaly Detection atau OD alias Outliar Detection.

Jadi, kenapa OD ini masuk ke model Dimensional Reduction ya? Dan kenapa masuk ke kategori Unsupervised Learning?
Nah, untuk menjawab itu, kalian bisa cek dulu model dimensional reduction dari vlog ke 133 yang kemarin sudah kita bahas yaitu algoritma PCA (principal component analysis).

Sedikit menyinggung soal OD, pada dasarnya begitu banyak algoritma OD yang bisa dipake. Krn prinsipnya, dimensional reduction bekerja tidak dengan algoritma tunggal. Jadi bisa menggunakan multi algoritma, seperti hal nya utk algoritma PCA yg kmrn kita bahas, bisa menggunakan algoritma regresi logistik untuk memprediksi output data.
Nah, OD sendiri juga bisa mnggunakan klasifier yang lain, seperti PCA, KNN dan masih banyak algoritma lain sesuai dengan tipe nya (tabel).

Untuk eksperimen kita kali ini, saya akan coba untuk membuat OD yang sesimpel mungkin dengan menggunakan klasifier PCA supaya konsep nya bisa kalian dapatkan.
Dengan misi yaitu menentukan adanya anomali by brain dengan cara membaca grafik. Data yang kita olah adalah data yg bersumber dari vlog 119 (#3).
So, Data ini berisi 40 row historikal pelamar pekerjaan dengan kolom GPA atau IPK, GMAT, pengalaman kerja dan hasil lulus diterima tidaknya (yg berisi 1 & 0).

Jadi, silakan dicoba ya, karena kalo tidak dicoba, feels nya untuk algoritma OD pasti gak akan dapet.
Untuk library, silakan lihat teaser berikut ini (cover #4)
Yak, kita sekarang menggunakan 6 library! Jadi ada 1 tambahan library yg sebelumnya memang belom pernah kita pakai, yaitu PyOD. Singkatnya, PyOD ini kepanjangan dari Phyton Outlier Detection, library khusus untuk (1) mengkombinasikan dengan klasifier lain seperti PCA misalnya, (2) mendapatkan anomali data serta (3) menampilkan hasilnya dengan bantuan library seaborn & pandas.

Ok, kita mulai dari 0 ya... siap2, yg pertama kita import dulu 5 library native nya

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt (#5)
import seaborn as sns

from sklearn.model_selection import train_test_split
from sklearn.decomposition import PCA
from sklearn.preprocessing import StandardScaler

# PyOD : krn PyOD bukan merupakan native library, jadi kita install dulu di colab yg sifatnya temporer ini.
!pip install pyod

from pyod.utils.data import get_outliers_inliers
from pyod.models.pca import PCA
from pyod.utils.data import evaluate_print
from pyod.utils.example import visualize

url = 'https://raw.githubusercontent.com/kokocamp/vlog119/main/vlog119.csv'
vlog134 = pd.read_csv(url)
vlog134.describe()

X = vlog134[['gpa', 'gmat','work_experience']]
y = vlog134['admitted']
X_train,X_test,y_train,y_test = train_test_split(X,y,test_size=0.25,random_state=0)

X_train = pd.DataFrame(X_train)
X_train['y'] = y_train
X_test = pd.DataFrame(X_test)
X_test['y'] = y_test
X_train.head()

sc = StandardScaler()
X_train = sc.fit_transform(X_train)
df_train = pd.DataFrame(X_train)
X_test = sc.fit_transform(X_test)
df_test = pd.DataFrame(X_test)

sns.scatterplot(x=df_train[0], y=df_train[1], hue=df_train[3], data=df_train)
plt.title('Ground Truth')

pca = PCA(n_components=3)
pca.fit(X_train)

y_train_pred = pca.labels_
y_train_scores = pca.decision_scores_
sns.scatterplot(x=df_train[0], y=df_train[1], hue=y_train_scores, data=df_train, palette='RdBu_r');
plt.title('Skor Anomali PCA');

axes = df_train.plot(subplots=True, figsize=(16, 8), title='Simulated Anomaly Data for Training');
plt.show()

axes = df_test.plot(subplots=True, figsize=(16, 8), title='Simulated Anomaly Data for Test');
plt.show()