k-Nearest Neighbor (k-NN)


Algoritma k-nearest neighbor (k-NN atau KNN) adalah sebuah metode untuk melakukan klasifikasi terhadap objek berdasarkan data pembelajaran yang jaraknya paling dekat dengan objek tersebut. Ilustrasi dari metode yang digunakan oleh algoritma k-nn dalam mengklasifikasikan objek ditunjukkan pada gambar di bawah ini:


Berikut ini merupakan contoh aplikasi pemrograman matlab untuk mengklasifikasikan citra digital berdasarkan pola bentuknya. Pada contoh ini k-nn digunakan untuk mengklasifikasikan bentuk dari citra apel, tulang, gajah, dan garpu. Ciri yang digunakan untuk membedakan keempat bentuk dari citra tersebut adalah eccentricity dan metric (materi mengenai ekstraksi ciri dapat dilihat pada laman berikut: link). Pemrograman matlab menggunakan algoritma k-nearest neighbor pada contoh ini dapat dijalankan minimal menggunakan matlab versi r2014a karena menggunakan fungsi baru yaitu fitcknn (fit k-nearest neighbor classifier)
Langkah-langkah pemrograman matlab untuk mengklasifikasikan bentuk suatu objek dalam citra digital yaitu:
1. Mempersiapkan citra untuk proses pelatihan. Pada proses tersebut digunakan 60 citra yang terdiri dari 15 citra apel, 15 citra tulang, 15 citra gajah, dan 15 citra garpu

2. Mempersiapkan citra untuk proses pengujian. Pada proses tersebut digunakan 20 citra yang terdiri dari 5 citra apel, 5 citra tulang, 5 citra gajah, dan 5 citra garpu

3. Setelah citra untuk proses pelatihan dan pengujian disiapkan, dilakukan pemrograman untuk kedua proses tersebut. Source code untuk mengklasifikasi bentuk suatu objek dalam citra digital menggunakan algoritma k-nearest neighbor adalah

clc;clear;close all;

image_folder = 'data latih';
filenames = dir(fullfile(image_folder, '*.gif'));
total_images = numel(filenames);

area = zeros(1,total_images);
perimeter = zeros(1,total_images);
metric = zeros(1,total_images);
eccentricity = zeros(1,total_images);

for n = 1:total_images
    full_name= fullfile(image_folder, filenames(n).name);
    our_images = logical(imread(full_name));
    our_images = bwconvhull(our_images,'objects');
    stats = regionprops(our_images,'Area','Perimeter','Eccentricity');
    area(n) = stats.Area;
    perimeter(n) = stats.Perimeter;
    metric(n) = 4*pi*area(n)/(perimeter(n)^2);
    eccentricity(n) = stats.Eccentricity;
    training = [metric;eccentricity]';
end

group = cell(60,1);
group(1:15,:) = {'apel'};
group(16:30,:) = {'tulang'};
group(31:45,:) = {'gajah'};
group(46:60,:) = {'garpu'};

figure,
gscatter(metric,eccentricity,group,'rgbk','x',10)
grid on

image_folder_uji = 'data uji';
filenames_uji = dir(fullfile(image_folder_uji, '*.gif'));
total_images_uji = numel(filenames_uji);

area_uji = zeros(1,total_images_uji);
perimeter_uji = zeros(1,total_images_uji);
metric_uji = zeros(1,total_images_uji);
eccentricity_uji = zeros(1,total_images_uji);

for n = 1:total_images_uji
    full_name_uji = fullfile(image_folder_uji, filenames_uji(n).name);
    our_images_uji = logical(imread(full_name_uji));
    our_images_uji = bwconvhull(our_images_uji,'objects');
    stats_uji = regionprops(our_images_uji,'Area','Perimeter','Eccentricity');
    area_uji(n) = stats_uji.Area;
    perimeter_uji(n) = stats_uji.Perimeter;
    metric_uji(n) = (4*pi*area_uji(n))./(perimeter_uji(n).^2);
    eccentricity_uji(n) = stats_uji.Eccentricity;
    sample = [metric_uji;eccentricity_uji]';
end

c = fitcknn(training, group,'NumNeighbors',5,'Standardize',1);
Class = predict(c,sample);
figure,
gscatter(metric,eccentricity,group,'rgbk','x',10)
grid on
hold on
gscatter(sample(:,1),sample(:,2),Class,'cmyk','.',20); hold on;
legend('Apel Pelatihan','Tulang Pelatihan','Gajah Pelatihan','Garpu Pelatihan', ...
    'Apel Pengujian','Garpu Pengujian','Tulang Pengujian','Gajah Pengujian','Location','best');
hold off;

4. Sehingga pada proses pelatihan diperoleh hasil berupa grafik seperti pada gambar berikut

Pada grafik tersebut terlihat distribusi data (nilai metric dan ecentricity) pada masing-masing kelas grup (apel, tulang, gajah, garpu). Pada proses pengujian, suatu data uji dikatakan masuk ke dalam kelas grup apel apabila tetangga terdekat dari data uji tersebut dominan dengan kelas grup A

5. Pada proses pengujian dihasilkan grafik seperti pada gambar di bawah ini

6. Kelas keluaran yang dihasilkan dalam proses pengujian adalah sbb

sehingga hasil perbandingan antara kelas keluaran dengan kelas target pada proses pengujian adalah sbb

Berdasarkan tabel di atas, tampak bahwa terdapat empat buah data uji yang diklasifikasikan ke dalam kelas yang salah (tidak sesuai dengan kelas target). Sehingga akurasi sistem dalam mengklasifikasikan bentuk objek adalah (16/20) x 100% = 80%. Nilai akurasi tersebut menunjukkan bahwa algoritma k-nearest neighbor cukup baik dalam mengklasifikasikan bentuk suatu objek dalam citra digital

File source code lengkap beserta citra untuk mengklasifikasikan bentuk suatu objek dalam citra digital menggunakan algoritma k-nearest neighbor dapat diperoleh melalui halaman berikut ini: Source Code

  1. selamat malam mas.
    sya mau nnyak, disini kan mas untuk proses pengklasifikasiannya menggunakan function matlab bawaannya yaitu fitcknn(training, group,’NumNeighbors’,1,’Standardize’,1);. nah mas kira2 bsa gak kita melakukan klasifikasix dibuat tanpa menggunakan function dari matlabx ???
    terima kasih sebelumnya mas.

  2. Selamat malam mas mau nanya lagi nih .,.

    Boleh kah di kombinasikan antara algoritma knn dengan Neural Network Backprop ??

    Mohon penjelasannya kanda ….

  3. bisa minta no Tlpnya

  4. mas minta nomor Tlpnya??

  5. Mas Adi, apakah bisa untuk menampilkan 4 inputan pada gscatter? karena saya menggunakan glcm ordo 2 begitu Mas
    terima kasih sebelumny

  6. terima kasih atas bantuan yg sebelumnya,
    saya mau nanya lagi,,
    program sya pkai KNN,,
    saya bingung, apakah KNN dan ueclidean itu sama?

    • knn merupakan algoritma klasifikasi
      penghitungan jarak antar data dalam algoritma knn dapat menggunakan berbagai persamaan, salah satunya adalah persamaan euclidean distance

  7. Mas Adi saya mau bertanya
    saya kan sudah membuat klasifikasi untuk sebuah citra, nah yg saya inginkan adalah disaat saya menginput gambar yang tidak sesuai (katakanlah saya membuat pendeteksi citra mata, namun yg saya masukkan adalah citra meja/pemandangan/citra acak apalah itu), bgmn caranya mas?
    saya menggunakan KNN sebagai klasifikasi melalui Classification Learner App

  8. mas adi saya mau minta saran. saya sdg menganalisis ukuran fisik beras. saya menghitung berdasarkan 4 kategori panjang beras (menggunakan majoraxislength). menurut mas adi, nilai data latih apa yg dibutuhkan untuk dimasukkan kedalam metode KNN? apa hanya majoraxeslength atau ditambah eccentricity, area, perimeter dll?

    • Betul prasidya
      Sebaiknya ditambahkan
      ciri morfologi seperti metric dan eccentricity
      ciri ukuran seperti mayor axis length, area, dan perimeter
      ciri warna seperti nilai r, g, b
      dan ciri tekstur seperti glcm, gabor, wavelet

  9. Semua source code yg saya upload sudah saya coba dan tidak error

  10. Source code dan data pada materi di atas dapat diperoleh pada halaman berikut ini

    Source Code GUI

  11. Assalamu’alaikum Warahmatullahi Wabarakatuh mas adi, kalau boleh tahu apa perbedaan Algoritma KNN dengan MKNN mas, kalau ada referensi mengenai MKNN mohon di share ya mas. Terima Kasih

  12. Oke mas adi, Terima Kasih sebelumnya

  13. assalamua’alaikum mas adi,
    mas adi saya mau nanya. knn kan menggunakan jarak tetangga terdekat, untuk menampilkan nilai jaraknya itu bisa tampil di gui atau command windows gimana caranya ya mas?

  14. mas adi mau tanya, utuk menambahkan perhitungan akurasi yang di dapat bagaiman?
    mohon pencerahaannya

  15. permisi mas adi , apa boleh sekiranya meminta file gambar 60 citra yang terdiri dari 15 citra apel, 15 citra tulang, 15 citra gajah, dan 15 citra garpu untuk proses pelatihan dan file gambar 20 citra yang terdiri dari 5 citra apel, 5 citra tulang, 5 citra gajah, dan 5 citra garpu untuk proses pengujian nya ? untuk bimbingan belajar dan mencoba di matlab.
    terimakasih

    • Source code di atas tidak bisa dijalankan jika hanya dicopypaste saja
      Source code lengkap bisa diperoleh melalui tokopedia sehingga bisa langsung dirunning dan dikembangkan

  16. Assalamualaikum mas adi apakah metode KNN bisa diterapkan pada CBIR warna. Bentuk dan tekstur. Terimakasih
    Mohon penjelasannya

  17. assalamulaikum mas adi, kalau deteksi bangunan dari citra satelit dengan knn, citra latihnya berupa banyak citra tipe tipe bangunan, satu gambar satu objek bangunan (seperti contoh citra latih diatas), kemudia citra ujinya berupa satu gambar dengan banyak objek bangunan didalamnya yang akan di klasifikasikan berdasarkan citra latih dengan metode knn, apakah bisa seperti ini?

  18. muhammad Fikri Septian

    terimakasih mas adi. bukunya anda sangat sangat manjur.

  19. mas, kenpa menggunakan ciri eccentricity dan matric untuk mengklasifikasikan objeknya??? kenapa tidak luas kelililing dan lain lain ???

  20. Selamat pagi ,mas Adi saya mau tanya apakah bisa metode knn mengklasifikasi objek hanya berdasarkan warna saja?
    Dan untuk pembahasan mengenai klasifikasi citra berdasarkan fitur warna menggunakan metode knn apakah ada?
    Terimakasih

  21. Merry bulele

    selamat malam, mas Adi saya mau tanya apakah bisa metode knn mengklasifikasikan obyek gerakan tangan berdasarkan kontur dan data latihnya? soalnya metode knn adalah program skripsi saya

  22. Permisi mas Adi. Saya mau bertanya mengenai ekstrasi ciri. Saya sedang melakukan penelitian mengenai Image Processing mas, yang berjudul “Identifikasi Tingkat kematangan Tomat dengan Image Processing Menggunakan Metode RGB”. Disini saya hanya melakukan perbandingan Kadar Warna RGB saja. Di dalam situ apakah harus memakai Kurtosis, Variance, Skewness, STD, Entropy mas?

  23. Assalamualaikum mas kenapa pas saya coba di bagian

    c = fitcknn(training, group,’NumNeighbors’,5,’Standardize’,1);
    Error yah

  24. Assalamualaikum mas adi
    Setelah dilakukan ciri rgb ke hsv
    Apakah harus dicari mean sama variance?
    Jika menggunakan glcm apa harus dicarik juga parameter mean sama variancenya?

  1. Pingback: Rendysaputra_Tugas_011170046

Leave a comment