1 clear all;
 2 close all;
 3 clc;
 4 
 5 %%第一个类数据和标号
 6 mu1=[0 0];  %均值
 7 S1=[0.3 0;0 0.35];  %协方差
 8 data1=mvnrnd(mu1,S1,100);   %产生高斯分布数据
 9 plot(data1(:,1),data1(:,2),'+');
10 label1=ones(100,1);
11 hold on;
12 
13 %%第二个类数据和标号
14 mu2=[1.25 1.25];
15 S2=[0.3 0;0 0.35];
16 data2=mvnrnd(mu2,S2,100);
17 plot(data2(:,1),data2(:,2),'ro');
18 label2=label1+1;
19 
20 data=[data1;data2];
21 label=[label1;label2];
22 
23 K=11;   %两个类，K取奇数才能够区分测试数据属于那个类
24 %测试数据，KNN算法看这个数属于哪个类
25 for ii=-3:0.1:3
26     for jj=-3:0.1:3
27         test_data=[ii jj];  %测试数据
28         label=[label1;label2];
29         %%下面开始KNN算法，显然这里是11NN。
30         %求测试数据和类中每个数据的距离，欧式距离（或马氏距离） 
31         distance=zeros(200,1);
32         for i=1:200
33             distance(i)=sqrt((test_data(1)-data(i,1)).^2+(test_data(2)-data(i,2)).^2);
34         end
35 
36         %选择排序法，只找出最小的前K个数据,对数据和标号都进行排序
37         for i=1:K
38             ma=distance(i);
39             for j=i+1:200
40                 if distance(j)<ma
41                     ma=distance(j);
42                     label_ma=label(j);
43                     tmp=j;
44                 end
45             end
46             distance(tmp)=distance(i);  %排数据
47             distance(i)=ma;
48 
49             label(tmp)=label(i);        %排标号，主要使用标号
50             label(i)=label_ma;
51         end
52 
53         cls1=0; %统计类1中距离测试数据最近的个数
54         for i=1:K
55            if label(i)==1
56                cls1=cls1+1;
57            end
58         end
59         cls2=K-cls1;    %类2中距离测试数据最近的个数
60         
61         if cls1>cls2    
62            plot(ii,jj);     %属于类1的数据画小黑点
63         end
64         
65     end
66 end