聚类——FCM的matlab程序

在聚类——FCM文章中已介绍了FCM算法的理论知识，现在用matlab进行实现。

1.matlab程序

FCM_main.m

function [ave_acc_FCM,max_acc_FCM,min_acc_FCM,ave_iter_FCM,ave_run_time]=FCM_main(X,real_label,K)

%输入K:聚的类，max_iter是最大迭代次数

%输出ave_acc_FCM：迭代max_iter次之后的平均准确度

t0=cputime;

s=0;

s_1=0;

max_iter=20; %重复max_iter次

accuracy=zeros(max_iter,1);

iter_FCM_t=zeros(max_iter,1);

%对data做最大-最小归一化处理

% [data_num,~]=size(data);

% X=(data-ones(data_num,1)*min(data))./(ones(data_num,1)*(max(data)-min(data)));

for i=1:max_iter

[label_1,~,iter_FCM]=My_FCM(X,K);

iter_FCM_t(i)=iter_FCM;

accuracy(i)=succeed(real_label,K,label_1);

s=s+accuracy(i);

s_1=s_1+iter_FCM_t(i);

fprintf('第 %2d 次，FCM的迭代次数为：%2d，准确度为：%.8f\n', i, iter_FCM_t(i), accuracy(i));

end

ave_iter_FCM=s_1/max_iter;

ave_acc_FCM=s/max_iter;

max_acc_FCM=max(accuracy);

min_acc_FCM=min(accuracy);

run_time=cputime-t0;

ave_run_time=run_time/max_iter;

My_FCM.m

function [label_1,para_miu_new,iter]=My_FCM(X,K)

%输入K：聚类数

%输出：label_1:聚的类, para_miu_new:模糊聚类中心μ，responsivity:模糊隶属度

format long

eps=1e-4; %定义迭代终止条件的eps

alpha=2; %模糊加权指数，[1,+无穷)

T=100; %最大迭代次数

fitness=zeros(T,1);

[X_num,X_dim]=size(X);

count=zeros(X_num,1); %统计distant中每一行为0的个数

%----------------------------------------------------------------------------------------------------

%随机初始化K个聚类中心

rand_array=randperm(X_num); %产生1~X_num之间整数的随机排列

para_miu=X(rand_array(1:K),:); %随机排列取前K个数，在X矩阵中取这K行作为初始聚类中心

responsivity=zeros(X_num,K);

R_up=zeros(X_num,K);

% ----------------------------------------------------------------------------------------------------

% FCM算法

for t=1:T

%欧氏距离，计算(X-para_miu)^2=X^2+para_miu^2-2*para_miu*X'，矩阵大小为X_num*K

distant=(sum(X.*X,2))*ones(1,K)+ones(X_num,1)*(sum(para_miu.*para_miu,2))'-2*X*para_miu';

%更新隶属度矩阵X_num*K

for i=1:X_num

count(i)=sum(distant(i,:)==0);

if count(i)>0

for k=1:K

if distant(i,k)==0

responsivity(i,k)=1./count(i);

else

responsivity(i,k)=0;

end

end

else

R_up(i,:)=distant(i,:).^(-1/(alpha-1)); %隶属度矩阵的分子部分

responsivity(i,:)= R_up(i,:)./sum( R_up(i,:),2);

end

end

%目标函数值

fitness(t)=sum(sum(distant.*(responsivity.^(alpha))));

%更新聚类中心K*X_dim

miu_up=(responsivity'.^(alpha))*X; %μ的分子部分

para_miu=miu_up./((sum(responsivity.^(alpha)))'*ones(1,X_dim));

if t>1

if abs(fitness(t)-fitness(t-1))

break;

end

end

end

para_miu_new=para_miu;

iter=t; %实际迭代次数

[~,label_1]=max(responsivity,[],2);

succeed.m

function accuracy=succeed(real_label,K,id)

%输入K：聚的类，id：训练后的聚类结果，N*1的矩阵

N=size(id,1); %样本个数

p=perms(1:K); %全排列矩阵

p_col=size(p,1); %全排列的行数

new_label=zeros(N,p_col); %聚类结果的所有可能取值，N*p_col

num=zeros(1,p_col); %与真实聚类结果一样的个数

%将训练结果全排列为N*p_col的矩阵，每一列为一种可能性

for i=1:N

for j=1:p_col

for k=1:K

if id(i)==k

new_label(i,j)=p(j,k); %iris数据库，1 2 3

end

end

end

end

%与真实结果比对，计算精确度

for j=1:p_col

for i=1:N

if new_label(i,j)==real_label(i)

num(j)=num(j)+1;

end

end

end

accuracy=max(num)/N;

2.在UCI数据库的iris上的运行结果

>> data_load=dlmread('E:\My matlab\database\iris.data');data=data_load(:,1:4);real_label=data_load(:,5);

>> [ave_acc_FCM,max_acc_FCM,min_acc_FCM,ave_iter_FCM,ave_run_time]=FCM_main(data,real_label,3)

第 1 次，FCM的迭代次数为：33，准确度为：0.89333333

第 2 次，FCM的迭代次数为：41，准确度为：0.89333333

第 3 次，FCM的迭代次数为：14，准确度为：0.89333333

第 4 次，FCM的迭代次数为：13，准确度为：0.89333333

第 5 次，FCM的迭代次数为：16，准确度为：0.89333333

第 6 次，FCM的迭代次数为：10，准确度为：0.89333333

第 7 次，FCM的迭代次数为：21，准确度为：0.89333333

第 8 次，FCM的迭代次数为：46，准确度为：0.89333333

第 9 次，FCM的迭代次数为：19，准确度为：0.89333333

第 10 次，FCM的迭代次数为：18，准确度为：0.89333333

第 11 次，FCM的迭代次数为：17，准确度为：0.89333333

第 12 次，FCM的迭代次数为：38，准确度为：0.89333333

第 13 次，FCM的迭代次数为：37，准确度为：0.89333333

第 14 次，FCM的迭代次数为：11，准确度为：0.89333333

第 15 次，FCM的迭代次数为：22，准确度为：0.89333333

第 16 次，FCM的迭代次数为：17，准确度为：0.89333333

第 17 次，FCM的迭代次数为：13，准确度为：0.89333333

第 18 次，FCM的迭代次数为： 8，准确度为：0.89333333

第 19 次，FCM的迭代次数为：13，准确度为：0.89333333

第 20 次，FCM的迭代次数为：20，准确度为：0.89333333

ave_acc_FCM =

0.893333333333333

max_acc_FCM =

0.893333333333333

min_acc_FCM =

0.893333333333333

ave_iter_FCM =

21.350000000000001

ave_run_time =

0.035937500000000