مثال رگرسیون ریج توسط خانم دکتر امین غفاری

توضیح رگرسیون ریج :
مقیاسی که میخواهیم مینیمم کنیم مجموع مربعات خطا است
به شرطی که مجموع مربعات ضرایب از یک مقداری کوچکتر باشد

معادل این است که این کمیت را می نیمم کنیم
لاندا همان ضریب لاگرانژ است

load hald

       k = 0:.01:1;

       b = ridge(heat, ingredients, k);

       plot(k, b’);

       xlabel(‘Ridge parameter’); ylabel(‘Standardized coef.’);

       title(‘Ridge Trace for Hald Data’)

       legend(‘x1′,’x2′,’x3′,’x4’);

clear all;

close all;

x=randn(2,100);

x(2,:)=-5*x(1,:)+4+2*randn(1,100);

x=x’;

Y=x(:,2);

X=[x(:,1)];

%[b,bint,R,Rint,stats]=regress(Y,X);

k=0;

for lambda=0:.1:10

    k=k+1;

    b=ridge(Y,X,lambda,0);

    Yhat=X*b(2:end)+b(1);

    R=Y-Yhat;

    % plot(x(:,1),Y,’*g’)

    % hold on

    % plot(x(:,1),R,’+r’)

    sse(k)=R’*R;

end