وقتی متغیرهای «مستقل» (independent)، متعامد (ارتوگونال) باشند، به آسانی می توانید مراحل فوق را اجرا کنید. متاسفانه در برخی موارد همبستگی بین متغیرهای مستقل بالاست و در چنین مواقعی استنتاج بر مبنای مدل رگرسیونی می تواند گمراه کننده باشد. اگر بین متغیرهای مستقل وابستگی خطی وجود داشته باشد، گفته می شود که «چند هم خطی» (Multicollinearity) وجود دارد.

به مدل رگرسیونی شامل بیش از یک متغیر مستقل رگرسیون «چندگانه» (multiple) گفته شده و به صورت:

مراحلی که برای تعیین و تصحیح مدل به کار برده می شود عبارتند از: تحلیل باقی مانده ها: نتایج حاصل از تحلیل رگرسیون وقتی معتبر و با مفهوم هستند که فرض های مربوط به Residual (باقی مانده) های مدل نیز صحت داشته باشد. نتیجه اینکه، ساختار باقی مانده ها و الگوی داده ها بااستفاده از نمودار، اهمیت زیادی پیدا می کند. به خاطر داشته باشید که بالا بودن مقدارR^2 و یا معنی دار بودن آمارۀ t حاکی از آن نیست که «برازش» (fit) به خوبی

اگر نتیجه آزمایش را بتوان به یکی از دو رده، رده بندی کرد، آنگاه آزمونی که در سال 1950 توسط « کوکران» (CoChran) ارائه شد، بهترین روش تحلیل محسوب می شود.

این آزمون در حقیقت تعمیمی از آزمون «علامت» (Sign) است که قبلاً آنرا بررسی کردیم. در این آزمون نسبت به آزمون «علامت» فرضهای کمتری نیاز است. آزمون «فریدمن» (Friedman) برای وضعیت های تجربی معروف تر است، اما در برخی وضعیت ها توان کمتری دارد. مسأله K Related Samples … (K نمونه وابسته) در آزمایشی پیش می آید که برای تشخیص اختلاف در K تیمار احتمالاً، K >2، طرح ریزی شده است.

این آزمون برای اولین بار در سال 1990 میلادی توسط کارل پیرسُن و برای آزمون «خوبی برازندگی توزیع» (Goodness of fit) به کار برده شد. فرض کنید یک آزمون تصادفی انجام می گیرد و نتیجۀ آنرا در یکی از رده های دو به دو جدای C_k و...و C_2 و C_1 مشاهده می کنیم. احتمال مشاهدۀ نتیجۀ این آزمایش تصادفی را در C_1 با عدد1 > p_1 0 < نشان می دهیم بطوریکه1 = p_k +...+p_(2 ) + p_1.

فرض کنید، تعداد n_1 چیز از نوع x و تعداد n_2 چیز از نوع y داشته باشیم. این چیزها را به تصادف روی خط می چینیم، یا به عبارتی دیگر یک جایگشت از آنها تشکیل می دهیم. مثلاً برای=5 n_1 و=7 n_2 جایگشت زیر را در نظر می گیریم:

از این آزمون برای نشان دادن یک سری اتفاقات یا آزمایش ها استفاده می شود که در آن فرض می شود:  n امتحان دو به دو مستقل هستند.  احتمال هر امتحان برای اینکه برآمد در رده 1 باشد p است، که در آن p برای همۀ n امتحان یکی است.

آزمون « کولموگروف – اسمیرنوف» به افتخار دو آماردان روسی به نامهای A.N. Kolmogrov و N.V. Smirnov به این نام خوانده شده و روش ناپارامتری ساده ای برای تعیین همگونی اطلاعات تجربی با توزیع های آماری منتخب است. بنابراین، آزمون « کولموگروف – اسمیرنوف»، که از این به بعد آنرا با KS نشان می دهیم، روش دیگری علاوه بر روش «کای اِسکوِر» (Chi Square)، (x^2) ، برای همگونی یک توزیع فراوانی نظری برای اطلاعات تجربی است.

اگر بخواهیم در مورد نمونه های گرفته شده از k جامعه قضاوت کنیم از «آزمون H » که گاهی آنرا آزمون «کراسکال – والیس» (Krukal - Wallis) می نامند استفاده می کنیم. این آزمون در حقیقت تعمیم آزمون U برای مقایسۀ K جامعه است.

به عبارت دیگر، در این آزمون فرض برابر بودن میانگین های K جامعه را آزمون می کنیم.

آزمون میانه : آزمون میانه برای این بررسی طرح ریزی شده است که: آیا چند نمونۀ حاصل از چند جامعه دارای میانۀ یکسان است یا نه؟

آزمون مَن – ویتنی دقیقاً مشابه آزمون ویلکاکسون است با این تفاوت که دو نمونه اخذ شده در آن، از یکدیگر مستقلند.

در این آزمون می خواهیم ببینیم که آیا نمونه ها از جامعه های پیوستۀ «یکسانی» هستند (میانگین های یکسانی دارند) یا اینکه جامعه ها یکسان نیستند (میانگین های متفاوتی دارند).

یکی از روش های مهم ناپارامتری که آنرا بررسی خواهیم کرد، «آزمون علامت» (Sign Test) است.

تاریخ «آمار ناپارامتری» (Non Parametric Statistics) مانند «آمار پارامتری» (Parametric Statistics) به اوایل قرن هیجدهم میلادی برمی گردد.

مدل های رگرسیون خطی با واریانس ثابت را می توان با استفاده از روش «کمترین مربعات وزن دار شده» (Weighted least squares) برازش داد.

در مدل های Bias (اُریب) دار، بیاید بتوانیم به نحوی با کمک «تبدیلات» (transformation) اریبی را از بین ببریم.

برای یافتن «داده های پرت» (outlier Data) در مجموعۀ داده ها می توانیم از مقادیر z استفاده کنیم.

برای رسم نمودار باقیمانده در مقابل مقادیر برازش یافته می توانید از پنجرۀ linear regression: plots استفاده کنید.

در بخش های دیگر گفتیم که فرض اساسی این بود که میانگین ها و نمونه های هر گروه مستقل از یکدیگر هستند.