کاهش غیرخطی ابعاد

تفسیر داده‌های دارای ابعاد بالا، یعنی داده‌هایی که نیاز به بیش از ۲ یا ۳ بعد برای نمایش داده‌شدن دارند، دشوار است. یک راه برای ساده‌سازی این است که فرض کنیم داده‌ها روی یک خمینه غیرخطی نهفته در فضای مورد نظر قرار دارند. اگر بعد خمینه به مقدار کافی کم باشد، داده‌ها را می‌توان در این فضای با ابعاد پایین‌تر نشان داد.

:بالا - چپ :یک مجموعهٔ ۳ بعدی از داده‌ها در یک نوار مارپیچی با یک سوراخ مستطیلی در وسط. بالاـ راست: خمینهٔ ۲بعدی استفاده شده برای تولید این داده‌ها. پایین: بازیابی ۲ بعدی داده‌ها به روش LLE و Hessian LLE (راست)

بسیاری از الگوریتم‌های کاهش غیرخطی ابعاد با روش‌های خطی زیر ارتباط دارند:

• تحلیل مؤلفه‌های مستقل (ICA)
• تحلیل مؤلفه‌های اصلی (PCA)
• تجزیه مقدارهای منفرد (SVD)
• آنالیز عامل‌ها (Factor Analysis)

روش‌های غیرخطی را می‌توان به دو دسته عمده تقسیم کرد:

آن‌هایی که یک نگاشت (از فضای با ابعاد بالاتر به خمینهٔ نهفته با ابعاد پایین‌تر با برعکس)(mapping) هستند، و آن‌هایی که تنها یک نمایش از داده‌ها ارائه می‌کنند. در زمینهٔ یادگیری ماشینی، روش‌های نگاشت به عنوان مرحلهٔ استخراج ویژگی، پیش از اعمال الگوریتم‌های شناسایی الگو استفاده می‌شوند. آن‌هایی که یک نمایش از داده‌ها ارائه می‌کنند، بر اساس داده‌های مجاورت ـ فاصله بین نقاط) ـ هستند.