Jak wykonać skalowanie na przestrzeń o niskim wymiarze?

Problem, który będziemy rozwiązywać w tym rozdziale jest następujący:

Mamy symetryczną macierz $D = [d_{ij}]$, będącą macierzą podobieństw pomiędzy $n$ obiektami. Na podstawie tej macierzy szukamy $p$ wymiarowej reprezentacji w przestrzeni $\mathcal R^p$, takiej by podobieństwa pomiędzy obiektami były zachowane.

Ten problem można rozwiązać na wiele sposobów, poniżej przedstawimy najbardziej klasyczne podejścia zachęcając jednocześnie czytelnika do szukania innych.

Problem skalowania wielowymiarowego ma wiele zastosowań zarówno w eksploracji danych, wizualizacji danych czy tzw. identyfikacji struktur w danych. W ogólnym przypadku możemy obiekty reprezentować na $p$ wymiarowej przestrzeni z dowolną metryką, ale w przykładach skupimy się na reprezentacji dwu-wymiarowej z odległością Euklidesową.