Odcinek

Wyodrębnianie funkcji nienadzorowanych przez uczenie kontrastowe czasu i nieliniową analizę ICA

with Aapo Hyvarinen

Analiza nieliniowych niezależnych składników (ICA) zapewnia atrakcyjną strukturę uczenia funkcji bez nadzoru, ale modele proponowane do tej pory nie są możliwe do zidentyfikowania. W tym miejscu najpierw proponujemy nową intuicyjną zasadę nienadzorowanego uczenia głębokiego z szeregów czasowych, która korzysta ze struktury niestacjonarnej danych. Nasza zasada uczenia się, uczenie kontrastowe (TCL), znajduje reprezentację, która umożliwia optymalną dyskryminację segmentów czasu (okien). Co zaskakujące, pokazujemy, jak TCL może być związane z nieliniowym modelem ICA, gdy analiza ICA jest ponownie zdefiniowana w celu uwzględnienia tymczasowych nonstationarities. W szczególności pokazujemy, że TCL w połączeniu z liniową ICA szacuje nieliniowy model ICA do określonych przekształceń źródeł, a to rozwiązanie jest unikatowe --- w ten sposób zapewniając pierwszy wynik identyfikacji dla nieliniowej ICA, który jest rygorystyczny, konstruktywny, a także bardzo ogólny.