Avsnitt
Matrisens slutförande har inget falskt lokalt minimum
med Tengyu Ma
Matrisens slutförande är ett grundläggande maskininlärningsproblem som har breda program, särskilt i samarbetsfiltrerings- och rekommendationssystem. Enkla icke-konvexa optimeringsalgoritmer är populära och effektiva i praktiken. Trots de senaste framstegen med att bevisa att olika icke-konvexa algoritmer konvergerar från en bra initial punkt, är det fortfarande oklart varför slumpmässig eller godtycklig initiering räcker i praktiken. Vi bevisar att den ofta använda icke-konvexa målfunktionen för matrisens slutförande inte har någon falsk lokal minima --- alla lokala minima måste också vara globala. Därför kan många populära optimeringsalgoritmer som (stochastic) gradient descent på ett bevisbart sätt lösa matrisens slutförande med \textit{godtycklig} initiering i polynomtid.
Matrisens slutförande är ett grundläggande maskininlärningsproblem som har breda program, särskilt i samarbetsfiltrerings- och rekommendationssystem. Enkla icke-konvexa optimeringsalgoritmer är populära och effektiva i praktiken. Trots de senaste framstegen med att bevisa att olika icke-konvexa algoritmer konvergerar från en bra initial punkt, är det fortfarande oklart varför slumpmässig eller godtycklig initiering räcker i praktiken. Vi bevisar att den ofta använda icke-konvexa målfunktionen för matrisens slutförande inte har någon falsk lokal minima --- alla lokala minima måste också vara globala. Därför kan många populära optimeringsalgoritmer som (stochastic) gradient descent på ett bevisbart sätt lösa matrisens slutförande med \textit{godtycklig} initiering i polynomtid.
Har du feedback till oss? Skicka in ett problem här.