Epizoda
Rekurentní neurální sítě a další počítače, které učí algoritmy Symposium Session 3
Brzy po narození moderní počítačové vědy v roce 1930 vznikly dvě základní otázky: 1. Jak se počítače učí užitečné programy ze zkušeností, na rozdíl od toho, aby je programovali lidé programátoři? 2. Jak programovat paralelní multiprocesorové počítače na rozdíl od tradičních sériových architektur? Obě otázky nalezly přirozené odpovědi v oblasti rekurentních neurálních sítí (RNN), které jsou počítače inspirované pro obecné účely inspirované mozkem, které se mohou učit paralelně sekvenční programy nebo algoritmy kódované jako váhy matice.
Naše první workshop RNNaissance NIPS pochází zpět do roku 2003: http://people.idsia.ch/\~juergen/rnnaissance.html . Od té doby se hodně stalo. Některé z nejúspěšnějších aplikací ve strojovém učení (včetně hlubokého učení) jsou nyní řízeny sítěmi RNN, jako je dlouhodobá paměť, například rozpoznávání řeči, rozpoznávání řeči, rozpoznávání videa, zpracování přirozeného jazyka, titulkování obrázků, předpověď časových řad atd. Prostřednictvím nejdůležitějších veřejných společností na světě mají miliardy lidí nyní přístup k této technologii prostřednictvím svých smartphonů a dalších zařízení, například ve formě Google Voice nebo v iOSu společnosti Apple. Ztučnění učení a vývojová RNN řeší složité řídicí úlohy z nezpracovaného video vstupu. Mnoho metod založených na RNN se učí strategie sekvenční pozornosti.
Zde se podíváme na nejnovější vývoj všech těchto polí a zaměříme se nejen na sítě RNN, ale také na výukové počítače, ve kterých sítě RNN komunikují s externí pamětí, jako jsou neurální turingové počítače, paměťové sítě a související architektury paměti, jako jsou rychlé sítě s hmotností a počítače neurálních zásobníků. V tomto kontextu také probereme asymptoticky optimální metody hledání programů a jejich praktickou relevanci.
Naše cílová skupina slyšeli trochu o opakujících se neurálních sítích, ale rádi uslyšíte znovu shrnutí základů a pak se ponořte do nejnovějších pokročilých věcí, abyste viděli a pochopili, co se nedávno stalo možné. Doufáme, že tisíce účastníků.
Všechna jednání (většinou známými odborníky v oboru, kteří se již dohodli na mluvení), budou následovat otevřené diskuze. Budeme také volat plakáty. Vybrané plakáty budou ozdobovat prostředí přednáškové haly. Budeme také diskutovat o jasné budoucnosti RNN a jejich výhody a nevýhody.
Brzy po narození moderní počítačové vědy v roce 1930 vznikly dvě základní otázky: 1. Jak se počítače učí užitečné programy ze zkušeností, na rozdíl od toho, aby je programovali lidé programátoři? 2. Jak programovat paralelní multiprocesorové počítače na rozdíl od tradičních sériových architektur? Obě otázky nalezly přirozené odpovědi v oblasti rekurentních neurálních sítí (RNN), které jsou počítače inspirované pro obecné účely inspirované mozkem, které se mohou učit paralelně sekvenční programy nebo algoritmy kódované jako váhy matice.
Naše první workshop RNNaissance NIPS pochází zpět do roku 2003: http://people.idsia.ch/\~juergen/rnnaissance.html . Od té doby se hodně stalo. Některé z nejúspěšnějších aplikací ve strojovém učení (včetně hlubokého učení) jsou nyní řízeny sítěmi RNN, jako je dlouhodobá paměť, například rozpoznávání řeči, rozpoznávání řeči, rozpoznávání videa, zpracování přirozeného jazyka, titulkování obrázků, předpověď časových řad atd. Prostřednictvím nejdůležitějších veřejných společností na světě mají miliardy lidí nyní přístup k této technologii prostřednictvím svých smartphonů a dalších zařízení, například ve formě Google Voice nebo v iOSu společnosti Apple. Ztučnění učení a vývojová RNN řeší složité řídicí úlohy z nezpracovaného video vstupu. Mnoho metod založených na RNN se učí strategie sekvenční pozornosti.
Zde se podíváme na nejnovější vývoj všech těchto polí a zaměříme se nejen na sítě RNN, ale také na výukové počítače, ve kterých sítě RNN komunikují s externí pamětí, jako jsou neurální turingové počítače, paměťové sítě a související architektury paměti, jako jsou rychlé sítě s hmotností a počítače neurálních zásobníků. V tomto kontextu také probereme asymptoticky optimální metody hledání programů a jejich praktickou relevanci.
Naše cílová skupina slyšeli trochu o opakujících se neurálních sítích, ale rádi uslyšíte znovu shrnutí základů a pak se ponořte do nejnovějších pokročilých věcí, abyste viděli a pochopili, co se nedávno stalo možné. Doufáme, že tisíce účastníků.
Všechna jednání (většinou známými odborníky v oboru, kteří se již dohodli na mluvení), budou následovat otevřené diskuze. Budeme také volat plakáty. Vybrané plakáty budou ozdobovat prostředí přednáškové haly. Budeme také diskutovat o jasné budoucnosti RNN a jejich výhody a nevýhody.
Chcete se podělit o svůj názor? Tady můžete odeslat problém.