Schița de curs
ZIUA 1 - REȚELE NEURALE ARTIFICIALE
Introducere și structura ANN.
- Neuroni biologici și neuroni artificiali.
- Modelul unei ANN.
- Funcții de activare utilizate în ANN-uri.
- Clase tipice de arhitecturi de rețea .
Fundamente matematice și mecanisme de învățare.
- Revederea algebrei vectoriale și matriceale.
- Concepte de spațiu al stărilor.
- Concepte de optimizare.
- Învățare prin corectarea erorilor.
- Învățare bazată pe memorie.
- Învățare Hebbiană.
- Învățare competitivă.
Perceptroni cu un singur strat.
- Structura și învățarea perceptronilor.
- Clasificator de tipare - introducere și clasificatori Bayes.
- Perceptronul ca clasificator de tipare.
- Convergența perceptronului.
- Limitări ale perceptronilor.
ANN feedforward.
- Structuri ale rețelelor feedforward multi-strat.
- Algoritmul de backpropagation.
- Backpropagation - training și convergență.
- Aproximare funcțională cu backpropagation.
- Aspecte practice și de proiectare ale învățării prin backpropagation.
Rețele cu funcții de bază radiale.
- Separabilitatea tiparelor și interpolare.
- Teoria regularizării.
- Regularizare și rețele RBF.
- Proiectarea și trainingul rețelelor RBF.
- Proprietăți de aproximare ale RBF.
Învățare competitivă și ANN auto-organizatoare.
- Proceduri generale de clustering.
- Learning Vector Quantization (LVQ).
- Algoritmi și arhitecturi de învățare competitivă.
- Hărți de caracteristici auto-organizatoare.
- Proprietăți ale hărților de caracteristici.
Rețele neurale fuzzy.
- Sisteme neuro-fuzzy.
- Contextul mulțimilor fuzzy și al logicii fuzzy.
- Proiectarea sistemelor fuzzy.
- Proiectarea ANN-urilor fuzzy.
Aplicații
- Vor fi discutate câteva exemple de aplicații ale rețelelor neurale, avantajele și problemele acestora.
ZIUA 2 - MACHINE LEARNING
- Cadrul de învățare PAC
- Garanții pentru seturi finite de ipoteze – caz consistent
- Garanții pentru seturi finite de ipoteze – caz inconsistent
- Generalități
- Scenarii deterministe vs. stocastice
- Zgomot de eroare Bayes
- Erori de estimare și aproximare
- Selectarea modelului
- Complexitatea Rademacher și dimensiunea VC
- Compromisul bias-varianță
- Regularizare
- Supraadaptare
- Validare
- Support Vector Machines
- Kriging (regresie cu procese gaussiene)
- PCA și Kernel PCA
- Self Organisation Maps (SOM)
- Spațiu vectorial indus de kernel
- Kernel-uri Mercer și metrici de similaritate induse de kernel
- Reinforcement Learning
ZIUA 3 - DEEP LEARNING
Aceasta va fi predată în relație cu subiectele abordate în Ziua 1 și Ziua 2
- Regresie logistică și Softmax
- Autoencodere sparse
- Vectorizare, PCA și albire
- Self-Taught Learning
- Rețele profunde
- Decodoare liniare
- Convoluție și pooling
- Sparse Coding
- Analiza componentelor independente
- Analiza corelației canonice
- Demo-uri și aplicații
Cerințe
Înțelegere solidă a matematicii.
Înțelegere solidă a statisticii de bază.
Competențe de bază de programare nu sunt obligatorii, dar sunt recomandate.
Mărturii (2)
Lucrând pe baza principiilor de bază într-un mod concentrat, și trecerea la aplicarea studiilor de caz în aceeași zi
Maggie Webb - Department of Jobs, Regions, and Precincts
Curs - Artificial Neural Networks, Machine Learning, Deep Thinking
Tradus de catre o masina
It was very interactive and more relaxed and informal than expected. We covered lots of topics in the time and the trainer was always receptive to talking more in detail or more generally about the topics and how they were related. I feel the training has given me the tools to continue learning as opposed to it being a one off session where learning stops once you've finished which is very important given the scale and complexity of the topic.
Jonathan Blease
Curs - Artificial Neural Networks, Machine Learning, Deep Thinking
Tradus de catre o masina
