2 kredit, 6 kontakt óra + 6 óra önálló tanulás
Tárgyfelelős: Abonyi-Tóth Zsolt
A kurzus célja a statisztikai eljárásokban használt főbb optimalizációs módszerek ismertetése.
Tematika:
A derivált fogalma, deriválás. Szélsőértékek. Parciális deriválás. Többváltozós függvények szélsőértékei. Célfüggvény. Analitikus megoldás (példák: lineáris regresszió, ANOVA) Vektornormák és mátrixnormák. Maximum likelihood. Numerikus megoldás. Abszolút és relatív hiba, kondíciószám. Lineáris egyenletrendszer megoldása Banach-térben. Spektrálsugár, kondíciószám. Rosszul kondícionált mátrixok. Gauss-elimináció, LU felbontás. Iterációs módszerek, konvergenciájuk. Legkisebb négyzetek módszere. Közelítés Banach-terekben. QR felbontás, Fisher scoring algoritmus. EM (Expectation-Maximization) és Newton-Raphson eljárás.
Kötelező irodalom:
Stoyan Gisbert, Takó Galina: Numerikus módszerek 1.
https://www.tankonyvtar.hu/hu/tartalom/tkt/numerikus-modszerek-1/index.html
Ajánlott irodalom:
C. Sydney Burrus: Iterative reweighted Least Squares
https://pdfs.semanticscholar.org/9b92/18e7233f4d0b491e1582c893c9a099470a73.pdf
Fredrik Kahl: Iterative Reweighted Least Squares
http://www.maths.lth.se/matematiklth/personal/fredrik/Session3.pdf
Chloe Bi: The EM algorithm explained
https://medium.com/@chloebee/the-em-algorithm-explained-52182dbb19d9
Andrew Ng: CS229 Lecture notes
http://cs229.stanford.edu/notes/cs229-notes8.pdf
Számonkérés:
Írásbeli vizsga a Moodle rendszerben, feleletválasztós és nyitott (esszé) kérdésekkel.