Studoši

Koje sve lekcije ulaze u završni ispit ?

IdemNecu Sve

Pleteći medvjedić Based odgovor.
Da se nadovežem, posebno se fokusiraj na gradivo strojnog učenja 1, ponovi derivacije iz matan1. Od ovog predmeta se najviše fokusiraj na optimizacije jer ih nismo prolazili na predavanju.

Ulazi li u zavrsni samo drugi ciklus ili cijelo gradivo?

Skenk Cijelo gradivo

Proučavajući malo dostupne ZI-jeve, zaključio sam da će vjerojatno biti 6 zadataka i minimalno jedan zadatak iz svake lekcije iz drugog ciklusa. Preostali zadatak će vjerojatno biti iz većih lekcija poput konvolucijskih i RNN. Tipično s zadacima iz konvolucije asociran je podzadatak računanja broja parametara i receptivnog polja, ali to je bilo na MI pa ne znam hoće li se opet pojavljivati. Deriviranje i računanje derivacija će vjerojatno biti ograničeno na FC i Conv lekcije, dok je za RNN rečeno da neće biti deriviranja već je potrebno razumijevanje derivacija i njihovo baratanje u zadacima (tj. dobijete gotove derivacije i sada ih ispravno koristite). Optimizacija i regularizacija mi se čine kao većinski teorijske lekcije, ali ima i nešto zadataka.

Od tipova zadataka, vjerojatno će biti jedan gdje moramo izračunati konkretnu vrijednost za prolaz (unaprijed ili unatrag), jedan koji se direktno veže za labos te nekakav problemski zadatak gdje moramo izgraditi mrežu (kao prvi u MI). Također, Šegvić je preporučio da se prvo riješi A i B podzadatak svakog zadatka prije nego što se krene na C ili D. Toga nije bilo na MI, ali on kaže da time se lagano osigura otprilike pola bodova.

To su moja razmatranja i tako ću se pripremati, ali ostavio sam objavu ovdje u slučaju da nekome koristi ili ako me netko želi ispraviti odnosno nadopuniti rečeno.

branimir1999 dok je za RNN rečeno da neće biti deriviranja već je potrebno razumijevanje derivacija i njihovo baratanje u zadacima

Mozes malo razjasniti na što se ovo odnosi ako znaš? Ja se nešto sjećam da je Tutek rekao da u pravilu ne daje zadatke s backpropom, a ne znam gdje bi se drugo mogle koristiti derivacije. Također, nisam vidio takve zadatke u starim ispitima al tbf nisam ih još sve prošao.

Također, da se nadovežem u vezi ove lekcije s optimizacijama, Šegvić je rekao da bi morali znati i ručno provesti par ovih bitnijih algoritama, tipa ADAM ili SGD, a za ove ostale valjda moramo znati bar one formule ažuriranja itd.

indythedog Moguće da sam krivo čuo ili shvatio, ali moje razumijevanje je da je implicirao da je manualni izvod tih derivacija apsurd te niti je korisno niti je cilj. Nakon što sam se obradovao što nema derivacija, nastavio je da ih i dalje potrebno razumjeti, samo ne manualno izvoditi. Kontam si da će dati gotove formule i reći “obavite jedan prolaz unazad i napišite rezutlate gradijenata” što može biti dosta komplicirano ako ne znaš kako ide backprop i što čemu služi kod RNN. Ovo je samo moja spekulacija pa bi bilo lijepo da netko još potvrdi tvoju ili moju tvrdnju. Što se mene tiče, neovisno je li istinito ili ne, ne pada mi napamet učiti izvod derivacija RNN-ova kada su derivacije konvolucijskog sloja već komplicirane same po sebi tokom ispita.

Da, točno za ADAM, SGD i RMS. Ima zadataka koji zahtijevaju nekoliko ručnih iteracija. Samo nisam siguran je li regularizacija ima zadatke ili je to implicitno uklopljeno kroz druge zadatke.

Također, htio bih napomenuti da je ovo heuristički pristup ZI-ju. Nemam baš vremena učiti sve od A do Z (niti mi je nužno), ali ako ciljaš na 5 ili nešto, onda je razborito proći svo gradivo temeljito.

indythedog Ostave uvijek mogućnost da provedeš backprop na konvolucijama

M̵̧̩͑̀͝î̶͍̉ć̴̝̾́̀o̶̺̟̣͂̽ Ma da znam za konvolucije, samo me zanimalo jel može za RNN-ove doć

Jel ulazi “Stanje tehnike konvolucijskih modela računalnog vida” u ispit, i jesu li spominjali sto treba znati iz toga

Rene Nope, to je “za one koje žele znati više”

Ulazi li lekcija Napredne povratne neuronske mreže?

BillIK da

Jel postoji prag na ZI?

nika_1999 ne, afaik

Za zavrsni ispit koje cijeline ulaze iz drugog ciklusa ?

1. Optimizacija
2. Regularizacija
3. Povratni modeli
   4: Duboki povratni i dvosmjerni modeli
   5: Metrička ugrađivanja

• na sve to i gradivo meduispita ?

𝐓𝐇𝐄 𝐒𝐄𝐂𝐑𝐄𝐓 - 𝐂𝐋𝐔𝐁 da