[DUBUCE1] Gradivo

indythedog

Rene Ja mislim da se njima taj zadatak nadovezivao na labos, pa su valjda trebali znati kolika je bila dimenzionalnost ulaza u labosu

Ne vidim što drugo bi moglo biti 🤔

Tompa007

pp u pravu si

Tompa007

ima neko ovog ?

InCogNiTo124

𝐓𝐇𝐄 𝐒𝐄𝐂𝐑𝐄𝐓 - 𝐂𝐋𝐔𝐁

za 1. je nesto tipa ovo:
\begin{align*} h_1 &= relu(w_1x_1 + x_2+x_3 + 1)\\ h_2 &= relu(x_1 + x_2+x_3 + 1)\\ y &= relu(w_2h_1+h_2+1)\\ L &= (y-y_t)^2\\ \frac{dL}{dh_1}&=2(y-y_t)\cdot \frac{\mathrm{d} relu(w_2h_1+h_2+1)}{\mathrm{d}h_1}=2(y-y_t)\cdot[[w_2h_1+h_2+1\gt 0]]w_2\\ \frac{dL}{dh_2}&=2(y-y_t)\cdot \frac{\mathrm{d} relu(w_1h_1+h_2+1)}{\mathrm{d}h_2}=2(y-y_t)\cdot[[w_2h_1+h_2+1\gt 0]] \end{align*}

\frac{d}{d w_2} sad je sad trivijalno iz predzadnjeg reda
\frac{d}{dx} te \frac{d}{dw_1} mislim da mozes sad i sam 🙃 ne da mi se vise

viliml

𝐓𝐇𝐄 𝐒𝐄𝐂𝐑𝐄𝐓 - 𝐂𝐋𝐔𝐁 InCogNiTo124 Čudno mi je što kažu “pragovi” umjesto (pretpostavljam) biasi. Bi li se to trebalo oduzeti umjesto zbrojiti? Ako se kao gleda kao “prag ReLU-a je 1”.
Je li se igdje drugdje koristila takva terminologija?

Tompa007

InCogNiTo124 Nice hvala ti sefe 🙂

Nez jel neko ovog mozda rjesavo,
Nije mi jasno kako ht je inicijalno [0 ,0, 0] a dolje imamo da nam je ht uvijek 1 ili manje, kako ce to ikada dati zbroj da su sva trojica dosla odnosno 3 - 2 = 1

InCogNiTo124

viliml dobro si to primjetio

Ja sam to vidio na par mjesta jer mi je segvic bio mentor pa znam da je prag == bias, i iako si tehnicki u pravu da bi se trebalo oduzet, konvencija je da se biasi samo zbrajaju

Daeyarn

𝐓𝐇𝐄 𝐒𝐄𝐂𝐑𝐄𝐓 - 𝐂𝐋𝐔𝐁 svaki clan ht moze biti ili 0 ili 1; ako tog ucenika nema onda ce na njegovom mjestu u skrivenom stanju biti 0, ako ga ima biti ce 1, a ako pokusa prevariti uciteljicu da ga pobroji vise puta onda ce nelinearnost min(ht, 1) osigurati da se on pobroji najvise jedanput, kada su sva tri ucenika prisutna, skriveno stanje je na kraju [1 1 1] i konacni izlaz mreze je o = Wyh * ht + by = [1 1 1] * [ 1 1 1] - 2 sto je 3 - 2 = 1

edit: spelling i to

Tompa007

Daeyarn a koje je dimenzije x(t)

Daeyarn

𝐓𝐇𝐄 𝐒𝐄𝐂𝐑𝐄𝐓 - 𝐂𝐋𝐔𝐁 one-hot encoded vektor, 1×3

Tompa007

Daeyarn a kak bi izracuno min ( [0, 1, 0] , 1), sta je rezultat ovog

Daeyarn

𝐓𝐇𝐄 𝐒𝐄𝐂𝐑𝐄𝐓 - 𝐂𝐋𝐔𝐁 ahaa, malo je nespretno napisano u rjesenjima i mene je zbunilo isprva, zapravo se gleda za svaku komponentu vektora ht jel veca od 1 i onda ako je se postavi u 1

npr. za vektor [1 0 3] (ucenik se pokusao pobrojati 3puta) bi izlaz te funkcije min bio [1 0 1]

Tompa007

Daeyarn uh, e gledam jesam pospan, glup, lud ili nesposoban
(sve sam od navedenog)

hvala ti stari sjelo je

« Prethodna stranica