[STRUCE1] Gradivo
netko_tamo
viliml ja i dalje ne dobivam njhovo rješenje, čak ni ne dobivam da mi predikcija za neke primjere daje 1 pa nemam ni potporne vektore…
viliml
netko_tamo
\left(
\begin{array}{ccccc}
1 & 3 & 16 & -8 & -11 \\
1 & -5 & 4 & -8 & -7 \\
1 & 7 & -4 & 11 & 9 \\
1 & 15 & -20 & 25 & 25 \\
\end{array}
\right) \left(
\begin{array}{c}
0.137 \\
-0.029 \\
0.0194 \\
-0.0461 \\
-0.0388 \\
\end{array}
\right)=\left(
\begin{array}{c}
1.16 \\
1. \\
-1. \\
-2.81 \\
\end{array}
\right)
Rene
dinoo Jel iko rjesio 4.? Meni se cini da je rjesenje pod B tocno?
pvmnt
Rene povuci pravac izmedu dvije najblize tocke s lijeve strane i okomica na taj pravac s primjerom 3,3 ce ti bit u 0,0 pa ce ti 3,3 bit udaljeno od tog pravca korijen iz 33+33 sta je korijen iz 18, margina je korijen iz 18/2, sve podijeljeno s ½ sto je margina od prvog treniranja dobijes da je omjer korijen iz 18, sto je 3 puta korijen iz 2. pozdrav!
pvmnt
ostaje.mi.to.sto.se.volimo ma nabijem na kurac ovaj forum ove nakosene 33 je 3 puta 3. neuk sam i nepismen. pozdrav!
micho
ostaje.mi.to.sto.se.volimo Preporučam korištenje latexa za jednadžbe, ili escape znaka \
Tompa007
Koje je gradivo zadnje za meduispit(koja preza) (uključeno) ?
[obrisani korisnik]
boogie_woogie
Zna netko ovaj?
viliml
nika_1999
Samo izračunaš vrijednosti hipoteze i to uvrstiš u formulu za gubitak zglobnice uz \lambda=1/C.
tomekbeli420
nika_1999 najprije trebaš izračunati vektor težina \mathbf{w} kako bi mogao računati gubitke zglobnice. Taj vektor težina možeš iz vektora \boldsymbol{\alpha} = \left(\alpha_1 , \alpha_2 , \alpha_3\right) = \left(0, 0.01, 0.01\right) računati preko one poveznice kad se prelazilo iz primarnog problema meke margine u dualni:
\mathbf{w} = \sum_{i=1}^{N} \alpha_i y^{(i)} \mathbf{x}^{(i)}
Sve te podatke imaš, kad se uvrsti dobiješ \mathbf{w} = \left(0.02, 0, 0.03\right)
Empirijska pogreška SVM-a na skupu \mathcal{D} se računa kao:
E_{R} \left(\mathbf{w}, w_0 \vert \mathcal{D} \right) = \sum_{i=1}^{N} \max{\left(0, 1 - y^{(i)} h \left(\mathbf{x}^{(i)}; \mathbf{w}, w_0\right)\right)} \ + \frac{1}{2 C} \| \mathbf{w} \|^2
gdje je h \left(\mathbf{x}; \mathbf{w}, w_0\right) = \mathbf{w}^{\mathrm{T}} \mathbf{x} + w_0 hipoteza iz primarnog modela (w_0 = -0.8 je dan da se može izračunati). Zadatak kaže da je korištena linearna jezgra, pa kao stoga nema dodatnog preslikavanja primjera nego uz težine stoje sirovi, nepreslikani primjeri \mathbf{x}. Za primjere one redom iznose -1, -1, -0.87
Stoga njihovi gubici zglobnice iznose redom 0, 0, 1.87, dakle u zbroju daju 1.87, kvadrat L2 norme iznosi \| \mathbf{w} \|^2 = 0.0013, C = 0.01 je također zadan i kad sve to uvrstiš dobiješ
E_{R} \left(\mathbf{w}, w_0 \vert \mathcal{D} \right) = 1.87 + \frac{1}{2 \cdot 0.01} \cdot 0.0013 = 1.935
Edit: tek sad sam shvatio da si mogao iznose hipoteza računati i bez vraćanja nazad u primaran model, al u svakom slučaju ti trebaju težine iz primarnog modela zbog regularizacijskog faktora.
On topic, jel uspio netko ovaj: V10 - Jezgrene metode, zadaci s ispita 4. zadatak
nikak ne mogu doći do rješenja, kod računanja hipoteze ona suma koja ima alfe, oznake i jezgrenu funkciju mi ispada reda veličine 10^{-3}, nisam išao računati w_0 jer sam odustao
viliml
tomekbeli420 Hipoteze za potporne vektore ispadnu -1.97711 + w0, -1.92673 + w0 i 0.0544753 + w0, a za primjer 0.00106184 + w0
w0 je otprilike 0.95, pa je vrijednost hipoteze za primjer otprilike 0.95.
-Ivan-
tomekbeli420
Je li možeš molim te reći kaj točno uvrstiš ovdje jer nemrem skužit nikak
(prebacivanje iz dualnog u primarni oblik)
Znači npr. kak si došo do w1? Što si točno uvrstio, koje brojeve?
-Ivan-
tomekbeli420
hvala na odgovoru, sam mi još jedna stvar nije baš jasna, kako si dobio ove brojeve (zaokruženo plavom)
nemrem skužit kaj si s čim pomnožio, što god pokušam gledajući ovu formulu ne dobim te brojeve
bodNaUvidima
tomekbeli420 Je si li uspio ovdje doci do njihovog rjesenja? Takoder mi h(x) ispada 1.06 x 10^{-3} + w0, a w0 mi ispada 0.999999 po njihovoj formuli.
[obrisani korisnik]
zas je ovdje prije sume minus?
tomekbeli420
[obrisani korisnik]
Jer ograničenja nejednakosti u standardnom obliku su nešto <= 0, a kad ono ograničenje di imaš >= 1 preformuliraš (prebaciš 1 na lijevu stranu i pomnožiš sa -1 da obrneš nejednakost) dobiješ ovo što piše uz alfe
Rene
viliml otkud ti da je w0 otprilike 0.95?
viliml
prx_xD
viliml jel možeš objasniti kako K(x, z) = (xT*z + 2)3 rješiš
Zuzu
viliml možeš reć molim te kako dobiješ vrijednosti za ostale vektore, znači -1.97711, -1.92673 i 0.05117..nikako ne mogu dobiti te vrijednosti formulama pa nešto vjv krivo radim
Rene
Kako odrediti jesu li primjeri linearno odvojivi nakon preslikavanja u prostor značajki? Već nekoliko takvih zadataka sam susreo, a nije mi baš jasno s obzirom da ne mogu nacrtati ni izračunati izlaz modela da odredim oznake?
Npr. V10 3. zadatak za učenje d), oke dobio sam preslikavanje \phi(\vec{x})=\begin{pmatrix}x_1^2 &x_2^2 & x1x2\sqrt2 &x_1\sqrt2 & x_2\sqrt2 &1\end{pmatrix}, ali kako onda provjeriti je li XOR problem linearno odvojiv?
viliml
Rene Treba pogađati i vidjeti da je XOR=x_1+x_2-2x_1 x_2=\frac{-2\phi_3+\phi_4+\phi_5}{\sqrt 2}
tomekbeli420
Rene ja sam rekao da jest linearno odvojivi i to sam argumentirao logikom da granica
h \left(\mathbf{x} ; \mathbf{w}, w_0 \right) = \mathbf{w}^{\mathrm{T}} \boldsymbol{\phi} \left(\mathbf{x}\right) + w_0 = 0
Je krivulja drugog reda (najopćenitija bez ograničenja). Takva krivulja drugog reda je sposobna odvojiti primjere kod XOR problema.
Kod jezgrene funkcije \kappa \left(\mathbf{x}, \mathbf{z}\right) = \left(\mathbf{x}^{\mathrm{T}} \mathbf{z}\right)^2 sam pak preslikao u 3D prostor značajki sa pripadnon funkcijom preslikavanja, dobio sam
\boldsymbol{\phi} \left(\mathbf{x}\right) = \left(x_1^2 , \sqrt{2} x_1 x_2 , x_2^2\right)
I tu sam našao (naprosto sam nacrtao preslikane primjere i gledao koju ravninu povući) ravninu koja razdvaja
\mathbf{w} = \left(2, -2, 2\right) \qquad w_0 = -1.5
Ako baš hoćeš, iste težine bi se mogle iskoristiti za naći hiperravninu kod prve jezgrene funkcije
Evo nadam se da mi sve štima i da nisam neš sjebo
Rene
viliml Kako? x=(1, 1) => 1 + 1 - 1 = 1, po tvom izrazu?
EDIT: vidim, zapravo je x_1 + x_2 - 2x_1x_2, hvala!
viliml
Rene Da sori išao sam napamet i zbunio sam se, znao sam da je tako nešto otprilike.
tomekbeli420 Hoćeš reći da prostor hipoteza obuhvaća sve krivulje drugog reda? To je validno, ali treba obrazložiti zašto postoji krivulja drugog reda koja odvaja XOR, što je ekvivalentno originalnom problemu osim ako se to smatra opće poznatim…
Ali u svakom slučaju za drugu jezgru se mora naći ručno (hipoteza je isto krivulja drugog reda ali nije općenita), a pošto su za binarne značaje x i x^2 ista stvar, vidi se da je rješenje za jedno ujedno i rješenje za drugu.