Studoši

tomekbeli420 sta se tice google doca, slobodno pisite u njega svoja rjesenja i pitanja, to je dobro mozda pomognete kasnije nekom ko bide imo ista pitanja

Bananaking Mislim da je stvar u tome da je moguće za različite vrijednosti parametara ponekad dobiti iste hipoteze. Npr ako imaš model h(\textbf x; \boldsymbol \theta) = |\boldsymbol\theta^\top\textbf x|, dobivaš istu hipotezu za \boldsymbol\theta i \boldsymbol-\boldsymbol\theta. S druge strane, kad imaš različite hipoteze onda sigurno imaš različite parametre jer s istim parametrima moraš dobit istu hipotezu.

može netko objasnit što znače ove definicije? konkretno imam problema sa shvaćanjem desnog dijela svake (u zagradama)

[obrisani korisnik]
Za hipotezu s vrijedi da je konzistentna, i da je svaka druga konzistentna hipoteza od koje je ona općenitija ili jednaka ujedno općenitija ili jednaka od s - one su jednake. Dakle, s su najspecifičnije hipoteze. Analogno su G najopćenitije. Nekakva “analogija” koja bi ti možda mogla pomoć: Neka je H multiskup (skup s dozvoljenim duplikatima), npr. H = {1, 2, 7, 5, 1, 7}. s su oni brojevi za koje vrijedi da ako je s >= h, onda je i h >=s. Dakle to su najmanji element (ili više jednakih): S = {1, 1}. Slično bi u G završili brojevi za koje vrijedi ako je h >= g, onda je i g >= h, tj. H = {7, 7}

Jel netko rjesavao sve zadatke iz Regresije?

Ne znam jel zadan za zadaću ili ne (moodle trenutno ne radi) ali može li netko staviti rješenje 3. zadatka iz zadataka za učenje iz vježbe Regresija 1 ?

Bananaking Imaš u skripti za to gradivo, (P03 - Regresija) na stranici 12, ova 3 matematička izraza + objašnjenje ispod zadnjeg izraza.

Je li pristranost koja
proizlazi iz odabira modela dovoljna za jednoznačnu klasifikaciju primjera iz D?

što bi značila jednoznačna klasifikacija?

BillIK to pitanje je i meni bilo malo sumnjivo, jer primjeri iz \mathcal{D} su već klasificirani.
Ja mislim da se pita može li se odrediti jedinstvena hipoteza koja ispravno klasificira sve primjera iz \mathcal{D}, dakle da je konzistentna i da uz to ne postoji više od jedne mogućnosti kako klasificirati neviđene primjere (primjere iz skupa \mathcal{X} \setminus \mathcal{D}).
Odnosno, je li skup VS_{\mathcal{H},\mathcal{D}} ima jedan ili više elemenata

Moze li netko pls objasniti 3. d) iz zadataka za ucenje (Osnovni koncepti)?
Gledam u ovaj doc rijesenih domacih zadaca, ali mi nije jasno kakvog smisla ima linearan model nad X = {0,1}³ i kako dodemo do te dvije konkretne klasifikacije koje se spominju

yabk Nije ni meni bilo na prvu jasno pa sam si geometrijski nacrtao. Poanta je da (0, 0, 1) može pripadati bilo kojoj od dvije klase, jer postoje dvije ravnine (što su hipoteze) koje tu točku mogu smjestiti u jednu ili u drugu klasu.
Znači sve točke koje su s jedne stane ravnine pripadaju prvoj klasi, a ove s druge strane ravnine pripadaju drugoj.

brr ne znam je li netko već odgovorio.. ali je na predavanju točka pročitana kao izraz “za koju vrijedi” konkretnije “x iz X za kojeg vrijedi…”
nadam se da nisam u krivu 🙂

Moze netko objasniti ovaj?

421blazeitfgt

u zadacima kod kojih je prostor primjera konačan, što je kod nas slučaj jer \mathcal{X} = \left\{0, 1\right\}^3 je skup svih uređenih trojki nula ili jedinica i ima ih 8, korisno je vizualizirati kako izgledaju svi mogući primjeri u prostoru primjera.
Zbog toga što se radi o uređenim trojkama, jasno je da svaki primjer \mathbf{x} iz prostora primjera ima tri značajke: \mathbf{x} = \left(x_1, x_2, x_3\right). Svih 8 mogućih primjera iz prostora primjera \mathcal{X} se tada mogu prikazati na ovakvoj kocki:

E sad na slični način treba vizualizirati zadani model. Vidimo da se radi o binarnoj klasifikaciji, jer se koristi funkcija \mathbf{1} \{...\} sa nekim predikatom unutar vitičastih zagrada. E sad vidimo da taj predikat
gleda svaku značajku posebno, i za svaku značajku testira nalazi li se unutar nekog intervala zadanih sa parametrima, i onda sve to poveže sa logičkim I (znak \wedge).

Also mali komentar, nije mi jasno zašto su stavili da je prostor parametara \boldsymbol{\theta} = \mathbb{R}^6 a pojedine jednodimenzijske parametre označili sa dvama indeksima npr \theta_{1,2}, no dobro… Bitno je samo da postoji 6 parametara, i svake dvije su za granice intervala jedne značajke.

Pretpostavimo da su parametri takvi da je interval “ispravan” pod navodnicima (da donje granice nisu veće od gornjih, npr da se ne desi situacija da je \theta_{1,1} = 1.5 i \theta_{1,2} = 0.5), jer u suprotnom će onda takav predikat uvijek dati laž (jer evo za ove dvije thete bi se u predikat našao 1.5 < x_1 < 0.5, što je naravno uvijek laž jer ne postoji nijedan realan broj koji je veći od 1.5 i manji od 0.5) i takva hipoteza onda sve primjere klasificira kao negativne (dakle sa nulama).

E onda u slučaju da su parametri dobri, možemo vizualizirati model na ulaznom prostoru.
Pa ako malo bolje razmisliš, primijetit ćeš da se radi o kvadru koji ima sve bridove i plohe paralelne sa ovom kockom koju sam nacrtao gore na slici.
Evo primjera vizualizacije jedne od hipoteza, nisam baš najvještiji u crtanju 3D oblika:

Ovo bi odgovaralo situaciji npr da su parametri ovakvi (otprilike):
\theta_{1,1} = 0.8 \quad \theta_{1,2} = 1.5 \quad \theta_{2,1} = -0.5 \quad \theta_{2,2} = 1.8 \quad \theta_{3,1} = -0.2 \quad \theta_{3,3} = 0.25
I onda se pozitivno klasificira sve što je unutar takvog kvadra. Ovakva hipoteza koju sam naveo kao primjer bi onda pozitivno klasificirala (1, 0, 0) i (1, 1, 0). Strane i bridovi tog kvadra su paralelne sa onima iz kocke jer se testira svaka značajka pojedinačno. Jako bitno je za primijetiti da iako postoji neprebrojivo beskonačno mnogo parametara iz \mathbb{R}^6, hipoteza postoji konačno mnogo (čak i bez ovakvog modela) jer puno različitih realnih brojeva daju efektivno iste hipoteze. Npr, ova hipoteza koju sam naveo bi bila ista kao i ona sa parametrima:
\theta_{1,1} = 0.81 \quad \theta_{1,2} = 1.51 \quad \theta_{2,1} = -0.51 \quad \theta_{2,2} = 1.81 \quad \theta_{3,1} = -0.21 \quad \theta_{3,3} = 0.26
Što je mrvicu pomaknuti kvadar u odnosu na prošli primjer.
Zašto je ista? Hipoteza je u matematičkom smislu funkcija, i ona za svaki \mathbf{x} iz prostora primjera \mathcal{X} pljuje oznaku. Pa ako dvije hipoteze za svaki \mathbf{x} daju istu oznaku, onda su te dvije hipoteze iste i onda ih ne brojimo dvaput kod prebrojavanja hipoteza. Razlog tomu je činjenica da je prostor primjera \mathcal{X} konačan, pa onda postoji konačno mnogo klasifikacijskih funkcija (hipoteza) i bez modela, a model ih još ograniči s obzirom da nije moguće postići sve moguće hipoteze.

Dobro vizualizirali smo model (odnosno hipoteze iz tog modela) i sad treba prebrojiti koliko različitih klasifikacija postoji za takav model, odnosno koliko različitih funkcija (Booleovih funkcija u ovom slučaju jer imamo binarnu klasifikaciju) se može dobiti ovakvim modelom.
E sad vizualizacija je dobra jer možemo problem svesti na sljedeći ekvivalentan problem:
Koliko ima različitih “konfiguracija” preklapanja kocke i kvadra, gdje se naravno vrhovi kocke (primjeri iz \mathcal{X}) razlikuju?
A ovo prebrojiti je relativno lagano jer znamo da kvadar ima bridove i plohe paralelne sa onima od kocke.

Prva dva slučaja su kad se svi primjeri klasificiraju isto. Ako kvadar skroz “fula” kocku (ili su parametri “neispravni” kako smo spomenuli ranije), onda će svi primjeri biti klasificirani kao 0, a ako se kocka nalazi potpuno unutar kvadra, onda se svi primjeri klasificiraju kao 1. To su 2 hipoteze.

Onda uzmimo slučaj kako kvadar u svojoj unutrašnjosti obuhvaća samo jedan vrh. Sad ovisno o tome koji vrh obuhvati, taj primjer će klasificirati sa 1, a ostale sa 0. Takvih mogućnosti imamo 8 jer ima 8 različitih vrhova, dakle to je dodatnih 8 hipoteza.

Onda uzmimo slučaj kako kvadar u svojoj unutrašnjosti obuhvaća jedan brid. Pokazni primjer je jedan od takvih hipoteza. Taj brid koji obuhvaća ta 2 vrha/ulaznih primjera će klasificirati sa 1, ostale sa 0. Bridova ima 12, dakle takvih mogućnosti ima dodatnih 12, dakle dodatnih 12 hipoteza.

Dalje pretpostavljam kužiš kako.

Onda uzmimo slučaj kako kvadar u svojoj unutrašnosti obuhvaća cijelu jednu stranu. Strana ima 6, dakle 6 dodatnih hipoteza.

Pozbrojimo sve to,
1+1+8+12+6 = 28.

tomekbeli420 na kojem google docu

lincthesinc17 https://docs.google.com/document/d/1POm4KkLzv3M_R1Lf7m3nnvp-2MJ-JYHRMKRJNCprJwU/edit#heading=h.jwsd30gipi6

Je li netko rj 3. zad - zad s ispita iz 03 Regresija?

što je točno rang matrice i kako ga odrediti? jel prijevod toga na engleskome span ? jel to samo broj razlicitih stupaca 😓

[obrisani korisnik] Skripta “3: Regresija”, Bilješke, bilješka broj 9, stranica 14. tl;dr rang matrice je broj linearno nezavisnih stupaca matrice. Ali pročitaj što piše, imaš i primjere.

[obrisani korisnik] Na engleskom se zove “range” ili “column space”

EDIT: Na engleskom se zove “rank”. Vezano je uz “range” ali nije ista stvar, pardon.