Studoši

Okej, ovo mi je posljednji pokušaj prije nego odustanem od ove zadaće jer sam previše vrimena potratija na nju, ko odgovori da odgovori, pomoć će uvelike. Da počnem, za primjer uzmimamo da imam mrežu arhitekture 2×8×3
Dakle ovih 8 neurona je neuron tipa 1. Mene sad zanima, ima li svaki neuron po 2 težine i 2 s-a pošto ima 2 ulaza?

Nadalje, kad treniram model, ja izvučem sve težine iz svih neurona u stavim ih u jedan flat vektor, dakle to je numpy array oblika (num_of_params, ) te je to jedna jedinka populacije koju ću izgenerirati.

Kako koristim eliminacijsku selekciju, koraci su mi sljedeći:
Eliminiraj M posto jedinki iz populacije koristeći 3-turnirsku selekciju tako da gledaš MSE za svaki generiranu mrežu u populaciji te će np.random.choice() odabrati 3 najvjerojatnije jedinke. Od te 3 jedinke, argmax-om se odabere ona s najvećom greškom te se izbaci iz populacije. Postupak se ponavlja dok god nije ukoonjeno M posto jedinki iz početne populacije.

Nadalje kad se to izvrši, obnavljam populaciju na način da skroz nasumično iz populacije odaberem 2 roditelja te obavim operaciju križanja i mutacije nad njihovim djetetom. To dijete onda dodam u populaciju (roditelje ne uklanjam) te se to ponavlja dok mi se broj jedinki u populaciji ne vrati na zadani pop_size nakon čega ide ponovno uklanjanje jedinki kao što je opisano gore.

Moj problem je što mi je početna greška najbolje jedinke u populaciji uvijek oko 0.65 te se nakon 10, 100 ili 1000 iteracija, greška najbolje jedinke neće spustiti ispod 0.62 ili 0.61, uglavnom ispod 0.6 ne ide, ne virujem da mi svaki put zapinje u lokalnom minimumu ili da trebam pustiti da se duže vrti jer već nakon 10ak iteracija se greška najbolje jedinke mijenja u 5 ili 6 decimali, dakle nezamjetno.

Eto moj problem, ja sumnjam na to da je problem možda u mom evolucijskom postupku, no ne znam, otvoren sam za sve prijedloge.

Jel itko imao ovakav problem čisto da mogu ovaj labos skiniti s kurca.

iNut Mene sad zanima, ima li svaki neuron po 2 težine i 2 s-a pošto ima 2 ulaza?

da

iNut Eto moj problem, ja sumnjam na to da je problem možda u mom evolucijskom postupku, no ne znam, otvoren sam za sve prijedloge.

Trebao bi križati roditelje kad pobjede u troturnirskoj, a ne ih samo baciti natrag. Potencijalno ima više faktora zašto ti ne radi, treba se igrati s hiperparametrima, napravi grid ili random search nad njima

M̵̧̩͑̀͝î̶͍̉ć̴̝̾́̀o̶̺̟̣͂̽
Križati roditelje pa ih natrag s djetetom vratiti u populaciju?

iNut To je implementacijski detalj, ali ne, obično se djeca stavljaju u međuspremnik pa se na kraju eliminacije dodaju u populaciju ili se roditelji samo označavaju za križanje/eliminaciju, izvršiš the sex, makneš sve one eliminirane i dodaš djecu.

Ja bih to osobno izveo kao:

dok nisi gotov s eliminacijom:
    za_otpis, za_crossover = turnirska_selekcija(populacija - otpisani)
    otpisani <- za_otpis
    odabrani <- za_crossover

za roditelji u odabrani:
    djeca <- crossover(roditelji...)

mutacije, bla bla bla...

za otpisan u otpisani:
    populacija -= otpisan

za dijete u djeca:
    populacija <- dijete

Jel ikome omogućen upload 6. i 7. zadaće? U obavijesti je rok 17.01. al ništa o tome ne mogu nać na ferku.

yurnero Čupić to stavi kad se sjeti, bit će kad tad

Kolko vam treba do konvergencije? meni se relativno uniformno smanjuje error, ali jaaako sporo

Dragi prijatelj strojnog učenja sejm

kaj znaci ovo, help pls

𝐓𝐇𝐄 𝐒𝐄𝐂𝐑𝐄𝐓 - 𝐂𝐋𝐔𝐁 neuroni tipa jedan svojim težinama predstavljaju primjer, poput onog koji uvodis u mrezu. Pogledaj tezine wi svakog od neurona i skiciraj gdje se nalaze u prostoru. Težina w1 odgovara “dimenziji” x1, a w2 je kao x2. To je kao nekakva kernel fja sto usporeduje ulazni primjer s nekim zadanim, i onda ta usporedba dalje ide u mrezu. Tih kernela imas onoliko koliko neurona tipa 1.

Dragi prijatelj strojnog učenja Jesam, jel znas mozda kaj mi tocno predstavlja to na slici i jel bi to trebalo biti mozda unutar onih elipsa kod primjera ili ?

𝐓𝐇𝐄 𝐒𝐄𝐂𝐑𝐄𝐓 - 𝐂𝐋𝐔𝐁 e to ti ne mogu reci, jer moras sam prokopati svoju mrezu nakon sto je naucena i vidjeti koji uzorci se nalaze u neuronima. Pretpostavljam da bi za idealno naucenu mrezu uzorci bi bili u sredistima elipsa.

Dragi prijatelj strojnog učenja Jel znas mozda u 6 labosu sta mozemo zakljuciti iz onih aktivacijskih funkcija

Kak vam je prošlo ispitivanje? što pitaju?

Dragi prijatelj strojnog učenja nemre bit lakse, proso po kodu i po izvjestaju, ispricas sta si sve radio, malo po mutaciji i crossingu i to je to

𝐓𝐇𝐄 𝐒𝐄𝐂𝐑𝐄𝐓 - 𝐂𝐋𝐔𝐁 a kolko su im rezultati bitni? Imam sve implementirano, ali ne uspjevam bas dobiti dobre rezultate