Kako Lstm izračuna število parametrov?
Kako Lstm izračuna število parametrov?

Video: Kako Lstm izračuna število parametrov?

Video: Kako Lstm izračuna število parametrov?
Video: Finance with Python! Portfolio Diversification and Risk 2024, November
Anonim

Torej, po vaših vrednotah. Če ga vnesemo v formulo, dobimo:->(n=256, m=4096), skupaj število parametrov je 4*((256*256) + (256*4096) + (256)) = 4*(1114368) = 4457472. številko uteži je 28 = 16 (število_enot * število_enot) za ponavljajoče se povezave + 12 (input_dim * število_enot) za vhod.

Vprašali ste tudi, kako najdete število parametrov?

Za izračunaj učljivega parametrov tukaj moramo samo pomnožiti z obliko širine m, višine n in upoštevati vse take filtre k. Ne pozabite na izraz pristranskosti za vsak filter. Število parametrov v sloju CONV bi bilo: ((m * n)+1)*k), dodano 1 zaradi pristranskosti za vsak filter.

Prav tako, koliko skritih enot ima Lstm? An LSTM omrežje. Omrežje ima pet vhodov enote , a skriti sloj sestavljen iz dveh LSTM pomnilniški bloki in trije izhodi enote . Vsak pomnilniški blok ima štiri vhode, vendar samo en izhod.

Kasneje se lahko vprašate, kako najdete število parametrov v RNN?

1 odgovor. Entitete W, U in V si delijo vsi koraki RNN in te so edine parametrov v modelu, opisanem na sliki. Zato število parametrov ki se ga je treba naučiti med treningom = dim(W)+dim(V)+dim(U). Na podlagi podatkov v vprašanju je to = n2+kn+nm.

Koliko plasti ima Lstm?

Na splošno, 2 plasti se je izkazalo za dovolj za odkrivanje kompleksnejših funkcij. Več plasti je lahko boljše, a tudi težje trenirati. Kot splošno pravilo - 1 skrit plast delajte s preprostimi problemi, kot je ta, in dva sta dovolj za iskanje razumno zapletenih funkcij.

Priporočena: