2013-05-22T14:20:07Zhttp://www.tdx.cat/oai/request

oai:www.tdx.cat:10803/91552011-04-13T07:47:21Zhdl_10803_342

nam a 5a 4500Artificial Neural NetworksDecimationBoltzmann MachinesArtificial IntelligenceRedes Neuronales ArtificialesDecimaciónMáquinas de BoltzmannInteligencia artificialXarxes Neuronals ArtificialsDecimacióMàquines de BoltzmannIntel·ligència artificialA new approach to Decimation in High Order Boltzmann Machines[Recurs electrònic][Barcelona] :Universitat Ramon Llull,DL 2011Accés lliurehttp://www.tdx.cat/handle/10803/9155cr |||||||||||AAMMDDs2011 sp ||||fsm||||0|| 0 eng|cFarguell Matesanz, EnricTesi doctoral - Universitat Ramon Llull. EALS - Electrònica, 2011Universitat Ramon Llull. EALS - ElectrònicaTesis i dissertacions electròniquesMazzanti Castrillejo, Ferran,dir.Garriga Berga, CarlesTDXDL B.5718-2011La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. <br/> <br/>Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. <br/> <br/>En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. <br/> <br/>Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.u71