Winner-take-all
Winner-take-all (amb traducció "qui guanya s'ho emporta tot") és un principi computacional aplicat en models computacionals de xarxes neuronals mitjançant els quals les neurones competeixen entre si per activar-se. En la forma clàssica, només la neurona amb l'activació més alta es manté activa mentre totes les altres neurones s'apaguen; no obstant això, altres variacions permeten que més d'una neurona estigui activa, per exemple, el soft winner take-all, mitjançant el qual s'aplica una funció de poder a les neurones.
En la teoria de les xarxes neuronals artificials, les xarxes winner-take-all són un cas d'aprenentatge competitiu en xarxes neuronals recurrents. Els nodes de sortida de la xarxa s'inhibeixen mútuament, alhora que s'activen mitjançant connexions reflexives. Després d'un temps, només un node de la capa de sortida estarà actiu, és a dir, el corresponent a l'entrada més forta. Així, la xarxa utilitza la inhibició no lineal per escollir la més gran d'un conjunt d'entrades. Winner-take-all és una primitiva computacional general que es pot implementar mitjançant diferents tipus de models de xarxes neuronals, incloses xarxes de temps continu i d'espiga.[1][2]
Les xarxes de guanyadors s'utilitzen habitualment en models computacionals del cervell, especialment per a la presa de decisions distribuïda o la selecció d'accions a l'escorça. Alguns exemples importants inclouen models jeràrquics de visió [3] i models d'atenció i reconeixement selectius.[4][5] També són habituals en xarxes neuronals artificials i circuits VLSI analògics neuromòrfics. S'ha demostrat formalment que l'operació del guanyador s'emporta tot és computacionalment potent en comparació amb altres operacions no lineals, com ara el llindar.[6]
En molts casos pràctics, no només hi ha una sola neurona que s'activa, sinó que hi ha exactament k neurones que s'activen per a un nombre fix k. Aquest principi s'anomena k-winners-take-all.
A la dreta es mostra una simulació de corrent continu basada en SPICE del circuit CMOS que s'emporta tot el guanyador al cas de dues entrades. Com es mostra a la subtrama superior, l'entrada IIN ,1 es va fixar a 6nA, mentre que IIN ,2 es va augmentar linealment de 0 a 10nA. La subgràfica inferior mostra els dos corrents de sortida. Com era d'esperar, la sortida corresponent a la més gran de les dues entrades transporta tot el corrent de polarització (10nA en aquest cas), forçant l'altre corrent de sortida gairebé a zero.
Referències[modifica]
- ↑ , ISBN 978-90-277-1360-5, doi:10.1007/978-94-009-7758-7_8, <http://link.springer.com/10.1007/978-94-009-7758-7_8>. Consulta: 5 novembre 2022
- ↑ Oster, Matthias; Rodney, Douglas; Liu, Shih-Chii Neural Computation, 21, 9, 2009, pàg. 2437–2465. DOI: 10.1162/neco.2009.07-08-829. PMID: 19548795.
- ↑ Riesenhuber, Maximilian; Poggio, Tomaso (en anglès) Nature Neuroscience, 2, 11, 01-11-1999, pàg. 1019–1025. DOI: 10.1038/14819. ISSN: 1097-6256. PMID: 10526343.
- ↑ Carpenter, Gail A. Computer Vision, Graphics, and Image Processing, 37, 1, 1987, pàg. 54–115. DOI: 10.1016/S0734-189X(87)80014-2.
- ↑ Itti, Laurent; Koch, Christof IEEE Transactions on Pattern Analysis and Machine Intelligence, 20, 11, 1998, pàg. 1254–1259. DOI: 10.1109/34.730558.
- ↑ Maass, Wolfgang (en anglès) Neural Computation, 12, 11, 01-11-2000, pàg. 2519–2535. DOI: 10.1162/089976600300014827. ISSN: 0899-7667. PMID: 11110125.