Geoffrey Hinton

De Viquipèdia
Salta a la navegació Salta a la cerca
Infotaula de personaGeoffrey Hinton
Deep Thinkers on Deep Learning (cropped to Geoffrey Hinton).jpg
Biografia
Naixement 6 desembre 1947 (71 anys)
Wimbledon
Formació Universitat d'Edimburg
Activitat
Tesi doctoral Relaxation and its role in vision Tradueix (1977)
Director de tesi Hugh Christopher Longuet-Higgins
Camp de treball Aprenentatge profund i aprenentatge automàtic
Ocupació Informàtic i investigador d'intel·ligència artificial
Ocupador Universitat de Toronto
Google
Universitat Carnegie Mellon
Obra
Estudiant doctoral Andriy Mnih Tradueix
Família
Pare Howard Everest Hinton
Modifica les dades a Wikidata

Geoffrey Everest Hinton OC, FRS, FRSC[1] (6 de desembre de 1947) és un psicòleg cognitiu i informàtic anglo-canadenc, conegut principalment per la seva feina en xarxes neuronals artificials. Des de 2013 treballa entre Google (Google Brain) i la Universitat de Toronto.[2][3]

Fou coautor, juntament amb David E. Rumelhart i Ronald J. Williams, d'un article molt conegut que es va publicar el 1986 i va popularitzar l'algorisme de retropropagació per entrenar xarxes neuronals multi-capa.[4] Se'l considera una figura capdavantera en la comunitat de l'aprenentatge profund i alguns l'anomenen el "Padrí de l'Aprenentatge Profund".[5][6][7][8][9] L'èxit espectacular d'AlexNet, dissenyat pel seu estudiant Alex Krizhevsky[10] en reconeixement d'imatges durant el repte Imagenet de 2012[11] va ajudar a provocar una revolució en el camp de la visió artificial.[12] El 2018 va rebre el Premi Turing, juntament amb Yoshua Bengio i Yann LeCun pels seus treballs en aprenentatge profund.[13][14]

Educació[modifica]

Hinton va estudiar al King's College de Cambridge, llicenciant-se el 1970 en psicologia experimental.[15] Va continuar estudiant a la Universitat d'Edimburg on va rebre un doctorat en intel·ligència artificial el 1978, tenint com a director de recerca Christopher Longuet-Higgins.[16][17]

Carrera i recerca[modifica]

Després de doctorar-se, va treballar a la Universitat de Sussex, i (després de tenir dificultats per trobar finançament a Gran Bretanya)[18] la Universitat de Califòrnia a San Diego, i la Universitat Carnegie Mellon.[15] Fou el director fundador de la unitat de neurociència computacional al University College de Londres,[15] i és actualment[19] professor del departament d'informàtica de la Universitat de Toronto. Hinton va fer un curs online gratuït sobre xarxes neuronals a la plataforma educativa Coursera el 2012.[20] Hinton va passar a ser empleat de Google el març de 2013 quan la seva empresa, DNNresearch Inc., fou adquirida. Va declarar que volia "dividir el seu temps entre la seva recerca universitària i la seva feina a Google".[21]

La recerca de Hinton investiga maneres d'utilitzar les xarxes neuronals en aprenentatge automàtic, memòria, percepció i processament de símbols. És autor o coautor de més de 200 publicacions avaluades per experts.[22][23]

Mentre Hinton era professor a la Universitat Carnegie Mellon (1982–1987), David E. Rumelhart i Hinton i Ronald J. Williams van aplicar l'algorisme de retropropagació a xarxes neuronals multi-capa. Els seus experiments van demostrar que aquestes xarxes poden aprendre representacions internes útils de dades.[4] Encara que aquests treballs van ser importants en la popularització de la retropropagació, no van ser els primers a suggerir-ne aquesta utilitat.[24] La derivació automàtica en mode invers, de la qual la retropropagació n'és un cas especial, es va proposar per Seppo Linnainmaa el 1970, i Paul Werbos va proposar d'utilitzar-la per entrenar xarxes neuronals el 1974.[24]

Durant el mateix període, Hinton va inventar les màquines de Boltzmann en col·laboració amb David Ackley i Terry Sejnowski.[25] Altres contribucions a la recerca en xarxes neuronals inclouen les representacions distribuïdes, les xarxes neuronals amb retard en el temps, barreges d'experts, màquines de Helmholtz i Producte d'Experts. El 2007, Hinton va ser coautor d'un article sobre aprenentatge no supervisat amb el títol de Unsupervised learning of image transformations.[26] Els seus articles a Scientific American de setembre de 1992 i octubre de 1993 donen una introducció accessible a la seva recerca.[cal citació]

L'octubre i novembre de 2017 respectivament, Hinton va publicar dos articles en accés obert[27][28] sobre el tema de les xarxes neuronals en càpsules, que segons Hinton són "finalment una cosa que funciona bé".[29]

En el seu grup s'han format com a estudiants de doctorat o investigadors postdoctorat científics de renom com Richard Zemel,[16][30] Brendan Frey,[31] Radford M. Neal,[32] Ruslan Salakhutdinov,[33] Ilya Sutskever,[34] Yann LeCun[35] i Zoubin Ghahramani.

Honors i distincions[modifica]

D'esquerra a dreta: Russ Salakhutdinov, Richard S. Sutton, Geoffrey Hinton, Yoshua Bengio i Steve Jurvetson el 2016

Hinton fou triat com a membre de la Royal Society el 1998.[1] Fou el primer guanyador del Premi Rumelhart el 2001.[36] En el certificat d'elecció a la Royal Society hi diu:

« Geoffrey E. Hinton és distingit internacionalment per la seva tasca en xarxes neuronals artificials, especialment com es poden dissenyar perquè aprenguin sense necessitat de professor humà. Això pot ser l'inici de màquines intel·ligents i autònomes similars al cervell. Ha comparat els efectes dels danys cerebrals amb els efectes de pèrdues en aquest tipus de xarxa, i hi ha trobat semblances inesperades amb la disminució humana, com en el reconeixement de noms i les pèrdues de categorització. La seva obra comprèn estudis d'imatgeria mental, i la invenció de trencaclosques per provar la originalitat i la intel·ligència creativa. És conceptual, sofisticada a nivell matemàtic i experimental. Ajunta aquestes habilitats amb efectes aclaparadors per produir una obra important de gran interès.[37] »

El 2001, Hinton va rebre un doctorat honoris causa de la Universitat d'Edimburg.[38] El 2005 va rebre el Premi IJCAI per l'Excel·lència en Recerca per la seva carrera.[cal citació] També va rebre la Medalla d'Or Herzberg del Canadà per la Ciència i l'Enginyeria el 2011.[39] El 2013, Hinton va rebre un doctorat honoris causa de la Université de Sherbrooke.[cal citació]

El 2016, fou elegit membre estranger de l'Acadèmia Nacional d'Enginyeria dels Estats Units "per contribucions a la teoria i pràctica de les xarxes neuronals artificials i la seva aplicació al reconeixement de veu i la visió artificial".[40] També va rebre el Premi IEEE/RSE Wolfson James Clerk Maxwell de 2016.[41]

Va guanyar el premi "Fronteres del Coneixement" de la Fundació BBVA (2016) en la categoria de Tecnologies de la Informació i Comunicació "per la seva tasca pionera i influent" per dotar a les màquines de la capacitat d'aprendre.[cal citació]

Juntament amb Yann LeCun, i Yoshua Bengio, Hinton va guanyar el Premi Turing de 2018 pels descobriments conceptuals i d'enginyeria que han fet de les xarxes neuronals profundes un component crític de la informàtica.[42][43][44]

Vida privada[modifica]

Hinton és rebesnét del lògic George Boole, la feina del qual va acabar sent un dels fonaments de la informàtica moderna, i també del cirurgià i escriptor James Hinton.[45] El seu pare fou l'entomòleg Howard Hinton.[15][46] L'Everest del seu nom ve d'un altre parent, George Everest.[18] És nebot de l'economista Colin Clark.[47] La seva primera dona va morir de càncer ovàric el 1994.[48]

Opinions[modifica]

Hinton va traslladar-se dels Estats Units al Canadà en part per desil·lusió amb la política de l'era Reagan i la seva disconformitat amb el finançament militar de la intel·ligència artificial.[18]

Hinton s'ha manifestat en contra de les armes autònomes letals. Sobre el risc existencial per la intel·ligència artificial, Hinton típicament refusa de fer prediccions a més de cinc anys vista, perquè el ritme exponencial del progrés fa que la incertesa sigui massa gran.[49] No obstant, en una conversa informal amb el famós alarmista del risc de la IA Nick Bostrom, el novembre de 2015, que va sentir el periodista Raffi Khatchadourian,[50] es diu que va afirmar que no esperava que la intel·ligència artificial general s'aconseguís en les properes dècades ("no pas abans de 2070"), i que, en el context d'una dicotomia que havia introduït prèviament Bostrom entre la gent que creu que gestionar el risc existencial de la intel·ligència artificial és probablement impossible, i la gent que creu que serà tan fàcil que es farà automàticament, Hinton "és dels que creu que és impossible".[50] Ha afirmat, “Crec que els sistemes polítics la utilitzaran per terroritzar la gent” i ha expressat la seva creença que agències com la NSA ja estan intentant d'abusar de tecnologies semblants.[50]

Quan Nick Bostrom li va preguntar perquè continuava fent recerca malgrat les seves greus preocupacions, Hinton va afirmar, "Et podria donar els arguments habituals. Però la veritat és que la perspectiva del descubriment és massa dolça".[50] – una referència a una observació de J. Robert Oppenheimer quan li van preguntar perquè havia continuat amb la seva recerca en el Projecte Manhattan.[cal citació]

Segons la mateixa informació, Hinton no descarta categòricament que els éssers humans controlin una superintel·ligència artificial, però avisa que "no hi ha gaire bon historial de coses menys intel·ligents que controlin coses amb més intel·ligència".[50]

Referències[modifica]

  1. 1,0 1,1 Anon. «Professor Geoffrey Hinton FRS». London: Royal Society, 1998. Arxivat de l'original el 3 novembre 2015.
  2. Daniela Hernandez «The Man Behind the Google Brain: Andrew Ng and the Quest for the New AI». Wired, 07-05-2013 [Consulta: 10 maig 2013].
  3. «Geoffrey E. Hinton – Google AI» (en en).
  4. 4,0 4,1 Rumelhart, David E.; Hinton, Geoffrey E.; Williams, Ronald J. «Learning representations by back-propagating errors» (en en). Nature, 323, 6088, 09-10-1986, pàg. 533–536. DOI: 10.1038/323533a0. ISSN: 1476-4687.
  5. «Geoffrey Hinton was briefly a Google intern in 2012 because of bureaucracy – TechCrunch» (en en-us).
  6. Somers, James «Progress in AI seems like it's accelerating, but here's why it could be plateauing» (en en). MIT Technology Review.
  7. «How U of T's 'godfather' of deep learning is reimagining AI» (en en).
  8. «'Godfather' of deep learning is reimagining AI». .
  9. «Geoffrey Hinton, the 'godfather' of deep learning, on AlphaGo» (en en-us). Macleans.ca, 18-03-2016.
  10. Dave Gershgorn. «The inside story of how AI got good enough to dominate Silicon Valley», 18-06-2018. [Consulta: 5 octubre 2018].
  11. Krizhevsky, Alex; Sutskever, Ilya; Hinton, Geoffrey E. «ImageNet classification with deep convolutional neural networks». Nips'12. Curran Associates Inc., 03-12-2012, pàg. 1097–1105.
  12. «How a Toronto professor's research revolutionized artificial intelligence | Toronto Star» (en en). thestar.com.
  13. 27 Mar, Emily Chung · CBC News · Posted:; March 27, 2019 6:00 AM ET | Last Updated:. «Canadian researchers who taught AI to learn like humans win $1M award | CBC News» (en en).
  14. Fathers of the Deep Learning Revolution Receive ACM A.M. Turing Award
  15. 15,0 15,1 15,2 15,3 Anon (2015) Hinton, Prof. Geoffrey Everest. ukwhoswho.com. Who's Who (online Oxford University Press ed.) doi:10.1093/ww/9780199540884.013.20261 (subscripció necessària)
  16. 16,0 16,1 Geoffrey Hinton al Mathematics Genealogy Project.
  17. Hinton, Geoffrey Everest. Relaxation and its role in vision (Tesi). Universitat d'Edimburg. OCLC 18656113. 
  18. 18,0 18,1 18,2 «The Man Who Helped Turn Toronto into a High-Tech Hotbed». The New York Times, 23-06-2017 [Consulta: 27 juny 2017].
  19. https://www.cs.toronto.edu/~hinton/fullcv.pdf
  20. https://www.coursera.org/learn/neural-networks
  21. (12 març 2013). "U of T neural networks start-up acquired by Google". Nota de premsa. Consulta: 13 març 2013.
  22. Articles acadèmics sobre Geoffrey Hinton a Google Scholar
  23. Publicacions de Geoffrey Hinton indexades a la base de dades bibliogràfica Scopus. (subscripció necessària)
  24. 24,0 24,1 Schmidhuber, Jürgen «Deep learning in neural networks: An overview». Neural Networks, 61, 01-01-2015, pàg. 85–117. arXiv: 1404.7828. DOI: 10.1016/j.neunet.2014.09.003. PMID: 25462637.
  25. Ackley, David H; Hinton Geoffrey E; Sejnowski, Terrence J (1985), "A learning algorithm for Boltzmann machines", Cognitive science, Elsevier, 9 (1): 147–169
  26. Hinton, Geoffrey E. «Geoffrey E. Hinton's Publications in Reverse Chronological Order».
  27. Sabour, Sara; Frosst, Nicholas; Hinton, Geoffrey. October 2017. "Dynamic Routing Between Capsules"
  28. "Matrix capsules with EM routing" 3 November 2017. OpenReview.net
  29. Geib, Claudia. 2 November 2017. "We’ve Finally Created an AI Network That’s Been Decades in the Making" Futurism.com
  30. Zemel, Richard Stanley. A minimum description length framework for unsupervised learning (Tesi), 1994, 1994. OCLC 222081343. 
  31. Frey, Brendan John. University of Toronto. Bayesian networks for pattern classification, data compression, and channel coding (Tesi), 1998, 1998. OCLC 46557340. 
  32. Neal, Radford. University of Toronto. Bayesian learning for neural networks (Tesi), 1995, 1995. OCLC 46499792. 
  33. Salakhutdinov, Ruslan. University of Toronto. Learning deep generative models (Tesi), 2009, 2009. ISBN 9780494610800. OCLC 785764071. 
  34. Sutskever, Ilya. University of Toronto. Training Recurrent Neural Networks (Tesi). OCLC 889910425. 
  35. «Yann LeCun's Research and Contributions».
  36. «Current and Previous Recipients». David E. Rumelhart Prize.
  37. Anon. «Certificate of election EC/1998/21: Geoffrey Everest Hinton». London: Royal Society, 1998. Arxivat de l'original el 5 novembre 2015.
  38. «Distinguished Edinburgh graduate receives ACM A.M. Turing Award». [Consulta: 9 abril 2019].
  39. «Artificial intelligence scientist gets M prize». CBC News, 14-02-2011.
  40. «National Academy of Engineering Elects 80 Members and 22 Foreign Members». NAE, 08-02-2016.
  41. «2016 IEEE Medals and Recognitions Recipients and Citations». IEEE. [Consulta: 7 juliol 2016].
  42. «Vector Institutes Chief Scientific Advisor Dr.Geoffrey Hinton Receives ACM A.M. Turing Award Alongside Dr.Yoshua Bengio and Dr.Yann Lecun». NAE, 27-03-2019.
  43. «Three Pioneers in Artificial Intelligence Win Turing Award». New York Times, 27-03-2019 [Consulta: 27 març 2019].
  44. «Fathers of the Deep Learning Revolution Receive ACM A.M. Turing Award - Bengio, Hinton and LeCun Ushered in Major Breakthroughs in Artificial Intelligence». Association for Computing Machinery, 27-03-2019. [Consulta: 27 març 2019].
  45. The Isaac Newton of logic
  46. Salt, George «Howard Everest Hinton. 24 August 1912-2 August 1977». Biographical Memoirs of Fellows of the Royal Society, 24, 1978, pàg. 150–182. DOI: 10.1098/rsbm.1978.0006. ISSN: 0080-4606.
  47. «The 'Godfather of AI' on making machines clever and whether robots really will learn to kill us all?». The Telegraph, 26-08-2017 [Consulta: 20 desembre 2017].
  48. «The 'Godfather of AI' on making machines clever and whether robots really will learn to kill us all?». The Telegraph, 26-08-2017 [Consulta: 30 gener 2018].
  49. «Lecture 16d The fog of progress».
  50. 50,0 50,1 50,2 50,3 50,4 «The Doomsday Invention». The New Yorker, 16-11-2015 [Consulta: 30 gener 2018].