Vés al contingut

Intel·ligència artificial generativa: diferència entre les revisions

De la Viquipèdia, l'enciclopèdia lliure
Edició següent →
Contingut suprimit Contingut afegit
VisualWikitext
Creada per traducció de la pàgina «Inteligencia artificial generativa»
(Cap diferència)

Revisió del 20:48, 16 des 2023

La intel·ligència artificial generativa o IA generativa és una mena de sistema d'intel·ligència artificial (IA) amb la capacitat de generar text, imatges o altres mitjans en resposta a comendaments.[1][2] Els models de intel·ligència artificial generativa aprenen els patrons i l'estructura, en un inici, de les seves dades d'entrenament, i després generen noves dades, les quals tenen característiques semblants.[3][4]

Entre els sistemes de IA generativa principals s'hi troben ChatGPT (i la seva variant Bing Xat), un bot conversacional creat per OpenAI que utilitza els seus models de llenguatge gran fundacionals GPT-3 i GPT-4;[5] i Bard, un bot conversacional creat per Google fent servir el seu model bàsic LaMDA. Alguns altres models generatius de intel·ligència artificial inclouen sistemes d'art com Stable Diffusion, Midjourney i DALL-E.[6]

En un inici, el propòsit de la IA generativa era el de simular els processos de pensament humà. Avui dia, però, IA generativa té el potencial de ser utilitzada en una gran varietat d'indústries, com pot ser l'art, l'escriptura, el desenvolupament de programari, el disseny de productes, l'atenció mèdica, les finances, els jocs, el màrqueting i la moda.[7][8][9] La inversió en IA generativa va augmentar gràcies a empreses com Microsoft, Google i Baidu a principis de la dècada de 2020, a més de nombroses empreses minoritàries que desenvolupen models de intel·ligència artificial generativa. [1][10][11]

La IA generativa persegueix el desenvolupament de l'alfabetització i les competències en IA per part de la ciutadania.[12] ​ La UNESCO té l'objectiu d'aconseguir un enfocament centrat en l'ésser humà, basant-se en principis igualitaris, equitatius i garantint un «AI for all» en termes d'innovació i coneixement.[13]​ En aquest sentit, s'ha de garantir que a l'hora de dissenyar i utilitzar la intel·ligència artificial, es faci de la manera més ètica i repsonsable possible.

Malgrat això, existeixen certs usos preocupants de la intel·ligència artificial generativa, com la creació de notícies falses o deepfakes, que poden fer-se servir per a enganyar o manipular a les persones.[14][15]Cal tenir en compte que la IA pren informació de diferents fonts i les uneix, en cap moment valida la veracitat de la informació. Per tant, és una altra font d'informació generada en un ecosistema virtual, i permet interactuar de manera diferent amb un cercador web o manual escolar. [16]En aquest mateix sentit, al setembre de 2023, la UNESCO ha emès una crida urgent als governs de tot el món perquè regulin de manera eficaç la IA generativa en l'àmbit educatiu.[17]

Història

Des del moment en el qual va ser fundat, el camp de l'aprenentatge automàtic ha utilitzat models estadístics, incloent models generatius, per a modelar i predir dades. A partir de finals de la dècada dels 2000, el sorgiment de l'aprenentatge profund va impulsar el progrés i la recerca en el processament d'imatges i vídeos, l'anàlisi de text, el reconeixement de veu i altres tasques. Així i tot, la major part de les xarxes neuronals profundes van ser entrenades com a models discriminatius que fan tasques de classificació, com la classificació d'imatges basada en xarxes neuronals convolutives.

L'any 2014, avenços com l'autocodificador variacional i la xarxa generativa adversativa produïren per primera vegada xarxes neuronals profundes pràctiques amb la capacitat d'aprendre models generatius, en lloc de discriminativos, de dades complexes com a imatges. Aquests models generatius profunds van ser els primers capaços de generar, no només etiquetes de classe per a imatges, sinó també imatges completes.[18]

L'any 2017, la xarxa Transformador va permetre avenços en els models generatius, la qual cosa va portar al primer transformador generatiu pre-entrenat l'any 2018.[19] Seguidament, l'any 2019, GPT-2, va demostrar la capacitat de generalitzar sense supervisió a moltes tasques diferents com a model fundacional.[20]

L'any 2021, en ser llençat DALL-E, un model generatiu de píxels basat en transformadors, i els llençaments posteriors de Midjourney i Stable Diffusion va marcar el sorgiment de l'art d'intel·ligència artificial d'alta qualitat a partir d'indicacions de llenguatge natural.

Al gener de 2023, Futurism.com va publicar que CNET havia estat utilitzant una eina de IA interna per a escriure almenys 77 de les seves històries; Una vegada va conèixer-se la notícia, CNET va publicar correccions a 41 de les històries.[21]

Al març de 2023, va llançar-se GPT-4. Un equip de Microsoft Research va argumentar que «podria veure's raonablement com una versió primerenca (però encara incompleta) d'un sistema d'intel·ligència artificial forta (IAF)».[22]

A l'abril de 2023, el tabloide alemany Die Aktuelle va publicar una entrevista falsa generada per IA amb l'expilot de carreres Michael Schumacher. La història incloïa dues possibles revelacions: en primer lloc, a la portada s'hi incloïa la línia «enganyosament real», i, en segon lloc, al final de l'entrevista reconeixia que havia estat generada per IA. Com a conseqüència, l'editor en cap va ser acomiadat poc després enmig de la controvèrsia.[23]

Modalitats

A detailed oil painting of figures in a futuristic opera scene
Théâtre d'Opéra Spatial, una imatge generada per Midjourney

Un sistema generatiu de IA es construeix aplicant aprenentatge automàtic no supervisat o autosupervisado a un conjunt de dades. Les capacitats d'un sistema de IA generativa depenen de la modalitat o el tipus de conjunt de dades utilitzat.

La IA generativa pot ser unimodal o multimodal; els sistemes unimodales només prenen una mena d'entrada, mentre que els sistemes multimodals poden prendre més d'un tipus d'entrada.[24] Per exemple, una versió de GPT-4 de OpenAI accepta entrades de text i imatges.[25]

Elaboració d'ordres per a la IA generativa.

Els Prompts en el context de la intel·ligència artificial són les instruccions que els usuaris elaboren i li brinden a un sistema per a que aquest generi una resposta. Dit d'una altra manera, els prompts serveixen per a guiar el comportament del model de la IA amb l0objectiu d'obtenir el resultat desitjat.[28] ​Aquestes ordres estan destinades per a màquines, i elles responen automàticament a comandes simples i complexes. Poden ser elaborats tant com textos o com àudios. ​[29]

Ús dels verbs per a la creació de Prompts

Quan es redacten consignes, a causa que es volen respostes útils per part de la IA, és important parar atenció als verbs utilitzats. Pot passar que la persona estigui utilitzant un verb en lloc d'un atre que aportaria millors resultats, així que hem de tenir en compte quins estan dins d'un mateix conjunt.[28] A continuació alguns exemples.[30]

Categories i processos cognitius Alternatives Definicions
Reconèixer Identificar Confirmar que la informacion presentada explícitament ja es trobi en la memòria a a llarg termini.
Rememorar Reproduir Extreure informació de la memòria a llarg termini a partir d'algun estímul.
Interpretar Aclarir, parafrasejar, representar, traduir Canviar d'una forma de representació a una altra.
Exemplificar Il·lustrar Proposar exemples que il·lustrin i mostrin una idea o principi.
Classificar Categoritzar, agrupar Determinar que quelcom pertany a una categoria.
Resumir Abstreure, generalitzar Extreure les idees o les dades principals d'una informació.
Inferir Concloure, extrapolar, predir Treure conclusions a partir de la informació presentada.
Comparar Constratar, mapejar, relacionar Detectar correspondències entre dues idees, objectes o esdeveniments.
Explicar Modelar Construir models causa-efectes.

Preocupacions

El desenvolupament de la IA generativa ha generat preocupació per part d'individus i entitats, com poden ser governs o empreses, la qual cosa ha donat lloc a protestes, accions legals i, fins i tot, moviments demanant la suspensió amb experiments de IA, així com accións des de diferents governs. En una sessió informativa del Consell de Seguretat de les Nacions Unides al juliol de 2023, el Secretari General António Guterres va afirmar que "la IA generativa té un enorme potencial per al bé i el mal a escala", que la IA pot "impulsar el desenvolupament global" i contribuir entre 10 i 15 bilions de dòlars al creixement global per a l'any 2030, però que el seu ús maliciós "podria causar nivells horribles de mort i destrucció, traumes generalitzats i danys psicològics a una escala inimaginable".[31]

Pèrdua de llocs de treball

Ja des dels principis del desenvolupament de la IA, hi ha hagut arguments plantejats per Joseph Weizenbaum, creador de ELIZA, i per altres, sobre si haurien de ser les computadores les qui realitzessin totes aquestes tasques que estan capacitades a protar a terme, donada la diferència entre computadores i humans, així com entre els càlculs quantitatius i els judicis qualitatius basats en valors.[32] A l'abril de 2023, va saber-se que el 70% de llocs de treball d'il·lustradors a la Xina havien estat substituïts per intel·ligència artificial de generació d'imatges.[33][34] Al juliol de 2023, els avenços en la IA generativa van contribuir als conflictes laborals de Hollywood, pels quals hi va haver la vaga SAG-AFTRA de 2023. Fran Drescher, presidenta del Sindicat d'Actors de Cinema, va declarar que "la intel·ligència artificial representa una amenaça existencial per a les professions creatives" durant la vaga SAG-AFTRA de 2023.[35]


Deepfakes

Article principal: Deepfake

Els deepfakes (un acrònim d' "aprenentatge profund" i "fals"[36]) són mitjans generats per IA que reemplacen la imatge d'una persona amb la d'una altra presa d'una font (image o vídeo) diferent utilitzant xarxes neuronals artificials.[37] Els deepfakes van començar a cridar l'atenció i, sobretot, a causar preocupacions pel seu ús en vídeos pornogràfics de celebritats, pornografia de venjança, notícies falses, enganys i fraus financers.[38][39]Això ha provocat respostes tant de la indústria com del govern per a detectar i limitar el seu ús.[40][41]

Ciberdelicte

La capacitat de la IA generativa per a crear contingut fals realista s'ha explotat en nombrosos tipus de delictes cibernètics, incloses les estafes de phishing. S'han utilitzat vídeos i àudio deepfake per a crear desinformació i frau. Shuman Ghosemajumder, excap de frau de Google, va predir que tot i que els vídeos deepfake van causar renou en els mitjans de comunicació, aviat es tornaran comuns i, com a resultat, més perillosos.[42] Els ciberdelincuentes han creat grans models de llenguatge centrats en el frau, inclosos WormGPT i FraudGPT.[43]

Recerques recents, realitzades durant 2023, han revelat que la IA generativa presenta punts febles que fan que puguin ser manipulades per delinqüents per a extreure informació nociva sense passar per salvaguardes ètiques. L'estudi presenta exemples d'atacs realitzats a ChatGPT, inclosos Jailbreaks i psicologia inversa. A més, persones malintencionades poden utilitzar ChatGPT per a atacs d'enginyeria social i atacs de phishing, la qual cosa revela la naturalesa nociva d'aquestes tecnologies.[44]

Regulació

A la Unió Europea, la proposta de Llei d'Intel·ligència Artificial inclou requisits per a divulgar material protegit per drets d'autor utilitzat per a entrenar sistemes generatius de IA i etiquetar qualsevol resultat generat per IA com a tal.

Als Estats Units, un grup d'empreses, incloses OpenAI, Alphabet i Meta, van signar un acord voluntari amb la Casa Blanca al juliol de 2023 per a utilitzar marques d'aigua en el contingut generat per IA.[45]

A la Xina, les Mesures provisionals per a la Gestió de Serveis de IA Generativa introduïdes per l'Administració del Ciberespai de la Xina regulen qualsevol IA generativa de cara al públic. Inclou requisits per a fer servir marques d'aigua en les imatges o vídeos generats, regulacions sobre dades d'entrenament i qualitat d'etiquetes, restriccions a la recopilació de dades personals i una directriu que la IA generativa ha d' "adherir-se als valors fonamentals socialistes".[46][47]

Vegeu també

Referències

  1. ↑ 1,0 1,1 «Anthropic Said to Be Closing In on $300 Million in New A.I. Funding». The New York Times, 27-01-2023. [Consulta: 14 març 2023].
  2. ↑ «A Cheat Sheet to AI Buzzwords and Their Meanings: QuickTake» (en anglès). [Consulta: 16 desembre 2023].
  3. ↑ Pasick, Adam «Artificial Intelligence Glossary: Neural Networks and Other Terms Explained» (en anglès). The New York Times, 27-03-2023. ISSN: 0362-4331.
  4. ↑ «Generative models». OpenAI, 16-06-2016.
  5. ↑ Metz, Cade «OpenAI Plans to Up the Ante in Tech’s A.I. Race» (en anglès). The New York Times, 14-03-2023. ISSN: 0362-4331.
  6. ↑ Roose, Kevin. «A Coming-Out Party for Generative A.I., Silicon Valley's New Craze». The New York Times, 21-10-2022. [Consulta: 14 març 2023].
  7. ↑ «Don't fear an AI-induced jobs apocalypse just yet». The Economist, 06-03-2023. [Consulta: 14 març 2023].
  8. ↑ «Generative AI: Unlocking the future of fashion».
  9. ↑ Eapen, Tojin T.; Finkenstadt, Daniel J.; Folk, Josh; Venkataswamy, Lokesh «How Generative AI Can Augment Human Creativity». Harvard Business Review, 01-07-2023. ISSN: 0017-8012.
  10. ↑ «The race of the AI labs heats up». The Economist, 30-01-2023. [Consulta: 14 març 2023].
  11. ↑ «Google Cloud brings generative AI to developers, businesses, and governments», 14-03-2023.
  12. ↑ Vicente Yagüe Jara, María Isabel; López Martínez, Olivia; Navarro, Verónica; Cuéllar Santiago, Francisco «Escritura, creatividad e inteligencia artificial. ChatGPT en el contexto universitario». Revista Comunicar, 01-10-2023. DOI: 10.3916/C77-2023-04 [Consulta: 2 novembre 2023].
  13. ↑ UNESCO «Recomendación sobre la ética de la inteligencia artificial». Biblioteca Digital UNESCO, 2022 [Consulta: 2 novembre 2023].
  14. ↑ «Transcript: Senate Judiciary Subcommittee Hearing on Oversight of AI». techpolicy.press, 16-05-2023. [Consulta: 19 maig 2023].
  15. ↑ Alonso Arévalo, Julio; Quinde Cordero, Marlene «ChatGPT: La creación automática de textos académicos con Inteligencia artificial y su impacto en la comunicación académica y educativa». Repositorio Documental Universidad de Salamanca, 19-04-2023. ISSN: 2445-0650 [Consulta: 2 novembre 2023].
  16. ↑ Monsalve, C. «Aportes Didacticos para interactuar con herramientas digitales enrriquecidas con IA». Aulas TIC- INFD.
  17. ↑ «La UNESCO llama a regular la Inteligencia Artificial generativa en las escuelas».
  18. ↑ Tomczak, Jakub. Deep Generative Modeling. Cham: Springer, 2022, p. 197. DOI 10.1007/978-3-030-93158-2. ISBN 978-3-030-93157-5. 
  19. ↑ «finetune-transformer-lm». GitHub. [Consulta: 19 maig 2023].
  20. ↑ Radford, Alec; Wu, Jeffrey; Child, Rewon; Luan, David; Amodei, Dario; Sutskever, Ilya; others «Language models are unsupervised multitask learners». OpenAI blog, 1, 8, 2019, pàg. 9.
  21. ↑ .
  22. ↑ Sparks of Artificial General Intelligence: Early experiments with GPT-4. 
  23. ↑ «A magazine touted Michael Schumacher's first interview in years. It was actually AI». NPR, 28-04-2023.
  24. ↑ https://www.marktechpost.com/2023/03/21/a-history-of-generative-ai-from-gan-to-gpt-4/
  25. ↑ «Explainer: What is Generative AI, the technology behind OpenAI's ChatGPT?». Reuters, 17-03-2023.
  26. ↑ On the opportunities and risks of foundation models, 2021. 
  27. ↑ «Explainer: What is Generative AI, the technology behind OpenAI's ChatGPT?». , 17-03-2023.
  28. ↑ 28,0 28,1 «¿Cómo abordar la inteligencia artificial en el aula?».
  29. ↑ Monsalve, C. «Aportes didácticos para interactuar con herramientas digitales enriquecidas con IA». Aulas TIC-INFD.
  30. ↑ Ruiz Martin, Hector. ¿Cómo aprendemos? Una aproximación científica al aprendizaje y la enseñanza. Editorial Graó, 15-12-2021, p. 104. 
  31. ↑ «Secretary-General's remarks to the Security Council on Artificial Intelligence». un.org, 18-07-2023. [Consulta: 27 juliol 2023].
  32. ↑ Tarnoff, Ben (4 August 2023). «Lessons from Eliza». The Guardian Weekly. pp. 34-9.
  33. ↑ Zhou, Viola. «AI is already taking video game illustrators' jobs in China». Rest of World, 11-04-2023. [Consulta: 17 agost 2023].
  34. ↑ Carter, Justin. «China's game art industry reportedly decimated by growing AI use». Game Developer, 11-04-2023. [Consulta: 17 agost 2023].
  35. ↑ Collier, Kevin. «Actors vs. AI: Strike brings focus to emerging use of advanced tech». NBC News, July 14, 2023.
  36. ↑ «Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise | Fox News», 15-06-2018. [Consulta: 16 desembre 2023].
  37. ↑ Cole, Samantha. «We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now». Vice, 24-01-2018. Arxivat de l'original el 7 September 2019. [Consulta: 4 maig 2019].
  38. ↑ «Experts fear face swapping tech could start an international showdown». The Outline. Arxivat de l'original el 2020-01-16. [Consulta: 28 febrer 2018].
  39. ↑ «Here Come the Fake Videos, Too - The New York Times», 18-06-2019. [Consulta: 16 desembre 2023].
  40. ↑ «Join the Deepfake Detection Challenge (DFDC)». deepfakedetectionchallenge.ai. Arxivat de l'original el 2020-01-12. [Consulta: 8 novembre 2019].
  41. ↑ Clarke, Yvette D. «H.R.3230 - 116th Congress (2019-2020): Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019». www.congress.gov, 28-06-2019. Arxivat de l'original el 2019-12-17. [Consulta: 16 octubre 2019].
  42. ↑ Sonnemaker, Tyler. «As social media platforms brace for the incoming wave of deepfakes, Google's former 'fraud czar' predicts the biggest danger is that deepfakes will eventually become boring». Business Insider. [Consulta: 31 juliol 2023].
  43. ↑ «After WormGPT, FraudGPT Emerges to Help Scammers Steal Your Data». PCMAG. [Consulta: 31 juliol 2023].
  44. ↑ «From ChatGPT to ThreatGPT: Impact of Generative AI in Cybersecurity and Privacy | IEEE Journals & Magazine | IEEE Xplore». ieeexplore.ieee.org. [Consulta: 17 novembre 2023].
  45. ↑ ; Hu, Krystal «OpenAI, Google, others pledge to watermark AI content for safety, White House says». Reuters, July 21, 2023.
  46. ↑ Ye, Josh. «China says generative AI rules to apply only to products for the public». Reuters, 13-07-2023. [Consulta: 13 juliol 2023].
  47. ↑ «生成式人工智能服务管理暂行办法», 13-07-2023.
Obtingut de «https://ca.wikipedia.org/w/index.php?title=Intel·ligència_artificial_generativa&oldid=32797549»