Viquipèdia Discussió:Presa de decisions/2023/Política sobre l'ús d'intel·ligència artificial al text dels articles

Bona tarda a tothom,

M'agradaria obrir un petit debat sobre l'ús d'intel·ligències artificials com eines de creació audiovisuals per a la Viquipèdia.

Actualment, les IA amb capacitat de creació d'imatges estan creixent a un ritme enorme i exponencial i, com és normal, ja han aparegut algunes aportacions d'aquest estil a la Viquipèdia.

Sense intentar fer mal als autors d'aquestes aportacions, m'agradaria poder comentar aquestes incorporacions com a un punt a tenir en compte per al text final. Crec que s'haurien de limitar.

Si és veritat que estan creixent a un ritme ràpid, no crec que encara tinguin la suficient qualitat per a ser un element de les eines de la Viquipèdia. Com a exemple m'agradaria recalcar aquesta entrada: Sant Roro.

Amb tot el respecte, però, aquesta qualitat és inacceptable. És una imatge que pot produir encara més malentès i aportar una sensació de poca polidesa als articles. També destacar, que aquestes intel·ligències artificials estan usualment entrenades amb imatges i creacions d'artistes sense el seu propi consentiment, com comunitat crec que s'hauria de mostrar respecte cap al gremi d'artistes i restringir-ne l'ús d'aquests recursos.

Una política té la força d'obligar a fer les coses d'una determinada manera. Si no, no és una política i és només un assaig, un consell o una pàgina d'ajuda. Algunes polítiques són molt concretes i d'altres s'han de desenvolupar en normes que sí que siguin més concretes, però la política ha de permetre dir què es pot fer i què passa si no es fa.

El text que es proposa es pot resumir en que "un text generat amb AI pot ser dolent" però no diu que no es pugi fer servir. O sigui, fer servir una AI és un motiu de supressió directa o no? O hi ha alguna altra mesura concreta que proposa la política? Un administrador pot dedicar-se a esborrar articles amb AI segons li sembli? Algú pot ampliar els criteris d'esborrat ràpid unilateralment a partir del que diu aquesta política? Quina és la mesura si algú es a crear articles amb AI com a xurros com abans es creaven traduccions automàtiques infumables?

Sense mesures concretes no és una política ni estem decidint res.

Tenim pàgines com Viquipèdia:Esborrany, Viquipèdia:Si us plau no mossegueu els nouvinguts, Viquipèdia:Categorització i Viquipèdia:Pressuposeu bona fe que són directrius i no forcen a editar res d'una manera determinada sota l'execució d'esborraments.

La pròpia plantilla que encapçala les polítiques diu que Disposa d'un ampli consens dels editors i, per tant, es considera una guia de recomanacions a seguir pels usuaris. La idea és aquesta: una pàgina sobre un tema de màxima rellevància, que sigui aprofitable pels usuaris per entendre millor com funcionem i que sigui consensuada (no només les meves cabòries). Per això, animeu-vos a afegir esmenes de frases i matisacions: totes les preguntes que proposes són interessants però gairebé no aplicables perquè no podem assegurar al 100% que un text és d'IA, com no podem moltes vegades assegurar que un article té CI. Però la política hi és explicant amb la millor intenció la filosofia de criteri que hauríem de fer servir i de la manera més flexible possible per no encotillar si no és necessari.

Insisteixo un cop més: anima't a afegir una secció d'esmenes o ampliacions amb 3-4 frases que complementin el text existent sobre que el fet que un text amb IA que pugui suggerir deficiències molt greus es marcarà amb una plantilla X i que es suggerirà per esborrar, si ho creus adient. Saps que difícil és materialitzar debats com aquests; en un fil separat a la discussió sí que no decidirem res concret.

Pel que pugui interessar, hi ha un esborrany de política a en:Wikipedia:Large language models. En cinc cèntims, no està prohibit, però només l'haurien d'usar editors experts i en certes tasques que poden ser productives.

M'hi he basat en algunes de les parts; penso que en anglès hi ha massa palla i pàgines disseminades. També vaig utilitzar Wikipedia:Using neural network language models on Wikipedia i Wikipedia:Large language models and copyright. La idea era un compendi més simple i més robust a canvis a llarg termini.

Bon dia @Leptictidium, @Quelet, @Robertgarrigos, @Alzinous, @Lluis tgn, @Manlleus, @Pere prlpz, @Alzinous, @Josu PV i @Ganyet.

Com a participants de la presa de decisions, i per evitar possibles problemes d'interpretació del consens un cop acabada, us suggereixo el següent sistema perquè sigui el més clar possible:

• Es votaran, de manera separada, el text inicial proposat a l'inici de la presa de decisions (Viquipèdia:Generació d'articles amb intel·ligència artificial) i la resta d'esmenes proposades pels usuaris participants. La finalitat de la votació és convertir la proposta d'assaig en una directriu de la Viquipèdia (vot favorable) o mantenir-la com a assaig no vinculant (vot negatiu).
• S'estableix un llindar pel qual 2/3 el 60% dels vots emesos han de ser favorables (vots de suport+aprovació+assumible) o, si no pot ser, un 60% (suport+aprovació+assumible+consentible), per tal que qualsevol dels textos s'accepti per a ser inclòs com a política. Els vots NS/NC o neutral són considerats en blanc i s'exclouen del llindar.
• Aquells usuaris que donin suport només i únicament al text inicial, s'entendrà que s'abstenen de les esmenes suggerides posteriorment. Per tant, si una esmena té prou llindar de vots positius (en percentatge), s'inclourà. Si no supera el llindar, s'exclourà del text final.
• Si per qualsevol raó un usuari vota (sigui a favor o en contra) d'una esmena, però no ho fa del text principal, s'interpretarà que aquell vot també aplica a la proposta inicial (és a dir, al fet que el text total es converteixi o no en política del projecte). Es prega de votar totes les opcions per facilitar el recompte i una comprensió més amable del consens.

Què us sembla? Queda prou clar i cenyit el sistema de votació? Hi canviaríeu res?

Em sembla bé.

Fins ara a totes les votacions suport=aprovació=assumible i consentible=objecció=rebuig. No em sembla una bona idea canviar el significat de les plantilles de sempre per una votació concreta. Si fa falta crear una plantilla que vulgui dir "voto en contra però es pot comptar el meu vot a favor si altrament el percentatge de vots a favor estaria entre X i Y", la creem, però canviar-li el significat a les plantilles existents només porta confusió.

A més:

• Un 60% (suport+aprovació+assumible+consentible) vol dir que estarem comptant com a vots a favor vots que són en contra.
• Posar dos llindars quan un implica l'altre embolica la troca i fa semblar el que no és. Dir 2/3 i si no un 60%, és el mateix que dir el 60%. Si a més estem dient un 60% comptant a favor fins i tot els consentibles, el llindar és més baix.

El llindar del 60% em sembla bé, sobretot si la participació és gran.

Recomanar votar el text general i les esmenes em sembla bé, tot i que caldria repassar si totes les opcions raonables tenen un manera d'expressar-se. Crec que ara mateix algú que estigui a favor del text amb l'esmena però en contra del text si no té l'esmena ho té difícil per expressar el seu vot. Ara bé, si les esmenes realment són totes canvis menors entenc que aquestes coses passaran poc i que el que hem de fer és explicar bé com farem el recompte.

Gràcies per la matisació. Vaig per ordre, perquè tens raó en el segon punt sobre qui no vulgui el text inicial si no és amb l'esmena. Afegeixo el punt de vot, a veure si us convenç:

• Si un usuari vota a favor d'esmenes concretes, però vota en contra el text principal, és perquè no admet l'aprovació de la proposta inicial sense aquests canvis. Per tant, si totes les esmenes proposades en què ha votat a favor no passen el llindar de vot i no s'apliquen, el seu vot al text inicial es reflectirà com a oposició (excepte si explicita el contrari; si us plau expresseu-vos el més clarament possible amb el vostre vot).

Respecte al vot "consentible", es pot treure això que havia posat, tant és, i deixar-lo com proposes @Pere prlpz. Però recordem que la plantilla de vot no n'indica gens bé la funció i que al DIEC, el mot "consentir" pren el significat de "rendir-se a un sentiment, a una obligació, a una opinió, accedir" i de "permetre, tolerar". Per tant és una opinió negativa flexible que s'adapta al sentit majoritari (reforça un negatiu, però permet un positiu si és majoritari). Sigui com sigui, tens raó que és millor simplificar-ho al 60%, que és un consens prou ampli si esperem una participació significativa. Canviem-ho i traiem això de consentible.

D'acord que els noms "assumible" i "consentible" els va triar molt malament algú fa 17 anys o més, i que per això fins i tot hi ha votants que es confonen. "Weak oppose" i "weak support" (i equivalents "strong") que crec que fan servir a Commons i més llocs són molt més clars.

Ara bé, el que no podem fer és ara canviar-li el significat a les plantilles que ja tenim. Si en volem unes de més clares amb un altres significat, les podem crear. Ara bé, compte que una plantilla de "m'hi oposo però si fa falta per aprovar és una abstenció" té el mateix efecte que una plantilla NS/NC que ja tenim.

Hi afegeixo que és important (en general) no desencoratjar l'ús d'aquestes plantilles, perquè algú que vota "consentible" o "assumible" d'alguna manera està deixant la porta oberta a canviar d'opinió segons els arguments dels altres. El que no té opinió definida o no vol ser un obstacle per al consens fa un comentari i no vota, o vota NS/NC.

El sistema actual funciona bé i qui sol participar a les votacions ha aprés a fer-lo servir. Si funciona, per què canviar-ho?

El sistema actual (si és que existeix un sistema actual) funciona quan hem de decidir entre dues opcions, que és on és fàcil comptar vots a favor i en contra.

Quan ja no funciona tant és si hem de decidir entre diferents opcions que no són independents i no hem explicat als votants com comptarem els vots.

Ara bé, d'acord amb que no hem de canviar allò que funciona, sobretot si el canvi pot despistar els votants. Per això el comentari en el sentit que si canviem alguna cosa (encara que sigui per millorar) no hauria de ser canviant el significat d'una plantilla amb molta tradició sinó, si cal, creant-ne una de diferent.

@Alzinous el que estem debatent en aquest fil no té res a veure amb el sistema actual, que com a tal no està definit enlloc més enllà de les 100 contribucions, ni tampoc de manera específica perquè hi ha diferents tipus d'elaborar i conduir preses de decisions (tant pel que fa a llindars, com per suma de vots en diverses opcions que es contrarresten o complementen).

Més enllà del debat molt menor sobre l'ús d'una plantilla entre en Pere i jo, el que cerquem aquí és que, amb els participants que heu dit la vostra fins ara a l'espai principal, acordem les condicions per trobar la manera més sensata de sumar el consens entre les diverses casuístiques de vot que segurament apareixeran al llarg del procés (contraposició de vots entre subpropostes o esmenes d'un text principal, usuaris que potser no voten a tots els apartats i cal interpretar-los, recompte dels vots en blancs que no se sap com aplicar, etc).

Com bé es diu a Viquipèdia:Sistema de presa de decisions: Abans que aquesta hi escomence [en referència a la fase de votació], s'ha d'acordar per consens sobre l'afer que se sotmet a votació, el seu sistema, i les implicacions del seu resultat final. Aquest és l'objectiu d'aquest fil.

Crec que s'entén prou bé estic d'acord amb el sistema de votació tal com està ara.

Mai he entés ben bé l'objectiu de les plantilles "assumible" i "consentible", crec que es un tema que es podria debatre a La Taverna.

Els que esteu d'acord amb el sistema de votació tal com està ara, podríeu dir quin el sistema de votació tal com està ara?

En una altra presa de decisions tenim el problema que no sabem quin és el sistema de votació quan estem votant múltiples opcions a la vegada.

O sigui, tenim molt clar quin és el sistema de votació quan votem una sola cosa o quan cada cosa es pot votar per separat, com fem a les propostes d'esborrat, però no tenim clar com s'ha d'entendre, per exemple, qui vota a favor de l'esmena i no vota el text principal, ni què han de votar els que acceptin el text amb l'esmena però no sense, o a l'inrevés, o altres combinacions.

@Pere prlpz, crec que en @Josu PV deia que està bé "tal com està ara" validant la proposta consensuada aquí. M'equivoco?

Sí, això volia dir. Em referia principalment als canvis respecte al percentatge i els vots.

És qüestionable si aquesta presa de decisions pot tirar endavant amb una participació tan baixa i amb diversos usuaris apuntant a altres polítiques existents i al caràcter genèric del text, vegeu comentari d'en Pere de sota el qual subscric completament. Val a dir que moltíssimes polítiques actuals son traduccions amb alguns canvis fetes per un o pocs editors fa anys. Potser les més noves haurien de cuinar-se més lentament. Tornem però amb que hi ha poc escrit sobre les preses de decisions i el seus mecanismes, exemple també del debat de vots de suport+aprovació+assumible+(consentible?).