Sobre l'autor: Amy Brand és directora i editora de MIT Press, càrrec que ocupa des del 2015. Científica cognitiva de formació, va obtenir el doctorat al MIT i ha ocupat càrrecs de lideratge a CrossRef, Harvard i Digital Science. És cocreadora de la taxonomia CRediT, membre fundadora de la junta d'ORCID i productora del documental Picture a Scientist. Brand és àmpliament reconeguda per les seves contribucions a la infraestructura de recerca, la comunicació acadèmica i l'equitat en la ciència. Entre els seus reconeixements hi ha el Premi del Consell d'Editors de Ciència i el Premi d'Or de Periodisme Científic AAAS Kavli.
La ciència és essencial per al progrés humà. També és vital, encara que menys òbviament, com difonem la ciència. Com a sistema a través del qual el coneixement esdevé descobrible i creïble, la publicació és un component bàsic de la infraestructura de recerca.
Com s'hauria d'adaptar l'edició per satisfer les necessitats d'una comunitat investigadora que s'enfronta a la censura, la disminució del finançament i el ràpid augment dels sistemes d'IA generatius que absorbeixen el coneixement mentre en erosionen la integritat? Com a persona que ha treballat durant dècades en recerca, administració universitària i edició, mai he vist que hi hagi tant en joc com avui pel futur de la ciència. i comunicació científica.
Amb els sistemes sociopolítics que s'esfondren al nostre voltant, és temptador veure la IA generativa com la solució alquímica als problemes del món. Els grans models de llenguatge (LLM) han emergit com a portals seductors cap al descobriment, proporcionant respostes instantànies, síntesi perfecta i l'aparent democratització del coneixement. Tanmateix, el seu atractiu amaga la seva potència com a sistemes que també acceleren la desinformació, el frau i la propaganda. Dissenyats, produeixen contingut que sembla altament plausible però que sovint és enganyós o simplement erroni. És perillós per a la ciència quan la validació és difícil i costosa, mentre que la "veritat" és barata i rendible, sobretot tenint en compte la facilitat amb què es pot enganyar la ment humana.
Sí, volem accelerar el descobriment i la resolució de problemes davant dels desafiaments globals esgarrifosos. Volem creure en màquines que puguin resoldre problemes més ràpidament que l'arquitectura cognitiva humana o les nostres institucions disfuncionals. Però quan els defensors de la formació en IA sense restriccions argumenten que és un imperatiu moral posar a disposició tot el contingut i les dades científiques per accelerar la innovació, la història aconsella cautela.
Ja ho hem vist abans. Els primers internets van ser aclamats com una força democratitzadora de l'expressió i el coneixement universal. Al final, la manca de regulació va permetre que les plataformes comercials massives dominessin l'espai, erosionant la confiança i col·lapsant els models econòmics tant per a contingut de notícies com de recerca. Ara també sabem que les polítiques d'accés obert poc elaborades van accelerar la consolidació en l'edició i van crear incentius econòmics per publicar més amb menys control de qualitat.
Fem una pausa i considerem què és el millor per a la comprensió humana, l'aprenentatge i el progrés del coneixement. Quan la cerca només condueix a resums d'IA i els usuaris no fan clic a les fonts originals, i quan el simple acte de llegir per plaer està disminuint en picat, com evitem un futur en què creem i publiquem contingut només per al consum de les màquines?
Crec que el paper vital que juguen les editorials en el suport a l'impacte i la integritat de la recerca val la pena preservar i protegir. sobretot ara. Entenc la frustració amb les altes tarifes de pagament per publicació i els murs de pagament de subscripcions, especialment per part de les editorials més grans que han aprofitat un mercat de prestigi acadèmic que històricament no ha estat sensible als preus. Però la nostra indústria no és una entitat monolítica que busca beneficis. Les editorials sense ànim de lucre, com ara MIT Press i moltes societats científiques, operen amb valors diferents i marges més petits.
De fet, ens amenaça més l'apropiació de terres per part de la IA i, de vegades, fins i tot els mateixos moviments de ciència oberta que durant molt de temps hem donat suport. Per tant, hem de resistir-nos a una postura moral que ignora les dinàmiques de poder en joc. Hi ha una aurèola al voltant de la idea d'"obert" que pot enfosquir les complexitats del món real com l'economia i els incentius. Al final, no tota l'obertura és virtuosa; no tota la resistència a l'obertura és obstruccionista.
Una altra idea errònia és que els interessos dels editors no estan alineats amb els dels investigadors. Recentment vam dur a terme una gran enquesta d'autors en tots els camps STEM pel que fa a l'ús no autoritzat del seu treball per a la formació en LLM. La gran majoria s'oposa a aquesta pràctica tot i creure que la IA promet vies transformadores per al descobriment i l'aprenentatge. Esperen poder consentir, o no, aquest ús i esperen atribució quan el seu treball informa els resultats de LLM. No equiparen obert a la lectura amb obert a la formació.
Així mateix, molts són escèptics sobre la integritat de les grans empreses d'IA i es preocupen per com els màsters en dret afectaran la publicació, la lectura, l'escriptura, el pensament crític i la creativitat; aplanaran els punts de vista diversos; i reforçaran els biaixos i les hegemonies culturals. Es preocupen profundament pel que es perd quan descomposem les obres creades per humans en dades d'entrenament tokenitzades i les alimentem en models que no poden preservar el seu context o argument.
La qüestió de com, i en quines condicions, s'utilitza la ciència publicada per formar LLM no és només una qüestió de drets d'autor. Es tracta de qui controla el futur del coneixement. Cedim l'autoritat a indústries opaques i extractives amb poca responsabilitat a la comunitat investigadora? O construïm sistemes que preservin l'atribució, la integritat i la sostenibilitat? Si ens prenem seriosament la prosperitat humana, la ciència basada en l'evidència i la protecció de les condicions en què creix el coneixement, aleshores la comunitat investigadora i les seves institucions han de procedir amb discerniment.
A qui serveix cedir ciència i erudició publicades a un sector tecnològic altament extractiu i opac? Seguiu la lògica: tot el valor de les tarifes de publicació oberta que paguen els autors, les institucions i els finançadors es lliura finalment a empreses com OpenAI i Anthropic. Pel que fa a les indústries extractives, també siguem honestos a l'hora d'avaluar com es comparen els valors del sector de la IA amb els de les editorials acadèmiques.
Jo mateix segueixo sent optimista que, amb una planificació acurada i polítiques basades en l'evidència, farem servir la IA per millorar la revisió per parells, augmentar la reproductibilitat i optimitzar els fluxos de treball i els costos de publicació. Fins i tot podríem ser capaços de crear solucions que ajudin a mantenir els aspectes positius de la publicació científica.
Però el paradigma actual, on el registre publicat s'extreu sense consentiment i els gegants tecnològics privats el monetitzen, no és ètic i destructiu per a la ciència i l'erudició. També reflecteix un pensament màgic sobre com funciona el nostre món complex i com farem progressos reals en la resolució dels problemes existencials que ens enfronten.
renúncia
La informació, les opinions i les recomanacions presentades als nostres blogs convidats són les dels seus col·laboradors individuals i no reflecteixen necessàriament els valors i les creences del Consell Internacional de la Ciència.
Rebeu els futurs resums de ciència oberta directament a la vostra safata d'entrada – subscriu-te ara.
Foto: Martín Adams on Unsplash
Més informació sobre el Fòrum de l'ISC sobre Publicacions i Avaluació de la Recerca Més informació sobre el resum de la ciència oberta: la infraestructura oculta darrere de la reforma de la recerca Llegiu-ne més sobre Estem construint una infraestructura de coneixement global per al món que tenim o per al món que intentem crear? Més informació sobre el resum de ciència oberta: Fent que les preimpressions comptin 
