La IA està canviant la ciència: com? Qui s'ha de molestar? 

Una mirada crítica a l'impacte de la intel·ligència artificial (IA) en la ciència des de diferents perspectives i actors, des de finançadors públics fins a institucions privades d'alta tecnologia, revela una preocupació compartida per la manca de transparència i cooperació per crear un enfocament més centrat en l'ésser humà que complir la promesa de la ciència com a bé públic mundial.

'La pregunta ja no és if La IA està canviant la ciència, però com,” Mathieu Denis va obrir la paraula a la d'enguany Digital with Purpose Global Summit amb una Sessió de panell sobre els impactes de la IA sobre com es fa i s'organitza la ciència.

Menys d'un any des del llançament públic inicial de ChatGPT 4, l'interès pel tema de la IA, així com la seva aplicació a tot el cicle de producció científica, ha esclatat. Yamine Ait-Ameur, cap del departament digital i matemàtic de l'Agència Nacional de Recerca francesa (ANR), veu aquest interès en gairebé totes les disciplines. I tot i que l'Agència no utilitza eines d'IA per avaluar les propostes de recerca, són molt conscients que no poden imposar restriccions d'ús d'IA similars a altres persones en el seu treball científic.

Tot i que l'ús de la IA a la ciència planteja moltes preguntes i de vegades dubtes, també hi ha molta il·lusió per les seves promeses. El potencial hi és, si posem estructures adequades. Ricardo Batista Leite, director general d'una col·laboració d'IA per a la recerca en salut I-DAIR, explica les lliçons del passat quan les tecnologies disruptives, aplicades a sistemes trencats, van crear més trencament. Les tecnologies d'IA poden contribuir al benestar públic, si les dissenyem específicament per fer-ho des del principi.

L'actual onada de desenvolupament de la IA, però, està impulsada gairebé exclusivament pel sector privat, amb recursos que superen amb escreix qualsevol inversió pública. I es fa impossible parlar de co-dissenyar una IA més responsable i inclusiva sense superar la bretxa pública i privada en recerca i desenvolupament.

Christina Yan Zhang, directora general de l'Institut Metaverse, és una gran creient en la cooperació públic-privada en ciència i tecnologia. Està d'acord que el benestar humà s'ha de posar al centre del desenvolupament tecnològic. En el sistema científic actual, els investigadors es veuen obligats a buscar mètriques com les cites de revistes, en lloc de l'impacte real.

No és només això, afegeix Yamine Ait-Ameur. Hi ha un altre repte clau per a l'ús de la IA a la ciència. Les eines d'IA sovint poden produir resultats i resultats que són millors que els dels humans. AlphaFold, un sistema d'aprenentatge profund d'IA entrenat per predir l'estructura de proteïnes, per exemple, ja està superant els mètodes impulsats pels humans. Però no podem replicar, verificar i explicar de manera fiable els seus resultats. Mentre no puguem entendre els processos que succeeixen a les "caixes negres" de la IA, l'ús de la IA a la ciència plantejarà grans problemes tècnics i ètics.

L'audiència a la sessió del panell va compartir el sentiment que els grans canvis que veiem en la ciència ara són només el començament: "Som a mitjans del segle XIX a l'inici de la Revolució Industrial. Estem intentant adaptar el sistema feudal o estem analitzant el període emergent?

Ricardo Batista Leite està d'acord. "Mirarem enrere en aquest moment i ens preguntarem si hem fet el correcte. Hem tingut l'oportunitat de capgirar el rumb”, ha conclòs.