Diversos acadèmics i experts en polítiques han proposat que el Consell Internacional de la Ciència, amb la seva participació plural de les ciències socials i naturals, estableixi un procés per produir i mantenir un marc/llista de verificació anotat dels riscos, beneficis, amenaces i oportunitats. associades a tecnologies digitals de ràpid moviment, inclosa, però no limitada a, la IA. L'objectiu de la llista de verificació seria informar a totes les parts interessades, inclosos els governs, els negociadors comercials, els reguladors, la societat civil i la indústria, sobre possibles escenaris futurs, i marcaria com podrien considerar les oportunitats, els beneficis, els riscos i altres qüestions.
Un document de discussió de l'ISC
Un marc per avaluar les tecnologies digitals i relacionades amb un ràpid desenvolupament: IA, grans models de llenguatge i més enllà
Aquest document de discussió proporciona l'esquema d'un marc inicial per informar les múltiples discussions globals i nacionals que tenen lloc sobre la IA.
Us animem a unir-vos a la discussió sobre les idees presentades en aquest document i sobre el seu marc mitjançant el formulari que hi ha al final de la pàgina.
L'ISC té el plaer de presentar aquest document de discussió sobre l'avaluació de la tecnologia digital i relacionada amb el ràpid desenvolupament. La intel·ligència artificial, la biologia sintètica i les tecnologies quàntiques són exemples excel·lents d'innovació, informada per la ciència, que sorgeix a un ritme sense precedents. Pot ser un repte anticipar sistemàticament no només les seves aplicacions, sinó també les seves implicacions.
Avaluar els aspectes socials de la IA generativa, com ara els grans models de llenguatge, que previsiblement representen la major part d'aquest document de discussió, és un pont necessari dins del discurs actual –de vegades impulsat pel pànic, altres vegades no prou profund en el pensament– i els cursos necessaris de acció que podem prendre. L'ISC està convençut que es requereix un marc analític entre l'acceptació social d'aquestes noves tecnologies i la seva possible regulació per facilitar les discussions de múltiples parts interessades que calen per prendre decisions informades i responsables sobre com optimitzar els beneficis socials d'aquesta tecnologia emergent.
L'ISC està obert a les reaccions de la nostra comunitat a través d'aquest document de discussió per tal d'avaluar la millor manera de continuar formant part i contribuint al debat sobre la tecnologia.
Salvatore Aricò, CEO
Moltes persones han estat consultades en l'elaboració d'aquest document, que va ser redactat per Sir Peter Gluckman, president, ISC i Hema Sridhar, antic científic en cap del Ministeri de Defensa, i ara investigador sènior de la Universitat d'Auckland, Nova Zelanda.
En particular agraïm:
El centre de reflexió de l'ISC, el Center for Science Futures, publicarà un document de treball sobre "Preparing Science Ecosystems for AI" a principis de 2024. El document inclourà una revisió de la literatura i un mapa de problemes, i una sèrie d'estudis de casos breus de països. L'esperança és que el document contribueixi a impulsar debats entre responsables polítics, líders de la indústria i investigadors per igual mentre desenvolupen fulls de ruta per aprofitar el potencial de l'IA per a la millora de la ciència i la investigació.
IA per a la ciència: coneixements d'Àsia-Pacífic
A principis d'octubre, l'ISC Center for Science Futures va marcar un moment clau en la seva iniciativa més recent sobre Intel·ligència Artificial (IA) per a la Ciència, ja que 14 estimats delegats i experts en representació de 12 països, la majoria d'Àsia-Pacífic, es van reunir per a una reunió oportuna a Kuala Lumpur, Malàisia amb el suport de l'Acadèmia Australiana de Ciències. ➡️Rmés
La IA està canviant la ciència: com? Qui s'ha de molestar?
Una mirada crítica a l'impacte de la intel·ligència artificial (IA) en la ciència des de diferents perspectives i actors, des de finançadors públics fins a institucions privades d'alta tecnologia, revela una preocupació compartida per la manca de transparència i cooperació per crear un enfocament més centrat en l'ésser humà que complir la promesa de la ciència com a bé públic mundial. ➡️Rmés
Imatge: Adamichi a iStock