Contractar

Abans de la AI Safety Summit 2023, l'ISC publica un document de discussió sobre un marc per avaluar la IA i les tecnologies digitals en desenvolupament ràpid.

Els investigadors científics i els professionals de la IA estan convidats a respondre al document de discussió de l'ISC i al marc proposat sobre IA.

Diversos acadèmics i experts en polítiques han proposat que el Consell Internacional de la Ciència, amb la seva participació plural de les ciències socials i naturals, estableixi un procés per produir i mantenir un marc/llista de verificació anotat dels riscos, beneficis, amenaces i oportunitats. associades a tecnologies digitals de ràpid moviment, inclosa, però no limitada a, la IA. L'objectiu de la llista de verificació seria informar a totes les parts interessades, inclosos els governs, els negociadors comercials, els reguladors, la societat civil i la indústria, sobre possibles escenaris futurs, i marcaria com podrien considerar les oportunitats, els beneficis, els riscos i altres qüestions.


Un document de discussió de l'ISC

Un marc per avaluar les tecnologies digitals i relacionades amb un ràpid desenvolupament: IA, grans models de llenguatge i més enllà

Aquest document de discussió proporciona l'esquema d'un marc inicial per informar les múltiples discussions globals i nacionals que tenen lloc sobre la IA.


Participa a la discussió

Us animem a unir-vos a la discussió sobre les idees presentades en aquest document i sobre el seu marc mitjançant el formulari que hi ha al final de la pàgina.


L'ISC té el plaer de presentar aquest document de discussió sobre l'avaluació de la tecnologia digital i relacionada amb el ràpid desenvolupament. La intel·ligència artificial, la biologia sintètica i les tecnologies quàntiques són exemples excel·lents d'innovació, informada per la ciència, que sorgeix a un ritme sense precedents. Pot ser un repte anticipar sistemàticament no només les seves aplicacions, sinó també les seves implicacions.

Avaluar els aspectes socials de la IA generativa, com ara els grans models de llenguatge, que previsiblement representen la major part d'aquest document de discussió, és un pont necessari dins del discurs actual –de vegades impulsat pel pànic, altres vegades no prou profund en el pensament– i els cursos necessaris de acció que podem prendre. L'ISC està convençut que es requereix un marc analític entre l'acceptació social d'aquestes noves tecnologies i la seva possible regulació per facilitar les discussions de múltiples parts interessades que calen per prendre decisions informades i responsables sobre com optimitzar els beneficis socials d'aquesta tecnologia emergent.

L'ISC està obert a les reaccions de la nostra comunitat a través d'aquest document de discussió per tal d'avaluar la millor manera de continuar formant part i contribuint al debat sobre la tecnologia.

Salvatore Aricò, CEO

Col·laboradors a la ponència:

Moltes persones han estat consultades en l'elaboració d'aquest document, que va ser redactat per Sir Peter Gluckman, president, ISC i Hema Sridhar, antic científic en cap del Ministeri de Defensa, i ara investigador sènior de la Universitat d'Auckland, Nova Zelanda. 

En particular agraïm:

  • Lord Martin Rees, antic president de la Royal Society i cofundador del Center for the Study of Existential Risks, Universitat de Cambridge;
  • el professor Shivaji Sondhi, professor de Física de la Universitat d'Oxford;
  • el professor K Vijay Raghavan, antic assessor científic principal del govern de l'Índia;
  • Amandeep Singh Gill, enviat de tecnologia del secretari general de l'ONU;
  • Dr. Seán Óh Éigeartaigh, director executiu, Centre per a l'estudi dels riscos existencials, Universitat de Cambridge;
  • Amanda-June Brawner, assessora sènior de polítiques i Ian Wiggins, director d'Afers Internacionals, Royal Society UK;
  • el doctor Jerome Duberry, la doctora Marie-Laure Salles, directora de l'Institut de Postgrau de Ginebra;
  • Chor Pharn Lee, Centre de Futurs Estratègics, Oficina del Primer Ministre, Singapur;
  • Barend Mons i el doctor Simon Hodson, del Comitè de Dades (CoDATA);
  • la professora Yuko Harayama, Japó;
  • el professor Rémi Quirion, president de l'INGSA;
  • la doctora Claire Craig, de la Universitat d'Oxford i antiga cap de prospectiva de l'Oficina de Ciència del Govern; i
  • El professor Yoshua Bengio, Consell Assessor Científic del Secretari General de l'ONU i de la Universitat de Mont-real.

Què més està passant en IA a l'ISC?

El centre de reflexió de l'ISC, el Center for Science Futures, publicarà un document de treball sobre "Preparing Science Ecosystems for AI" a principis de 2024. El document inclourà una revisió de la literatura i un mapa de problemes, i una sèrie d'estudis de casos breus de països. L'esperança és que el document contribueixi a impulsar debats entre responsables polítics, líders de la indústria i investigadors per igual mentre desenvolupen fulls de ruta per aprofitar el potencial de l'IA per a la millora de la ciència i la investigació.

FIRA MUNDIAL

IA per a la ciència: coneixements d'Àsia-Pacífic 

A principis d'octubre, l'ISC Center for Science Futures va marcar un moment clau en la seva iniciativa més recent sobre Intel·ligència Artificial (IA) per a la Ciència, ja que 14 estimats delegats i experts en representació de 12 països, la majoria d'Àsia-Pacífic, es van reunir per a una reunió oportuna a Kuala Lumpur, Malàisia amb el suport de l'Acadèmia Australiana de Ciències. ➡️Rmés

La IA està canviant la ciència: com? Qui s'ha de molestar?

Una mirada crítica a l'impacte de la intel·ligència artificial (IA) en la ciència des de diferents perspectives i actors, des de finançadors públics fins a institucions privades d'alta tecnologia, revela una preocupació compartida per la manca de transparència i cooperació per crear un enfocament més centrat en l'ésser humà que complir la promesa de la ciència com a bé públic mundial. ➡️Rmés


Feedback d'IA

Si us plau, activeu JavaScript al vostre navegador per completar aquest formulari.
Nom
Gènere sentit
Protecció de dades: els enquestats han de ser conscients que l'ISC mantindrà la informació presentada durant la durada de la iniciativa (vegeu: https://council.science/privacy-policy)
Et convidem a subscriure't al butlletí de l'ISC.

Imatge: Adamichi a iStock

Anar al contingut