La IA, entre l’impacte transformador i els reptes ètics: una jornada per reflexionar i aprendre

20/11/2024

L’auditori de la Fundació EADA a Barcelona ha estat l’escenari d’una jornada que ha exhaurit l’aforament, reunint més de 100 professionals de l’àmbit de la recerca i les fundacions. Organitzada per la Comissió de Tecnologia i Recerca de la Coordinadora Catalana de Fundacions (CCF), la trobada, titulada “Explorant la IA en l’àmbit de la recerca: reptes i oportunitats”, ha servit per debatre sobre com la Intel·ligència Artificial (IA) està redefinint les bases de la recerca, alhora que planteja interrogants de gran rellevància ètica i tecnològica.

La jornada s’ha iniciat amb les paraules de benvinguda de Jordi Díaz, director general d’EADA, i Eugènia Bieto, presidenta de la CCF, que han destacat la importància de crear espais de debat com aquest i de parlar d’avenços i de tecnologies innovadores, que són aplicables a moltes àmbits . Segons Bieto, “Des de la CCF organitzem jornades com aquesta per crear punts de trobada entre fundacions que treballen en el camp de la recerca i la tecnologia, un espai on compartir experiències, inspirar-se i trobar solucions a reptes comuns”.

Una mirada crítica a la IA: Aristòtil o Frankenstein?

Josep Maria Ganyet, enginyer informàtic, divulgador i CEO de Mortensen, ha obert el programa amb la ponència “IA: Aristòtil o Frankenstein?”, oferint una reflexió provocadora sobre el potencial i els riscos d’aquesta tecnologia. Ganyet ha destacat com la IA pot ser alhora una eina poderosa per a la descoberta científica i una font de preocupació si no es regula adequadament, tot destacant que “la IA és competent però no és intel·ligent”.

Regulació i responsabilitat en el centre del debat

Ignasi Belda, director de l’Agencia Española de Supervisión de la Inteligencia Artificial, ha desgranat els detalls del contingut de la AI Act de la Comissió Europea, aprovada al mes d’agost d’enguany, que busca regular l’ús de la IA per garantir-ne un desenvolupament ètic i segur. Per la seva banda, Ariadna Font, CEO d’Alinia.AI, ha centrat la seva intervenció en el concepte d’“Intel·ligència Artificial Responsable”, subratllant la necessitat d’equilibrar l’avenç tecnològic amb la protecció de drets fonamentals com la privacitat. Font també ha posat l’accent en la necessitat de ser inclusius, també com a usuaris de la IA. En aquest sentit, ha animat a l’audiència a “incloure paraules i conceptes inclusius quan fem prompts” per evitar biaixos en els resultats.

Aquestes intervencions han culminat en una conversa interactiva entre Belda, Font i Ganyet, on el públic també ha pogut participar, plantejant qüestions sobre transparència i responsabilitat en l’ús de dades.

Bones pràctiques i aplicacions concretes

La taula rodona “La IA com a aliada en els projectes de recerca: Bones Pràctiques i Aprenentatges”, moderada per Lluís Pareras, fundador i soci d’Invivo Partners, ha reunit experts de primer nivell com Atia Cortés (Barcelona Supercomputing Center), Fernando Vilariño (UAB), Enric Fuster (SIRIS Academic), Alex Esteban (Fundació La Caixa) i Jordi Arbiol (ICN2). Cadascun ha aportat exemples concrets d’aplicació de la IA en camps tan diversos com la biomedicina, les ciències nanomoleculars o l’avaluació de projectes de recerca, i s’ha reflexionat sobre altres qüestions, com ara la gestió de la perspectiva de gènere en l’àmbit de la salut o aspectes ètics.

Els ponents han coincidit a destacar que la IA no només accelera els processos de recerca, sinó que també obre portes a noves preguntes científiques. Tanmateix, han advertit que l’èxit depèn d’una implementació rigorosa i d’una col·laboració estreta entre investigadors, tecnòlegs i ètics. Una de les qüestions que ha generat més debat entre els participants ha estat sobre el rol de la IA en el futur i la possibilitat que aquesta tecnologia pugui substituir certes funcions i responsabilitats que, avui dia, duen a terme les persones.

Repte de present i futur

Maria Targa, gerent de l’IPHES (Institut Català de Paleoecologia Humana i Evolució Social), membre de la Junta directiva i de la Comissió de Tecnologia i Recerca de la CCF, ha estat l’encarregada de conduir la jornada, i també de resumir algunes de les idees principals que s’han exposat, destacant que la IA “pot ser una gran aliada, però també hem d’estar alerta davant els reptes que planteja”.

Finalment, la consellera de Recerca i Universitats, Núria Montserrat Pulido, ha posat punt final a l’acte, subratllant el compromís de la Generalitat amb la recerca responsable i l’impuls d’iniciatives que fomentin la col·laboració interdisciplinària.

Amb aquesta jornada, des de la CCF reafirmem el nostre objectiu de facilitar espais de generació de coneixement i debat, en què les fundacions puguin aprendre i explorar noves tendències, en aquest cas, com aprofitar el potencial de la IA. Més enllà de l’intercanvi d’experiències, l’acte ha servit per plantejar les bases d’un debat més ampli sobre el futur de la recerca en un món cada cop més digitalitzat.

A continuació, podeu veure la gravació de la jornada: