L'Observatori d'Ètica en Intel·ligència Artificial de Catalunya ha dissenyat el circuit OEIAC sobre l'ús responsable i sostenible del ChatGPT per proporcionar una informació sintètica de conscienciació sobre la fiabilitat, la veracitat, la sostenibilitat o les consideracions ètiques que planteja el seu ús.

Tot i estar enfocat a l'ús del ChatGPT les qüestions que planteja són aplicables a altres eines d'IA.

Barcelona declaration for the proper development and usage of Artificial Intelligence in Europe

Aquest manifest és el resultat del debat organitzat per Biocat, amb el suport de l'Obra Social la Caixa. Proposa directrius per a un "codi de conducta" dels professionals de la IA basat en uns punts bàsics:

• Prudència
• Fiabilitat
• Responsabilitat
• Limitacions
• Protagonisme humà

La IA és un camp en constant evolució que impacta profundament a la nostra societat. Us oferim algunes claus sobre els aspectes ètics, socials, econòmics, ambientals, legislatius, etc. per tal de fomentar una reflexió crítica i una presa de decisions informada en el context de la IA.

Llei europea d'intel·ligència artificial

La llei d'intel·ligència artificial és un reglament comunitari proposat el 21 d'abril de 2021 per la Comissió Europea que té com a objectiu introduir un marc regulador i legal comú per a la intel·ligència artificial. Es tracta de la primera llei integral d'IA al món.

Ètica

La IA planteja qüestions ètiques importants. D'una banda, cal considerar la responsabilitat dels creadors i els usuaris de sistemes d'IA. Qui és responsable si un algorisme pren decisions perjudicials? A més, temes com la privadesa o l'equitat, per citar-ne només alguns, són temes crucials.

 

Economia

Segons el Fons Monetari Internacional la IA afectarà quasi el 40% dels llocs de treball a tot el món. La IA pot augmentar la productivitat i millorar l'eficiència, però també pot concentrar el poder econòmic en mans d'unes quantes empreses. Cal analitzar com distribuir els beneficis econòmics de la IA de manera més equitativa.

Desenvolupament humà i sostenible

La IA té un impacte significatiu a la societat. Podem automatitzar tasques, però també substituir llocs de treball. Hem de considerar com garantir que l'automatització no causi atur massiu i com capacitar les persones per treballar amb la IA. A més a més, l'accessibilitat i la inclusió són fonamentals. També cal considerar com minimitzar-ne l'empremta ambiental, ja que la IA requereix grans quantitats d'energia i agua per entrenar models, executar algorismes i refrigerar les màquines que se n'encarreguen.

Desinformació i frau

La proliferació de les fake news ha emergit com un dels grans reptes de la nostra era digital. La velocitat amb la qual es difon la informació, sumada a la facilitat de propagar contingut erroni, ha creat un entorn on les notícies falses poden tenir greus repercussions en la societat. Les IA generatives ja que poden generar textos, imatges o vídeos aparentment legítims sense avaluar-ne la veracitat de la informació.

Biaixos de la IA

Els algorismes d’IA poden perpetuar i amplificar els biaixos i les discriminacions existents a la nostra societat, perquè aprenen a partir de dades històriques que poden reflectir pràctiques discriminatòries. Per abordar aquesta qüestió existeixen mesures com l'anonimització de dades i la revisió constant del rendiment dels algorismes per minimitzar els biaixos perjudicials.

 

Estampa és un col·lectiu de programadors, realitzadors i investigadors que treballen en els àmbits de l'audiovisual i els entorns digitals i que han desenvolupat el projecte Cartografia de la IA generativa sobre l'impacte global de la #IA.

Versió catalana          Versió espanyola

Les iniciatives d’estandardització de la intel·ligència artificial (IA) afecten molts àmbits: seguretat, medicina, gestió, anàlisi de dades, informació, robòtica, etc. i, per tant, moltes entitats de normalització ja han aprovat tot un seguit de normes relacionades.

Destaquem:

• AENOR
• ISO
• IEEE
• IEC
• ETSI

Així mateix, la Unió Europea també treballa en el desenvolupament de normatives que acompanyin la AI Act.

Aquest Research Café, organitzat per BCBL i la BEPSEViG dirigit a estudiants, professorat i personal investigador, va tractar el tema de la intel·ligència artificial des de diferents àmbits, abordant aspectes com la seguretat, l’educació i el coneixement.

L’Associació CIVICAi va ser fundada a finals de març de 2023 per 136 membres compromesos. El seu objectiu és promoure un ús responsable i transparent de la intel·ligència artificial (IA) per al bé comú. Entre els seus valors es troben la responsabilitat, la transparència, la diversitat i la sostenibilitat.