IA: riscos e dereitos en xogo

Vivimos mudanzas tecnolóxicas que están a variar o xeito de como se veu entendo a humanidade. Esta evolución débese, fundamentalmente, aos avances acaecidos en ámbitos como a robótica, os sistemas Big Data e a Intelixencia Artificial (IA). En concreto, esta última xa está ligada a múltiples instrumentos, procesos e sistemas que enchoupan decotío as nosas vidas. De feito, contornos como a xeopolítica, a seguridade, a gobernanza ou o mundo xurídico están a incorporar aceleradamente o emprego de sistemas de IA afectando a aspectos que inciden directamente sobre garantías, liberdades e dereitos fundamentais. Coloquialmente pódese definir a IA como a capacidade da máquina para imitar capacidades cognitivas humanas tales como o uso da linguaxe, a creatividade, a aprendizaxe ou a resolución de problemas mediante a combinación de tecnoloxías que axuntan datos, algoritmos e potencial informático. A IA almacena, procesa e analiza cantidades masivas de datos para obter resultados. Son numerosas as vantaxes e posibilidades que abre o seu uso. Garantías xurídicas A IA pode facilitar avances impresionantes no coñecemento científico, na optimización de procesos, na eficacia produtiva ou na procura de solucións a problemas ambientais, sanitarios, de transporte ou de calquera outra condición. Mais tamén hai que se decatar de que a intelixencia e o comportamento humanos integran aspectos que nunca poderán ser considerados polas máquinas, tales como o sentido común, as emocións e os sentimentos. Falamos dunha intelixencia carente do elemento pragmático da fala e, xa que logo, incapaz de reflexionar sobre o código que procesa e a moralidade das tarefas que realiza. Por estas razóns, a tentación de dotar á máquina dun poder decisorio autónomo xera enormes riscos e ameazas tanto para as garantías xurídicas como para os propios principios democráticos. As normativas sobre Intelixencia Artificial deben esixir unha avaliación de riscos con garantías de control público e de transparencia A Oficina do Alto Comisionado das Nacións Unidas para os Dereitos Humanos vén alertando sobre estas ameazas e demandando medidas para salvagardar os dereitos e as liberdades fundamentais. Entre estes riscos saliéntase o potencial para afianzar o autoritarismo político ou para deseñar ferramentas de vixilancia, censura e control social como poden ser a elaboración automática de perfís ou o uso de tecnoloxías biométricas. Tamén apercibe contra a posibilidade da toma de decisións autónomas en situacións que afecten aos dereitos humanos como a privacidade, a educación, a saúde, as liberdade políticas, a tutela xudicial ou o dereito a presunción de inocencia. Advirte, así mesmo, do enorme perigo que supón a decisión autónoma no uso de armamento. Pensemos que os sistemas de IA nútrense de xigantescas bases de datos que conteñen información combinada e analizada con métodos moi complexos e opacos, os denominados algoritmos de caixa negra. Bases e programas, informacións e regras, que están inseridos e prendidos na cultura e na realidade económica dominante. Pois ben, se estes datos e instrucións (algoritmos) que alimentan e orientan a IA son parciais, nesgados e tendenciosos, a aprendizaxe automática da máquina vai amplificar os prexuízos e os nesgos existentes contra individuos ou grupos conducindo á adopción de decisións discriminatorias e abertamente vulneradoras dun marco de garantías e de dereitos. Discriminación Un caso ilustrativo foi o de Tay, un bot de Microsoft para Twitter, que en poucas horas aprendeu expresións racistas, sexistas e fascistas tendo que ser bloquedo na rede. Nalgúns países, decisións xudiciais sobre perigosidade persoal e medidas de prisión preventiva xa se van delegando na IA. Nos EEUU, a ONG ProPública vén denunciando que con estas ferramentas os acusados brancos son considerados menos perigosos que os negros independentemente da gravidade dos antecedentes delitivos. Ademais, nestes casos, os Tribunais teñen amparado o secreto dos algoritmos vulnerando os principios de non discriminación, transparencia, imparcialidade e igualdade tal e como aconteceu no soado caso de State vs Loomis. Casos semellantes de discriminación por prexuízos raciais e sexistas teñen sido confirmados en programas con software de avaliación utilizados para a concesión de axudas socias, selección de persoal ou para adxudicar vivendas en alugueiro. Existen razóns abondo para adoptar as cautelas que tanto desde o Alto Comisionado como desde outras numerosas instancias se están a demandar. As normativas deben esixir unha avaliación de riscos con garantías de control público e de transparencia, impedindo que a propia industria da IA defina o marco regulatorio. Canto maior sexa o risco para os dereitos e as liberdades, máis estritos deben ser os requisitos legais para o uso desta tecnoloxía.