As máquinas pasan consulta

Hai moito tempo que falamos a través de máquinas (o teléfono foi inventado en 1854), pero non tanto desde que falamos coas máquinas. O primeiro chatbot, por exemplo, foi creado en 1966 por Joseph Weizenbaum, investigador no MIT e un dos referentes da IA do século pasado. Púxolle de nome Eliza, e con el tentou reproducir o rol dun psicoterapeuta Rogeriano. Hoxe este programa informático pareceríanos moi elemental, ata pueril. Con todo, Eliza chegou a ser moi popular e tivo unha gran repercusión nos medios de comunicación da súa época. Pero non foi tanto por supoñer un gran avance tecnolóxico, senón por algo que segue sendo hoxe motivo de interese e de investigación: o "curioso" comportamento que temos en ocasións as persoas diante das máquinas, aínda cando sabemos que o son. Joseph Weizenbaum renegou nos 70 do seu traballo e do dos seus colegas da IA, advertindo dos perigos que esta podería traer consigo, en particular no seu uso na educación ou en campos como o da psicoterapia, onde algúns especialistas querían utilizar o seu programa para explorar as súas posibilidades cos seus pacientes. Un bot co que falar As tecnoloxías lingüísticas teñen dado un salto de xigante a partir dos modelos de computación neuronal. Character.ai é unha plataforma que permite crear chatbots baseados en persoas inventadas ou reais. O motor desta plataforma é un LLM, un gran modelo de linguaxe como o que está detrás de ChatGPT. Un dos chatbots máis populares de Character.ai chámase Psychologist. Cada día úsano varios millóns de persoas buscando axuda psicolóxica e, polo que reflicten os seus testemuños, moitas atópano útil. Non está mal se pensamos que hai ocasións nas que non tes a alguén de carne e óso con quen falar, non podes pagarlle ou simplemente non che apetece falar cunha persoa. Calquera cousa que lle digas a un chatbot quedará rexistrada, sen saber o uso que lle poderán dar ás confesións que lle fagamos á máquina En todo caso, convén ter presentes varias cousas antes de encomendarse a un destes chatbots. Calquera cousa que lle digas quedará rexistrada, sen saber ademais o uso que podería facerse das confesións que lle fagamos á máquina. Por outra banda, salvo algunha excepción, non teñen ningún tipo de certificación oficial que nos dea garantías de que o seu uso pode facernos máis ben que mal, e o certo é que non se trata de aplicacións inocuas. En marzo de 2023 varios medios de comunicación fixéronse eco do suicidio dun home en Bélxica que estivera interactuando durante semanas cun chatbot tamén chamado ELIZA, aínda que sen relación algunha co de Weizembaum. Segundo a súa viúva, o bot animouno reiteradamente ao suicidio. Sen chegar a este extremo, o uso de ferramentas de IA para a avaliación de riscos sobre sentenzas xudiciais, fianzas ou a concesión de liberdade condicionada vanse estendendo por algúns países, como EEUU, algo que tamén incomodaría, por dicilo suavemente, a Weizembaum. Xuízo crítico É certo que algunhas destas aplicacións contan con certificacións oficiais. É o caso de Limbic Access, o primeiro chatbot de saúde mental en obter a certificación de dispositivo médico no Reino Unido. O seu uso é xa común en moitos centros do sistema nacional de saúde británico, utilizándose para clasificar e facer triaxe aos pacientes. É interesante ver como se define na súa web a empresa que o comercializa, chamada tamén Limbic: "Procedemos da neurociencia, a aprendizaxe automática, a enxeñería de software e a psicoloxía. Xuntos utilizamos a IA máis avanzada e un deseño de produto atractivo para mellorar a terapia psicolóxica dos médicos". Respecto a isto, interésame facer un par de consideracións. Primeiro, en canto ao carácter multidisciplinar do equipo humano da compañía, algo que cada vez será máis común nas aplicacións da IA en calquera ámbito. Por outra banda, que indiquen que o seu obxectivo é axudar os médicos, non substituílos. Tamén isto, sexa sincero ou non, é un discurso común na maior parte de solucións orientadas á automatización do traballo. Falar coas máquinas é moi tentador, pero debemos ser conscientes de que debemos facelo con responsabilidade e xuízo crítico, máis aínda se buscamos consello sobre problemas de saúde mental ou problemas médicos en xeral. Aínda que a máquina poida dispoñer dun coñecemento amplo sobre estes temas, moi superior mesmo ao dos expertos humanos, hai que ter en conta que cada persoa estará suxeita a factores biolóxicos, sociais e psicolóxicos, poñamos por caso, que a máquina pode non coñecer nin manexar axeitadamente. A práctica da medicina e a psicoloxía require dunha fonda comprensión da ciencia médica, así como a habilidade para interpretar síntomas e sinais, ás veces sutís, e realizar avaliacións físicas, algo que non está ao alcance das capacidades dun chatbot. Por outra banda, aínda que os chatbots poden ser deseñados para simular empatía e comprensión emocional, carecen dela realmente, e isto pode levar a respostas insensibles e ata que causen danos emocionais ou psicolóxicos ás persoas. Ademais, aínda que os chatbots deben deseñarse para ser seguros e protexer a privacidade dos usuarios, cumprindo as leis vixentes, como o Regulamento Xeral de Protección de Datos, non temos sempre a certeza de que sexa así, e menos cando usamos chatbots que non están convenientemente certificados. Con razón o Regulamento Europeo de IA inclúe os dispositivos médicos entre os de alto risco e suxeitos, polo tanto, ao cumprimento de requirimentos estritos e sancións moi duras en caso de non cumprilos. Fágame caso, e siga o consello dos anuncios de medicamentos publicitarios: no importante non deixe de consultar un especialista [humano].