Sermas GPT: Cómo es el acuerdo de Madrid con Microsoft y Fundación 29 para que sus médicos usen su IA

El acuerdo firmado por la CAM, Microsoft y Fundación 29 no implica derechos ni obligaciones para las partes. El desembarco reciente de los centros de datos de Microsoft en España, uno de ellos en Madrid, anunciado por el Gobierno español, da sentido a esta implementación.

El acuerdo que ha firmado la Comunidad de Madrid (CAM) con Microsoft y la Fundación 29 para implementar Sermas GPT, el sistema de Inteligencia Artificial (IA) generativa para que los médicos consulten enfermedades raras, no es un contrato, sino un protocolo general de intenciones, algo que puede considerarse un germen de colaboración. La forma que han elegido para este acuerdo, el protocolo, no implica derechos ni obligaciones por ninguna de las partes, según dos expertos en contratación pública consultados por Newtral. 

El protocolo, que puede consultarse aquí en PDF, se ha conocido a través de una petición de información al Gobierno hecha por Héctor Tejero cuando era diputado por Más Madrid en la Asamblea de la  Comunidad. 

Según el documento, la colaboración consiste en: identificar casos de uso de aplicación de IA generativa aplicada a la sanidad, el desarrollo de Sermas GPT, y la posible evaluación de otros casos de uso que no se especifican. 

El desembarco reciente de los centros de datos de Microsoft en España, tres de ellos en Madrid, anunciado por el Gobierno español, da sentido a esta implementación. Una vez necesarios sus sistemas de IA, parece más lógico utilizar sus servidores, ya que la tecnología que usan para Sermas GPT está diseñada para una infraestructura optimizada de Microsoft, como dejan claro ellos mismos en su anuncio del acuerdo. 

“Esto va de centros de datos. Una vez que tengan datos de salud, los tratarán como infraestructuras críticas”, señala Lorena Jaume-Palasí, experta en ética e IA, y autora de un estudio en el que analiza a Sermas GPT para el Instituto de las Mujeres, del Ministerio de Igualdad, que está por publicarse. 

Más Madrid tiene previsto volver a preguntar por Sermas GPT en el próximo pleno de la Asamblea de Madrid. 

Ni convenio ni contrato para la IA de Sermas GPT

El acuerdo que la CAM ha firmado con Microsoft y Fundación 29 “no llega a ser un convenio, sino meramente una declaración de intenciones de colaborar, pero que se pueden descolgar en cualquier momento cualquiera de las partes y donde no hay contraprestación económica de ninguna de ellas”, explica José María Gimeno Feliú, codirector en el Observatorio de la Contratación Pública. “Este protocolo no está permitiendo la utilización de una app médica”, puntualiza Miguel Ángel Blanes, experto en transparencia y contratación pública, “ni tampoco la utilización de datos personales o sensibles de los pacientes, literalmente lo que dice es que se investigará el posible desarrollo de una herramienta de soporte a la toma de decisión”. 

Según este acuerdo, la implementación de las iniciativas contempladas en él estará sujeta a contratos o convenios de colaboración aparte (punto 2.E.). Pero esos convenios o contratos no aparecen, y hasta el momento la Consejería de Digitalización no ha contestado la pregunta de Newtral al respecto.

Los expertos coinciden en que si no hay onerosidad y Microsoft no va a cobrar nada, no necesariamente tiene que haber un contrato aparte para la implementación de la IA de Sermas GPT. Si hubiese algún tipo de retribución económica, haría falta firmar un contrato, cuya adjudicación requeriría la publicación previa para dar opción a otros candidatos, según el artículo 47.1 de la Ley 40/2015 de Régimen Jurídico del Sector público. Y al ser una adjudicación, debería regirse también por la Ley de Contratos Públicos, y ser más transparente en cuanto a abrir una convocatoria previa y el proceso. 

¿Por qué no hay contrato? Porque “aquí es una colaboración con una gran empresa que tiene capacidad de utilizar IA”, explica Gimeno Feliú, que le ve sentido al acuerdo. “En el fondo es un acuerdo de sandbox para ver lo que salga. Habrá que vigilar cómo es el desarrollo, no digo que no”, señala. 

Vigilar este desarrollo es lo que parece más complicado. Aunque desde la Consejería de Digitalización dicen que “la app es abierta y su código es público”, no aportan la localización de este código supuestamente abierto. Además sabemos que la IA de Sermas GPT no es una app desarrollada como tal, sino como explica el director de Fundación 29, consiste en una serie de desarrollos de servicios de API hacia GPT-4 de OpenAI que está en Azure, los servidores de Microsoft que proveen la tecnología. Es similar a consultar a ChatGPT. 

Qué es la Fundación 29

La Fundación 29 es una organización sin ánimo de lucro, dirigida y cofundada por Julián Isla, quien dice que lo hace “por altruismo”. Isla, además, es gestor de datos y recursos de IA en Microsoft. En su patronato hay otro directivo de Microsoft, David Carmona, que lleva 22 años en esta compañía y se encarga de “incubaciones estratégicas” y crecimiento empresarial. En la junta hay representantes de farmacéuticas y empresas biotecnológicas (Ipsen, Bioinnova Consulting) y juristas especializados en ese campo (Life Sciences en Garrigues). 

Tres técnicos son empleados en esta Fundación, e Isla no está entre ellos. “No pienses que somos una multinacional de cientos de empleados”, explica Isla. Trabajan con “muchos voluntarios” que ayudan, dan consejos y revisan el modelo. Entre ellos están los médicos que aportan conocimiento y los asesoran, según el directivo. 

Hace tres años, Fundación 29 desarrolló Dx29, una herramienta de apoyo al diagnóstico de enfermedades, la cual ha evolucionado en DxGPT, la versión accesible al público de la IA de Sermas GPT. Según la propia web, la herramienta ha sido desarrollada con recursos de dos farmacéuticas, Takeda y Yowa Kirin, y respaldada con créditos de patrocinio de Azure otorgados por Microsoft AI para Good Research Lab.

La Fundación 29 no recibe dinero de Microsoft, y su financiación proviene de empresas farmacéuticas, según ha dicho Isla en declaraciones a El Confidencial. Preguntado por Newtral por esa financiación, afirma que él trabaja a tiempo completo para Microsoft y este es el único trabajo remunerado que tiene, y presenta la declaración que debe hacer como miembro del comité de la Agencia Europea del Medicamento (EMA), donde declara que Fundación 29 recibió una subvención de Takeda para desarrollar un piloto de enfermedades raras, y otra subvención de GW Pharma para desarrollar Dx29. 

Quién paga los costes del servicio de la IA de Sermas GPT

Sin embargo, la implementación y el uso de un sistema con IA generativa en la salud pública sí tiene sus costes. ¿Quién los ha asumido? La Fundación 29 ha sido la encargada de la integración del software de Sermas GPT en el sistema informático que usan los médicos, AP Madrid. Ha tenido que hacer unos ajustes e incorporar unas “funciones adicionales de seguridad” solicitadas por el Servicio Madrileño de Salud, aunque no han aclarado en qué consisten concretamente. 

«Es el médico el que acaba trabajando para la herramienta, corrigiéndola, en una dinámica de la que se aprovechan Microsoft y las empresas farmacéuticas» (LJP)

El sistema de IA de Sermas GPT no utiliza técnicas de fine-tuning, lo que sería construir un modelo más pequeño encima del modelo general, donde se ajusten las respuestas, por ejemplo ciñéndolas a bases de datos médicas; ni otro tipo de técnicas como RAG (Retrieval Augmented Generation). “Lo que hacemos es prompt engineering”, dice Julián Isla, director y cofundador de la Fundación 29. “Llamamos al modelo con un prompt (instrucción) sofisticado, para que nos dé la respuesta que nosotros esperamos”.

☷
Sermas GPT

La IA de la Comunidad de Madrid para enfermedades raras aún no ha pasado la validación de un comité médico

Es decir, que Sermas GPT es una suerte de portal que canaliza preguntas (prompts) sobre posibles diagnósticos al modelo GPT-4 operado dentro de la infraestructura de Microsoft Azure. Es una herramienta con la que se accede a un sistema de IA generativa con un carácter generalista que no ha sido entrenado específicamente en el ámbito médico.

Esta utilización de los servicios de OpenAI, en concreto GPT-4 el modelo de 32k que está dentro de Azure, tiene un coste, que Microsoft factura a sus clientes como llamadas a la API. Según Nuria Ruiz, directora general de Salud Digital, este gasto está siendo cubierto por Fundación 29 como proveedora del servicio. Por otro lado, consultado por Newtral, Microsoft dice que son ellos los que asumen los costes de servicio de Azure.

Por otro lado está el coste de recursos humanos que implica para los médicos añadir esta tarea a su carga de trabajo habitual. Estas tareas no se encuentran reflejadas en el protocolo, y según Gimeno Feliú, experto en contratación pública, serán asumidas por los sanitarios: “Al final en la organización pública, te debes a tu organización”, zanja. 

Jaume-Palasí lo ve de otra manera. Dice que este tipo de implementaciones de IA como la de Sermas GPT son “una forma muy taimada de convertir a las personas (pacientes y médicos) en sujetos de extracción tecnológica”. ¿Cómo? “Aunque digan que no quieren sustituir médicos con esto, lo que hacen es precarizar y cambiar el proceso de tal forma que es el médico el que acaba trabajando para la herramienta, corrigiéndola, en una dinámica de la que se aprovechan Microsoft y las empresas farmacéuticas detrás de Fundación 29”.