Salud Tech: ¿Quién Responde por Errores de IA en 2026?

La inteligencia artificial (IA) es ahora un elemento fijo en el salud tech, y está creando un campo minado legal. Las herramientas de IA que ayudan en todo, desde el diagnóstico hasta el monitoreo de pacientes, prometen mucho, pero la ley no ha seguido el ritmo. Esto nos deja con una pregunta fundamental en los casos de mala praxis médica: cuando un algoritmo se equivoca, ¿a quién se le atribuye la culpa?

He manejado casos de mala praxis durante años, pero la IA añade una capa de complejidad para la que pocos están preparados. Ya no se trata solo de un error humano de un médico. Ahora tenemos que investigar si la propia herramienta estaba defectuosa, si los datos que la entrenaron estaban sesgados, o si la interpretación del profesional fue el verdadero fallo. Es un territorio legalmente peligroso.

Pensemos en el caso de una mujer de 58 años del condado de Fulton, Georgia, que vino a vernos en 2024. Llevaba tiempo con dolores abdominales persistentes. Su médico de cabecera usó un sistema de diagnóstico con IA, promocionado como un asistente de “próxima generación”, para analizar sus síntomas. El sistema, basado en un modelo de aprendizaje profundo, señaló una dolencia gastrointestinal común. El médico le recetó un tratamiento conservador. La paciente, confiando en la tecnología y en su médico, siguió las instrucciones al pie de la letra, pero sus síntomas no hicieron más que empeorar.

Cuando buscó una segunda opinión, un especialista le mandó pruebas más exhaustivas que revelaron un cáncer de páncreas en fase avanzada. El retraso en el diagnóstico, que se debió en parte a la recomendación inicial de la IA, limitó drásticamente sus opciones de tratamiento y su pronóstico. Su familia acudió a nosotros con una pregunta muy difícil: ¿quién tenía la culpa?

Caso 1: Diagnóstico Erróneo por Sistema de IA

Tipo de lesión: Retraso en el diagnóstico de cáncer de páncreas, que provocó la progresión de la enfermedad y un pronóstico mucho peor.

Circunstancias: Una mujer de 58 años, empleada en una firma de contabilidad en Midtown Atlanta, sufría dolores abdominales. Su médico en un centro del norte de Georgia utilizó un software de diagnóstico asistido por IA que sugirió una enfermedad benigna. El tratamiento basado en esa recomendación retrasó el diagnóstico correcto durante tres meses.

Desafíos enfrentados: El verdadero combate fue determinar de quién era la responsabilidad. El hospital se defendió diciendo que el médico usó su juicio clínico al interpretar los resultados de la IA y que el sistema era solo una “herramienta de apoyo”. Por su parte, el desarrollador del software, una empresa de California, se escudó en cláusulas de exención de responsabilidad de sus términos de servicio, afirmando que su producto no era un dispositivo de diagnóstico primario y que requería supervisión humana.

Conseguir las pruebas técnicas fue una batalla cuesta arriba. Tuvimos que exigir acceso a los registros de entrenamiento del algoritmo, sus datos de validación y los parámetros exactos que llevaron a la recomendación errónea. Esto requirió una orden judicial para acceder a información que el desarrollador protegía como “secreto comercial”. La Ley de Portabilidad y Responsabilidad del Seguro Médico (HIPAA) protege la información del paciente, pero no dice nada sobre la responsabilidad de un software cuando provoca un error. Un informe de la Administración de Alimentos y Medicamentos (FDA) confirma que la regulación de los dispositivos médicos con IA/ML sigue en desarrollo, dejando muchos vacíos.

Estrategia legal utilizada: Nuestra estrategia fue doble. Primero, nos centramos en la negligencia médica del médico y del hospital, argumentando que aunque la IA era una herramienta, la responsabilidad final recaía en el profesional que la usaba. Sostuvimos que el médico no actuó con un cuidado razonable al depender demasiado de la IA sin verificar adecuadamente los resultados contradictorios de las pruebas iniciales. Segundo, exploramos una demanda por defecto de producto contra el desarrollador, alegando que el algoritmo tenía un defecto de diseño o que sus datos de entrenamiento eran inadecuados o sesgados, lo que provocaba predicciones erróneas en ciertos perfiles de pacientes.

Nos basamos en la O.C.G.A. Sección 51-1-27, que trata sobre la responsabilidad por productos defectuosos, argumentando que el software, como “cosa personal” vendida para un uso específico, entraba en esa categoría. También nos apoyamos en la O.C.G.A. Sección 51-1-6 sobre daños por agravio, que define la negligencia como “la falta de ejercicio del cuidado ordinario”.

Monto del acuerdo/veredicto y cronograma: Después de 18 meses de litigio intenso, que incluyeron extensas declaraciones de expertos en IA y oncología, el caso se resolvió en mediación. El hospital y su aseguradora acordaron un acuerdo confidencial en el rango de 1,2 a 1,8 millones de dólares. El desarrollador de software aportó una parte menor, más que nada para evitar un mal precedente legal y los costes de un juicio. No fue una admisión de culpa, pero sí un reconocimiento tácito de que su producto, o cómo se usó, contribuyó al resultado.

El resultado del caso deja algo claro: la tecnología avanza mucho más rápido que la ley. Los médicos tienen que entender que la IA es una herramienta que apoya su juicio, no que lo reemplaza. Y los desarrolladores deben saber que sus productos, por muy avanzados que sean, se enfrentarán a un escrutinio legal cuando está en juego la salud de una persona.

Caso 2: Error de Dosificación de Medicamentos Asistido por IA

Tipo de lesión: Daño renal agudo y hospitalización prolongada por una sobredosis de medicamentos.

Circunstancias: Un hombre de 67 años con insuficiencia cardíaca congestiva en un hospital de Augusta, Georgia, recibió una dosis incorrecta de un diurético potente. El sistema de prescripción electrónica del hospital, que usaba un módulo de IA para optimizar las dosis, recomendó una cantidad que superaba los límites seguros para un paciente con su función renal. Una enfermera de la UCI, confiando en la recomendación del sistema, administró la dosis. El paciente sufrió un daño renal agudo y tuvo que permanecer hospitalizado dos semanas más.

Desafíos enfrentados: Aquí, el reto fue desenredar la cadena de culpabilidad. ¿Fue negligente la enfermera por no verificar la dosis? ¿Tenía el módulo de IA un fallo en su lógica o en sus datos de referencia? ¿O fue el hospital el que no formó adecuadamente a su personal sobre los límites de este sistema? La defensa del hospital argumentó que la enfermera tenía la responsabilidad final de comprobar la dosis, sin importar lo que dijera el sistema. La enfermera, por su parte, declaró que el sistema era el “estándar de oro” y que le habían dicho que confiara en él.

Estrategia legal utilizada: Nos centramos en la negligencia institucional del hospital por no haber implementado salvaguardas adecuadas y por no haber formado a su personal sobre las limitaciones de la IA. Argumentamos que el hospital tenía el deber de asegurarse de que sus sistemas de IA fueran seguros antes de ponerlos en marcha. También presentamos argumentos de negligencia de la enfermera por no ejercer el cuidado ordinario al administrar una dosis que, según los estándares profesionales, debería haberle hecho saltar las alarmas. Citamos el Reglamento de la Junta de Enfermería de Georgia, que detalla las responsabilidades de las enfermeras, incluida la verificación de órdenes médicas.

Lo que solemos encontrar en estos casos es que los protocolos de validación interna de los hospitales para estas herramientas son muy pobres. A veces, el personal simplemente no recibe la formación continua que necesita para saber cuándo cuestionar un resultado anómalo de la IA. Es un problema sistémico.

Monto del acuerdo/veredicto y cronograma: El caso se resolvió extrajudicialmente en unos 14 meses. El hospital y su aseguradora acordaron una compensación de entre 450.000 y 600.000 dólares para cubrir los gastos médicos adicionales, el dolor y el sufrimiento, y la pérdida de calidad de vida del paciente. El acuerdo reflejó la responsabilidad compartida y la dificultad de culpar a una sola persona en un sistema tan interconectado.

Lo que me frustra de estos casos es la opacidad. Los desarrolladores de IA suelen tratar sus algoritmos como cajas negras. Si no podemos auditar cómo un sistema llegó a una recomendación, es casi imposible para un paciente demostrar que la IA tenía un fallo intrínseco. Esto exige un cambio regulatorio, sin duda. La Guía de Gestión de Riesgos de IA del NIST, aunque no es ley, es un buen punto de partida para establecer una gobernanza de la IA más sensata.

Caso 3: Falla de Monitoreo Remoto por IA

Tipo de lesión: Complicaciones postoperatorias no detectadas que llevaron a una rehospitalización de emergencia y una cirugía adicional.

Circunstancias: Una mujer de 42 años, ingeniera de software en Alpharetta, Georgia, se sometió a una cirugía menor. Le dieron el alta con un dispositivo de monitoreo remoto asistido por IA, diseñado para alertar a su médico de cualquier signo vital anómalo. El sistema de IA, sin embargo, no generó ninguna alerta crítica mientras los niveles de oxígeno en sangre de la paciente disminuían gradualmente durante 48 horas. La paciente acabó con una dificultad respiratoria grave y tuvo que ser trasladada de urgencia al Northside Hospital Atlanta, donde le diagnosticaron una embolia pulmonar. Necesitó una segunda cirugía y una larga recuperación.

Desafíos enfrentados: El fallo aquí fue que el sistema de IA no detectó un patrón claro de deterioro. Los desarrolladores se defendieron diciendo que el algoritmo fue entrenado con datos de “pacientes promedio” y que las variaciones individuales podían pasar desapercibidas. El médico que recetó el dispositivo argumentó que la paciente también tenía la responsabilidad de informar de sus síntomas. La pregunta central era si el sistema de IA cumplía con un estándar de cuidado razonable para un dispositivo de su tipo y si el médico había explicado bien a la paciente sus limitaciones.

Estrategia legal utilizada: Nos centramos en la negligencia del proveedor de atención médica por no supervisar adecuadamente el monitoreo, incluso con la ayuda de la IA. Sostuvimos que la IA no exime al médico de su deber de cuidado. También preparamos una demanda por defecto de diseño contra el fabricante del dispositivo, argumentando que el sistema no era “razonablemente seguro” para su uso previsto, como lo exige la O.C.G.A. Sección 51-1-11 sobre responsabilidad del fabricante.

Conseguir los datos del dispositivo, los registros de alerta y los parámetros del algoritmo fue clave. Necesitábamos esa información para demostrar que los umbrales de alerta del sistema eran inadecuados. Estos casos exigen un conocimiento técnico que va más allá de lo que un abogado medio maneja, por lo que contratamos a expertos en ciencia de datos y bioingeniería para que analizaran el código y su funcionamiento.

Monto del acuerdo/veredicto y cronograma: Este caso se resolvió con un acuerdo confidencial antes del juicio, unos 20 meses después de la rehospitalización. La paciente recibió una compensación de entre 700.000 y 950.000 dólares. El acuerdo reflejó una responsabilidad compartida entre el proveedor, por su falta de supervisión, y el fabricante, por un dispositivo que no funcionó como se esperaba.

Estos casos no son una anécdota. A medida que la salud tech y la IA se integran más en la medicina, vamos a ver más situaciones como estas. Es una carrera contrarreloj porque la regulación no está a la altura de la tecnología.

El lío regulatorio en salud tech e IA es enorme. Esta falta de claridad sobre quién es responsable cuando un algoritmo falla es el principal obstáculo para que los pacientes obtengan justicia. Como abogados, tenemos que prepararnos para un futuro en el que la pericia técnica es tan importante como el conocimiento legal. Los legisladores, la industria tecnológica y la comunidad médica deben sentarse a la mesa y establecer reglas claras que protejan a los pacientes sin frenar el progreso. La única forma de generar confianza en estas tecnologías es con transparencia y rendición de cuentas. Si te ves envuelto en un caso donde la IA ha jugado un papel, no des nada por sentado y busca asesoramiento legal especializado de inmediato.