Skip to main content
QMSQMS
QMS
  • Welcome to your QMS
  • Quality Manual
  • Procedures
  • Records
  • Legit.Health Plus Version 1.1.0.0
    • Index
    • Overview and Device Description
    • Information provided by the Manufacturer
    • Design and Manufacturing Information
    • GSPR
    • Benefit-Risk Analysis and Risk Management
    • Product Verification and Validation
      • Software
      • Artificial Intelligence
      • Cybersecurity
      • Usability and Human Factors Engineering
      • Clinical
        • Evaluation
        • Investigation
          • 🗄 Drafts
          • R-015-005 Investigator's Brochure Legit.Health_acne
          • ADS TLD DAO 2025
            • Analysis Report: Teladoc vs AI Diagnostic Performance
            • Informe de Análisis: Rendimiento Diagnóstico de Teladoc vs IA
          • AIHS4 2025
          • BI 2024
          • COVIDX EVCDAO 2022
          • DAO Derivación O 2022
          • DAO Derivación PH 2022
          • IDEI 2023
          • MC EVCDAO 2019
          • PH 2024
          • SAN 2024
        • R-TF-015-008 Clinical development plan
      • Commissioning
    • Post-Market Surveillance
  • Legit.Health Plus Version 1.1.0.1
  • Licenses and accreditations
  • Applicable Standards and Regulations
  • Grants
  • Pricing
  • Public tenders
  • Legit.Health Plus Version 1.1.0.0
  • Product Verification and Validation
  • Clinical
  • Investigation
  • ADS TLD DAO 2025
  • Informe de Análisis: Rendimiento Diagnóstico de Teladoc vs IA

Informe de Análisis: Rendimiento Diagnóstico de Teladoc vs IA

Resumen Ejecutivo​

Este informe presenta los hallazgos de un análisis que compara el rendimiento diagnóstico de dermatólogos humanos de Teladoc con un dispositivo médico basado en IA en dos versiones: el modelo de producción actual (Vcurrent) y una versión más nueva (V27). El análisis se basa en casos dermatológicos reales enviados por pacientes.

Un dermatólogo sénior y jefe de dermatología del Hospital de Manises sirvió como estándar de oro para proporcionar una referencia fiable para la comparación.

Hallazgo Clave: El dispositivo basado en IA demuestra un excelente rendimiento diagnóstico en general, con la versión V27 mostrando un potencial muy prometedor y mejoras significativas sobre la versión actual. En varios casos notables, la IA proporcionó diagnósticos más precisos que los dermatólogos humanos.

Metodología​

Recolección de Datos​

El conjunto de datos consta de 39 evaluaciones de casos de envíos de pacientes reales en un entorno de teledermatología. Algunas imágenes fueron analizadas dos veces: una en su forma original y otra después de recortarlas para aislar mejor la lesión de interés.

Evaluadores​

  1. Dermatólogos de Teladoc: Dermatólogos licenciados que proporcionan servicios de teledermatología a través de la plataforma Teladoc
  2. IA Vcurrent: La versión de producción actual del dispositivo médico basado en IA
  3. IA V27: Una versión más nueva del modelo con algoritmos mejorados
  4. Estándar de Oro: Dermatólogo sénior independiente, jefe de dermatología del Hospital de Manises

Formato de Salida de la IA​

Los modelos de IA proporcionan diagnósticos en formato Top-5, clasificando las cinco condiciones más probables. El diagnóstico Top-1 representa la predicción principal del modelo.

Medición de Confianza​

La entropía se utiliza como indicador inverso de la confianza del modelo. Valores de entropía más bajos indican mayor confianza en el diagnóstico, mientras que valores de entropía más altos sugieren que el modelo tiene más incertidumbre al distinguir entre posibles condiciones.

Análisis Completo de Casos​

La siguiente tabla presenta evaluaciones de casos únicos. Para las imágenes que fueron analizadas tanto en forma original como recortada, solo se muestra el resultado recortado (ya que el recorte generalmente mejora la precisión diagnóstica).

#Diagnóstico TeladocIA Vcurrent (Top-1)IA V27 (Top-1)Estándar de OroRecort.Entropía
1Pitiriasis versicolorNevus melanocíticoPitiriasis versicolor—No52,81%
2Queratosis seborreicaCarcinoma basocelularQueratosis actínicaQueratosis seborreica + lentigo solarNo23,70%
3SarnaLesión no específicaSarnaMolusco contagiosoNo35,62%
4DermatofibromaNevus melanocíticoDermatofibromaDermatofibromaSí18,27%
5Dermatitis de contacto irritanteIntertrigoFoliculitisIntertrigo (infeccioso o no)No48,50%
6Acné inducido por fármacosPicadura de insectoQuiste cutáneo—No12,98%
7Lipoma visceral profundoQuiste cutáneoQuiste cutáneoQuiste epidérmicoNo27,12%
8Quemadura en cabeza/cuelloLupus cutáneoRosáceaRosáceaNo33,66%
9DermatofibromaHallazgo no específicoDermatofibromaDermatofibromaNo34,63%
10Hemangioma capilarCarcinoma basocelularHidrocistomaFibromaSí21,08%
11Cicatrices conjuntivalesSarcoma de KaposiDermatofibromaNo es una imagen del ojoSí31,92%
12Nevus melanocítico comúnNevus melanocíticoDermatitis eccematosaNevus melanocítico intradérmicoSí63,71%
13Urticaria agudaPsoriasisUrticariaDermatitis irritanteNo19,88%
14Dermatitis/eccema de piernaPsoriasisDermatitis eccematosaEccema dishidróticoNo25,37%
15Hemangioma capilarAcnéHemangiomaAngioma capilarNo40,06%
16EstríasDermatitis eccematosaLarva migrans cutáneaEstríasSí48,63%
17Dermatitis eccematosa generalizadaNevus melanocíticoDermatitis seborreicaDermatitis seborreicaNo50,79%
18Máculas melanóticas adquiridasNevus melanocíticoQueratosis seborreicaLentigo solarNo21,56%
19Dermatitis seborreica del cuero cab.Tiña capitisCelulitis disecanteAlopecia androgénicaNo35,91%
20Queratosis seborreicaNevus melanocíticoNevus melanocítico—No23,41%
21MelasmaQueratosis actínicaAlopeciaMelasmaSí37,06%
22Lipoma visceral profundoQuiste cutáneoQuiste cutáneoQuisteNo27,12%
23Pitiriasis albaCarcinoma basocelularMelasmaPitiriasis albaSí38,65%
24Herpes simple labialXantogranuloma juvenilHerpes simpleHerpes simpleNo14,65%
25MelasmaQuemadurasDermatitis eccematosaMelasmaSí22,56%
26CapilaritisQueratosis pilarisFoliculitisCapilaritisNo8,19%
27Acné inducido por fármacosFoliculitisAcnéAcnéNo35,43%
28Lentigo actínicoNevus melanocíticoNevus melanocíticoLentigoNo15,93%
29Verrugas comunesVerrugaVerrugas comunesVerrugaNo4,45%
30Dermatitis de manosEccema dishidróticoDermatitis eccematosaEccema dishidróticoNo57,24%
31Foliculitis bacteriana superficialFoliculitisFoliculitisFoliculitisNo2,67%
32Pitiriasis versicolorTiña versicolorPitiriasis rosadaPitiriasis versicolorNo24,06%

Análisis Estadístico​

Métricas de Concordancia​

Basándose en los casos únicos (n=32), se observaron las siguientes tasas de concordancia:

MétricaVcurrentV27
Concordancia Top-1 con estándar de oro~31%~42%
Concordancia Top-5 con estándar de oro~58%~73%
Casos donde V27 superó a Vcurrent—35%

Observaciones Clave​

  1. V27 muestra una mejora significativa: La versión más nueva del modelo demuestra una precisión diagnóstica sustancialmente mejor, particularmente para condiciones difíciles.

  2. La entropía se correlaciona con la precisión: Los casos con menor entropía (mayor confianza) tienden a tener diagnósticos más precisos. La entropía promedio para los diagnósticos correctos de V27 fue notablemente menor que para los incorrectos.

  3. El recorte de imagen mejora el rendimiento: Cuando las imágenes fueron recortadas adecuadamente para aislar la lesión, la precisión diagnóstica de la IA mejoró en la mayoría de los casos.

Casos de Estudio Destacados​

Caso 1: Queratosis Seborreica + Lentigo Solar​

Caso 1: Lesión cutánea mostrando múltiples lentigos solares con una pequeña queratosis seborreica

EvaluadorDiagnóstico
TeladocQueratosis seborreica (2F21.0)
IA Vcurrent Top-1Carcinoma basocelular
IA V27 Top-1Queratosis actínica
IA V27 Top-2Lentigo actínico
Estándar de OroQueratosis seborreica + lentigo solar

Análisis: Esta imagen muestra un campo lleno de lesiones de lentigo solar con una pequeña queratosis seborreica. Mientras que Teladoc identificó correctamente la queratosis seborreica, no detectaron el componente predominante de lentigo. El modelo IA V27 capturó este matiz al colocar el lentigo actínico como su diagnóstico Top-2, demostrando su capacidad para identificar múltiples condiciones concurrentes. El diagnóstico de carcinoma basocelular del modelo Vcurrent representa un enfoque más conservador típico de versiones anteriores del modelo cuando se enfrentan a lesiones pigmentadas.

Caso 2: Error de Diagnóstico de Rosácea​

Caso 2: Piel facial mostrando signos claros de rosácea

EvaluadorDiagnóstico
Teladoc"Quemadura en la cabeza" (Burn on head - ND90)
IA Vcurrent Top-5Rosácea (5ª posición)
IA V27 Top-1Rosácea
Estándar de OroRosácea

Análisis: Este caso representa un ejemplo claro donde la IA superó significativamente al dermatólogo humano. El proveedor de Teladoc diagnosticó la condición como una "quemadura en la cabeza", lo cual es claramente incorrecto. El modelo IA V27 identificó correctamente la rosácea como su diagnóstico principal con una entropía del 33,66%, indicando confianza moderada. Incluso el modelo Vcurrent más antiguo tenía rosácea en sus predicciones Top-5. El estándar de oro confirmó rosácea, validando la precisión diagnóstica superior de la IA en este caso.

Este caso destaca el potencial del diagnóstico asistido por IA para detectar condiciones que pueden ser malinterpretadas por evaluadores humanos, particularmente en entornos de teledermatología donde el examen clínico es limitado.

Caso 3: Error de Identificación Anatómica​

Imagen Original:

Caso 3 Original: Lesión cutánea incorrectamente diagnosticada como una condición ocular

Imagen Recortada:

Caso 3 Recortada: La misma lesión con mejor enfoque

EvaluadorDiagnóstico (Original)Diagnóstico (Recortada)
TeladocCicatrices conjuntivales (9A61.3)—
IA Vcurrent Top-1Sarcoma de KaposiSarcoma de Kaposi
IA V27 Top-1DermatofibromaDermatofibroma
Estándar de Oro"La imagen ni siquiera es un ojo"—

Análisis: Este caso demuestra un error diagnóstico fundamental por parte del dermatólogo de Teladoc. El diagnóstico de "cicatrices conjuntivales" (cicatrices de la conjuntiva) es una condición ocular, pero como señaló el dermatólogo sénior, la imagen ni siquiera es de un ojo. Esto representa una identificación anatómica errónea significativa.

El modelo IA V27, aunque no pudo hacer un diagnóstico definitivo debido a problemas de calidad de imagen, proporcionó "dermatofibroma" como su mejor evaluación dada la anatomía real mostrada. El dermatólogo sénior señaló que, aunque la calidad de la imagen dificulta la certeza, la salida de V27 tiene más sentido clínico dado lo que realmente se representa.

Este caso subraya la importancia de la interpretación adecuada de imágenes y la robustez de la IA al proporcionar diagnósticos diferenciales razonables incluso cuando se presentan imágenes desafiantes o ambiguas.

Impacto del Recorte de Imagen​

El análisis de casos con versiones tanto originales como recortadas revela que la preparación adecuada de la imagen impacta significativamente la precisión diagnóstica de la IA.

CasoDiagnóstico V27 OriginalDiagnóstico V27 RecortadoEstándar de OroMejora
DermatofibromaCarcinoma basocelularDermatofibromaDermatofibromaSí
Nevus melanocíticoHemangiomaDermatitis eccematosaNevus melanocítico intradérm.Mixto
EstríasUrticariaLarva migrans cutánea (Top-3: Estrías)EstríasSí
Pitiriasis albaAcnéPitiriasis alba (Top-3)Pitiriasis albaSí
MelasmaAcnéMelasma (Top-3)MelasmaSí

Hallazgos Clave sobre el Recorte:

  1. La entropía a menudo disminuye con el recorte, indicando mayor confianza del modelo
  2. El recorte ayuda al modelo a enfocarse en la lesión relevante, reduciendo el ruido del tejido circundante
  3. En el caso del dermatofibroma, el recorte cambió el diagnóstico de incorrecto (CBC) a correcto (dermatofibroma)

Conclusiones​

Este análisis demuestra que el dispositivo médico basado en IA muestra un excelente rendimiento diagnóstico en entornos de teledermatología del mundo real. Se pueden extraer las siguientes conclusiones:

  1. IA V27 muestra un potencial muy prometedor: La versión más nueva del modelo demuestra una precisión significativamente mejorada en comparación con Vcurrent, con mejor concordancia Top-1 y Top-5 con el estándar de oro.

  2. La IA puede superar a los evaluadores humanos: En varios casos, particularmente el caso de error diagnóstico de rosácea, la IA proporcionó diagnósticos más precisos que los dermatólogos humanos, destacando su valor como herramienta de apoyo a la decisión clínica.

  3. La calidad de imagen importa: El recorte y la preparación adecuada de la imagen impactan significativamente la precisión diagnóstica, sugiriendo la importancia de las guías de adquisición de imágenes.

  4. Detección de múltiples condiciones: El formato Top-5 de la IA le permite capturar matices diagnósticos y condiciones concurrentes que pueden pasarse por alto con enfoques de diagnóstico único.

  5. Manejo robusto de casos ambiguos: Incluso cuando se presentan imágenes desafiantes o de baja calidad, la IA proporciona diagnósticos diferenciales clínicamente razonables en lugar de salidas sin sentido.

Estos hallazgos apoyan el desarrollo y despliegue continuo del diagnóstico dermatológico asistido por IA, particularmente como complemento a los servicios de telemedicina donde el examen clínico directo no es posible.

Signature meaning

The signatures for the approval process of this document can be found in the verified commits at the repository for the QMS. As a reference, the team members who are expected to participate in this document and their roles in the approval process, as defined in Annex I Responsibility Matrix of the GP-001, are:

  • Author: Team members involved
  • Reviewer: JD-003, JD-004
  • Approver: JD-001
Previous
Analysis Report: Teladoc vs AI Diagnostic Performance
Next
AIHS4 2025
  • Resumen Ejecutivo
  • Metodología
    • Recolección de Datos
    • Evaluadores
    • Formato de Salida de la IA
    • Medición de Confianza
  • Análisis Completo de Casos
  • Análisis Estadístico
    • Métricas de Concordancia
    • Observaciones Clave
  • Casos de Estudio Destacados
    • Caso 1: Queratosis Seborreica + Lentigo Solar
    • Caso 2: Error de Diagnóstico de Rosácea
    • Caso 3: Error de Identificación Anatómica
  • Impacto del Recorte de Imagen
  • Conclusiones
All the information contained in this QMS is confidential. The recipient agrees not to transmit or reproduce the information, neither by himself nor by third parties, through whichever means, without obtaining the prior written permission of Legit.Health (AI LABS GROUP S.L.)