- Pregunta
- Dado un dictado ficticio de broncoscopia/EBUS (guion o transcripción ASR) y una afirmación atómica sobre él («se puncionó la estación 7», «22 G»…), ¿decide un System One local si la afirmación está respaldada por el texto, como verificador que avisa al médico cuando el borrador no cuadra?
- Criterio
- Set propio fuera de la batería: 118 hechos (63 verdaderos, 55 falsos cercanos) sobre 10 guiones ficticios y 36 transcripciones ASR; 509 decisiones, GT validado por el usuario y congelado antes de ejecutar. Cumple si, con umbral 0,5, detecta ≥ 70 % de los hechos falsos (sensibilidad) con ≤ 5 % de avisos falsos sobre los verdaderos. Modelo principal Clef-Flash 9B en la GPU Intel; comparador Clef-27B.
- Fechas
- Pre-registro: 2026-10-25 · Resultados: 2026-10-25 · Enmienda: 2026-10-25 declaración documental
- Modelos
bv_clef_flash_9b_xpu · sujeto (principal)bv_clef_flash_9b_xpu_q8 · variante E3bv_clef_flash_9b_cuda · variante E2bv_clef_27b · comparadorbv_jev114_typesafe · variante E3bv_elephant_1_local · variante E4bv_mammoth_1_local · variante E4bv_qwen35_4b_q4km_jetson · variante E5
- Resultado
- Medido. Clef-Flash detecta todos los hechos falsos en todas sus configuraciones válidas. En la GPU Intel con las 16 preguntas de un caso en una llamada da 24 salidas NaN (fallo del backend XPU: no ocurre en CPU ni en CUDA y persiste tras actualizar y reiniciar): excluyéndolas, FP 0,023 y cumple; contándolas como aviso, FP 0,115 y no cumple. Con ≤ 8 preguntas por llamada no hay NaN y cumple: acierto 0,986, sensibilidad 1,000, FP 0,027 (~0,44 s por transcripción). En CUDA: 0,988 / 1,000 / 0,023. Clef-27B: 0,998 / 0,996 / 0,000 (~2,4 s). Jev 1.14 por TypeSafe también cumple: 0,984 / 0,992 / 0,023, con 2 hechos falsos sin aviso. Los decisores de Base Labs en local también cumplen, sin NaN y con todas las preguntas en una llamada: elephant-1 (9B) 0,992 / 1,000 / 0,015 (~0,7 s) y mammoth-1 (27B) 0,996 / 0,996 / 0,004 (~2,2 s). Estas cifras no prueban equivalencia con Clef-27B. Qwen3.5-4B en 4 bits en una Jetson Orin Nano (8 GB) también cumple: 0,984 / 1,000 / 0,031 (~4,9 s por transcripción). Mayoría constante 0,515. Los errores con confianza ≥ 0,9 son raros: ninguno en Clef-Flash, Clef-27B, mammoth-1 ni Jev 1.14; uno en elephant-1 y dos en el 4B de la Jetson.
- Veredicto
- Cumple (Clef-Flash con ≤ 8 preguntas por llamada o en CUDA; Clef-27B; elephant-1 y mammoth-1 en local; Jev 1.14; Qwen3.5-4B Q4 en Jetson); señal de viabilidad, no validación
- GT
- bscribe_verif v1 (validado 25-oct)