Construcción de descripciones clínicas a partir de imágenes de embriones humanos mediante modelos de lenguaje pequeños

Abstract

La rápida expansión de los modelos de lenguaje ha transformado la forma en que se procesa, genera y comunica la información. Sin embargo, el entrenamiento y la implementación de modelos a gran escala implica importantes retos en materia de privacidad de los datos y requisitos computacionales. Este trabajo propone la evaluación de modelos de lenguaje pequeños como alternativas eficientes y que preserven la privacidad y accesibilidad de los datos en tareas clínicas para fortalecer e impulsar el uso de esta clase de modelos pequeños. La investigación tiene como objetivo explorar y evaluar modelos de lenguaje pequeños que puedan funcionar con recursos computacionales limitados, ajustarlos con descripciones clínicas proporcionadas por especialistas en embriología e integrarlos en un prototipo funcional capaz de automatizar la generación de texto descriptivo. Los resultados obtenidos se analizan para estimar su coherencia, claridad y similitud en comparación con las descripciones escritas por expertos, así como su compresibilidad para un público no técnico. Los resultados muestran una capacidad prematura de los modelos de lenguaje pequeños para ver y comprender características de las imágenes de embriones, por los codificadores de imagen, así como su ventana de contexto en base a su cantidad de parámetros. Sin embargo, son capaces de reconocer patrones para identificar características principales en una imágen de un embrión humano, sin mucho detalle al ser afinado con datos de imágenes de embriones, por lo que presentan un potencial para ser capaces de detectar regiones y posibles estados de desarrollo siendo ajustados en conjuntos de datos más grandes y estructurados.