Pocos estímulos, aprendizaje y ajuste para LLM - AI&YOU #67 Pocos estímulos, aprendizaje y ajuste para LLM - AI&YOU #67 

La estadística de la semana: La investigación de MobiDev sobre el aprendizaje de pocas imágenes para la clasificación de imágenes de monedas descubrió que, utilizando sólo 4 ejemplos de imágenes por denominación de moneda, podían lograr una precisión de ~70%.

En la IA, la capacidad de aprender eficazmente a partir de datos limitados se ha vuelto crucial. Por eso es importante que las empresas comprendan el aprendizaje de pocos disparos, el estímulo de pocos disparos y el ajuste de los LLM.

En la edición de esta semana de AI&YOU, exploramos las ideas de tres blogs que hemos publicado sobre estos temas:

• ¿Qué es el aprendizaje de pocos disparos?

• LLM de pocos disparos frente a LLM de ajuste fino

• Los 5 mejores trabajos de investigación para aprender poco

Pocos estímulos, aprendizaje y ajuste para LLM - AI&YOU #67

El aprendizaje de pocos disparos es un innovador paradigma de aprendizaje automático que permite a los modelos de IA aprender nuevos conceptos o tareas a partir de unos pocos ejemplos. A diferencia de los métodos tradicionales de aprendizaje supervisado, que requieren grandes cantidades de datos de entrenamiento etiquetados, las técnicas de aprendizaje de pocos disparos permiten a los modelos generalizar eficazmente utilizando sólo un pequeño número de muestras. Este enfoque imita la capacidad humana de captar rápidamente nuevas ideas sin necesidad de una repetición exhaustiva.

La esencia del aprendizaje de pocos disparos reside en su capacidad para aprovechar los conocimientos previos y adaptarse rápidamente a nuevos escenarios. Gracias a técnicas como el metaaprendizaje, en el que el modelo "aprende a aprender", los algoritmos de Few Shot Learning pueden abordar una amplia gama de tareas con una formación adicional mínima. Esta flexibilidad lo convierte en una herramienta inestimable en situaciones en las que los datos son escasos, caros de obtener o están en constante evolución.

El reto de la escasez de datos en la IA

No todos los datos son iguales, y los datos etiquetados de alta calidad pueden ser un bien escaso y preciado. Esta escasez supone un reto importante para los métodos tradicionales de aprendizaje supervisado, que suelen requerir miles o incluso millones de ejemplos etiquetados para lograr un rendimiento satisfactorio.

El problema de la escasez de datos es especialmente grave en ámbitos especializados como la sanidad, donde las enfermedades raras pueden tener pocos casos documentados, o en entornos que cambian rápidamente y en los que surgen con frecuencia nuevas categorías de datos. En estos casos, el tiempo y los recursos necesarios para recopilar y etiquetar grandes conjuntos de datos pueden ser prohibitivos, lo que crea un cuello de botella en el desarrollo y la implantación de la IA.

Aprendizaje de pocos disparos frente al aprendizaje supervisado tradicional

Comprender la diferencia entre el aprendizaje por muestreo y el aprendizaje supervisado tradicional es crucial para entender su impacto en el mundo real.

Tradicional aprendizaje supervisadoaunque potente, tiene inconvenientes:

1. Dependencia de datos: Problemas con datos de formación limitados.

2. Inflexibilidad: Se desempeña bien sólo en tareas específicas entrenadas.

3. Intensidad de recursos: Requiere grandes y costosos conjuntos de datos.

4. Actualización continua: Necesita reciclaje frecuente en entornos dinámicos.

Aprendizaje a pocos tiros ofrece un cambio de paradigma:

1. Eficiencia de la muestra: Generaliza a partir de pocos ejemplos utilizando el metaaprendizaje.

2. Adaptación rápida: Se adapta rápidamente a nuevas tareas con un mínimo de ejemplos.

3. Optimización de recursos: Reduce las necesidades de recogida de datos y etiquetado.

4. Aprendizaje continuo: Adecuado para incorporar nuevos conocimientos sin olvidar.

5. Versatilidad: Aplicable a diversos ámbitos, desde la visión por ordenador a la PNL.

Al abordar estos retos, Few Shot Learning permite modelos de IA más adaptables y eficientes, abriendo nuevas posibilidades en el desarrollo de la IA.

El espectro del aprendizaje eficaz por muestreo

Existe un fascinante abanico de enfoques destinados a minimizar los datos de formación necesarios, entre los que se incluyen el aprendizaje de disparo cero, de disparo único y de pocos disparos.

Aprendizaje sin ejemplos: Aprender sin ejemplos

• Reconoce clases no vistas utilizando información auxiliar como descripciones textuales.

• Valioso cuando los ejemplos etiquetados para todas las clases son poco prácticos o imposibles.

Aprendizaje único: Aprendizaje a partir de una sola instancia

• Reconoce nuevas clases a partir de un solo ejemplo

• Imita la capacidad humana de captar conceptos con rapidez

• Éxito en ámbitos como el reconocimiento facial

Aprendizaje con pocos datos: Dominar tareas con datos mínimos

• Utiliza de 2 a 5 ejemplos etiquetados por clase nueva

• Equilibra la eficiencia extrema de los datos y los métodos tradicionales

• Permite una rápida adaptación a nuevas tareas o clases

• Aprovecha las estrategias de metaaprendizaje para aprender a aprender

Este espectro de enfoques ofrece capacidades únicas para abordar el reto del aprendizaje a partir de ejemplos limitados, lo que los hace inestimables en dominios con escasez de datos.

Pocos disparos vs Ajuste fino LLM

En este ámbito existen dos técnicas más potentes: las instrucciones de pocos pasos y el ajuste fino. Las instrucciones de pocos pasos consisten en crear instrucciones de entrada inteligentes que incluyan un pequeño número de ejemplos y guíen al modelo para que realice una tarea específica sin necesidad de entrenamiento adicional. El ajuste fino, por su parte, consiste en actualizar los parámetros del modelo utilizando una cantidad limitada de datos específicos de la tarea, lo que le permite adaptar sus vastos conocimientos a un dominio o aplicación concretos.

Ambos enfoques se engloban dentro del aprendizaje de pocos disparos. Aprovechando estas técnicas, podemos mejorar drásticamente el rendimiento y la versatilidad de los LLM, convirtiéndolos en herramientas más prácticas y eficaces para una amplia gama de aplicaciones en el procesamiento del lenguaje natural y más allá.

Pocos estímulos: Liberar el potencial del LLM

Los avisos de pocos disparos aprovechan la capacidad del modelo para comprender instrucciones, "programando" eficazmente el LLM mediante avisos elaborados.

Unas pocas indicaciones proporcionan de 1 a 5 ejemplos que demuestran la tarea deseada, aprovechando el reconocimiento de patrones y la adaptabilidad del modelo. Esto permite realizar tareas para las que no se ha entrenado explícitamente, aprovechando la capacidad de aprendizaje en contexto del LLM.

Mediante la presentación de patrones claros de entrada-salida, las indicaciones de pocos disparos guían al LLM para que aplique un razonamiento similar a las nuevas entradas, lo que permite una rápida adaptación a las nuevas tareas sin necesidad de actualizar los parámetros.

Tipos de avisos de pocos disparos (cero disparos, un disparo, pocos disparos)

El aprendizaje con pocos ejemplos abarca una serie de enfoques, cada uno de ellos definido por el número de ejemplos proporcionados. (Igual que el aprendizaje con pocos ejemplos):

1. Aparición sin disparos: En este escenario, no se proporcionan ejemplos. En su lugar, el modelo recibe una instrucción o descripción clara de la tarea. Por ejemplo: "Traduzca el siguiente texto inglés al francés: [texto de entrada]".

2. Una sola vez: En este caso, se proporciona un único ejemplo antes de la entrada real. De este modo, el modelo dispone de un ejemplo concreto de la relación entrada-salida prevista. Por ejemplo: "Clasifica el sentimiento de la siguiente crítica como positivo o negativo. Ejemplo: '¡Esta película es fantástica!' - Entrada positiva: 'No pude soportar el argumento'. - [el modelo genera la respuesta]".

3. Pocos indicios: Este enfoque proporciona múltiples ejemplos (normalmente 2-5) antes de la entrada real. Esto permite al modelo reconocer patrones y matices más complejos en la tarea. Por ejemplo: "Clasifique las siguientes frases como preguntas o afirmaciones: El cielo es azul". - Enunciado '¿Qué hora es?' - Pregunta 'Me encanta el helado'. - Enunciado Entrada: '¿Dónde puedo encontrar el restaurante más cercano?' - [el modelo genera la respuesta]"

Diseñar avisos de pocas palabras eficaces

Elaborar mensajes de pocas palabras eficaces es un arte y una ciencia. He aquí algunos principios clave a tener en cuenta:

1. Claridad y coherencia: Asegúrese de que sus ejemplos e instrucciones sean claros y sigan un formato coherente. Esto ayuda al modelo a reconocer el patrón más fácilmente.

2. La diversidad: Cuando utilices varios ejemplos, intenta abarcar una gama de posibles entradas y salidas para que el modelo tenga una comprensión más amplia de la tarea.

3. Relevancia: Elija ejemplos que estén estrechamente relacionados con la tarea específica o el dominio al que se dirige. Esto ayuda al modelo a centrarse en los aspectos más relevantes de sus conocimientos.

4. Concisión: Aunque es importante proporcionar suficiente contexto, hay que evitar indicaciones demasiado largas o complejas que puedan confundir al modelo o diluir la información clave.

5. Experimentación: No tenga miedo de repetir y experimentar con diferentes estructuras y ejemplos para encontrar lo que funciona mejor para su caso de uso específico.

Si dominamos el arte de los avisos de pocos disparos, podremos liberar todo el potencial de los LLM, permitiéndoles abordar una amplia gama de tareas con un mínimo de información o formación adicional.

Ajuste fino de los LLM: Adaptación de modelos con datos limitados

Mientras que la estimulación de pocos disparos es una potente técnica para adaptar los LLM a nuevas tareas sin modificar el propio modelo, el ajuste fino ofrece una forma de actualizar los parámetros del modelo para obtener un rendimiento aún mejor en tareas o dominios específicos. El ajuste fino nos permite aprovechar el vasto conocimiento codificado en los LLM preentrenados y adaptarlos a nuestras necesidades específicas utilizando sólo una pequeña cantidad de datos específicos de la tarea.

Entender el ajuste fino en el contexto de los LLM

El perfeccionamiento de un LLM consiste en seguir entrenando un modelo preentrenado en un conjunto de datos más pequeño y específico de la tarea. Este proceso adapta el modelo a la tarea objetivo a la vez que aprovecha los conocimientos existentes, lo que requiere menos datos y recursos que el entrenamiento desde cero.

En los LLM, el ajuste fino suele adaptar las ponderaciones de las capas superiores a las características específicas de la tarea, mientras que las capas inferiores permanecen prácticamente inalteradas. Este enfoque de "aprendizaje por transferencia" conserva una amplia comprensión del lenguaje al tiempo que desarrolla capacidades especializadas.

Técnicas de ajuste de pocos disparos

El ajuste fino de pocas muestras adapta el modelo utilizando sólo de 10 a 100 muestras por clase o tarea, lo que resulta valioso cuando los datos etiquetados son escasos. Las técnicas clave son:

1. Puesta a punto basada en instrucciones: Combina la solicitud de pocos disparos con la actualización de parámetros.

2. Enfoques de metaaprendizaje: Métodos como MAML pretenden encontrar buenos puntos de inicialización para una adaptación rápida.

3. Ajuste fino basado en adaptadores: Introduce pequeños módulos "adaptadores" entre las capas preentrenadas del modelo, reduciendo los parámetros entrenables.

4. Aprendizaje en contexto: Perfecciona los LLM para que se adapten mejor sólo mediante indicaciones.

Estas técnicas permiten a los LLM adaptarse a nuevas tareas con un mínimo de datos, lo que aumenta su versatilidad y eficacia.

Pocos disparos o ajuste fino: Elegir el enfoque adecuado

A la hora de adaptar los LLM a tareas específicas, tanto el estímulo de pocos disparos como el ajuste fino ofrecen soluciones potentes. Sin embargo, cada método tiene sus puntos fuertes y sus limitaciones, y la elección del enfoque adecuado depende de varios factores.

Fortalezas de Pocos Tiros:

• No requiere actualizaciones de los parámetros del modelo, preservando el modelo original

• Gran flexibilidad y adaptabilidad sobre la marcha

• No se necesita tiempo de formación ni recursos informáticos adicionales

• Útil para la creación rápida de prototipos y la experimentación

Limitaciones:

• El rendimiento puede ser menos constante, especialmente en tareas complejas

• Limitado por las capacidades y conocimientos originales del modelo

• Puede tener dificultades con ámbitos o tareas muy especializados

Afinar los puntos fuertes:

• A menudo se consigue un mejor rendimiento en tareas específicas

• Puede adaptar el modelo a nuevos ámbitos y vocabulario especializado

• Resultados más coherentes con aportaciones similares

• Potencial de aprendizaje y mejora continuos

Limitaciones:

• Requiere más tiempo de formación y recursos informáticos

• Riesgo de olvido catastrófico si no se gestiona con cuidado

• Puede sobreajustarse en conjuntos de datos pequeños

• Menos flexible; requiere una nueva formación para cambios significativos en las tareas.

Los 5 mejores trabajos de investigación para aprender poco

Esta semana también analizaremos los siguientes cinco artículos que han hecho avanzar significativamente este campo, introduciendo enfoques innovadores que están remodelando las capacidades de la IA.

1️⃣ Matching Networks for One Shot Learning" (Vinyals et al., 2016)

Introdujo un enfoque innovador que utiliza mecanismos de memoria y atención. La función de emparejamiento compara ejemplos de consulta con ejemplos de apoyo etiquetados, estableciendo un nuevo estándar para los métodos de aprendizaje de pocos disparos.

2️⃣ Prototypical Networks for Few-shot Learning" (Snell et al., 2017)

Presentó un enfoque más sencillo pero eficaz, el aprendizaje de un espacio métrico en el que las clases están representadas por un único prototipo. Su sencillez y eficacia lo convirtieron en un popular punto de partida para investigaciones posteriores.

3️⃣ Aprender a comparar: Red de relaciones para el aprendizaje de pocos disparos" (Sung et al., 2018)

Se introdujo un módulo de relación aprendible que permite al modelo aprender una métrica de comparación adaptada a tareas y distribuciones de datos específicas. Ha demostrado un gran rendimiento en varias pruebas comparativas.

4️⃣ A Closer Look at Few-shot Classification" (Chen et al., 2019)

Ofreció un análisis exhaustivo de los métodos existentes, cuestionando los supuestos comunes. Propuso modelos de referencia sencillos que igualaban o superaban enfoques más complejos, destacando la importancia de las bases de características y las estrategias de formación.

5️⃣ Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning" (Chen et al., 2021)

Combinación del preentrenamiento estándar con una fase de metaaprendizaje, con resultados de vanguardia. Puso de relieve las compensaciones entre los objetivos de la formación estándar y el metaaprendizaje.

Estos trabajos no sólo han hecho avanzar la investigación académica, sino que también han allanado el camino para las aplicaciones prácticas en la IA empresarial. Representan una progresión hacia sistemas de IA más eficientes y adaptables, capaces de aprender a partir de datos limitados, una capacidad crucial en muchos contextos empresariales.

Lo esencial

El aprendizaje de pocos intentos, el estímulo y el ajuste fino representan enfoques innovadores que permiten a los LLM adaptarse rápidamente a tareas especializadas con un mínimo de datos. Como hemos analizado, estas técnicas ofrecen una flexibilidad y eficacia sin precedentes para adaptar los LLM a diversas aplicaciones en distintos sectores, desde la mejora de las tareas de procesamiento del lenguaje natural hasta las adaptaciones a dominios específicos en campos como la sanidad, el derecho y la tecnología.

¡Gracias por tomarse el tiempo de leer AI & YOU!

Para obtener más contenido sobre IA empresarial, como infografías, estadísticas, guías prácticas, artículos y vídeos, siga a Skim AI en LinkedIn

¿Es usted fundador, director general, inversor o capitalista de riesgo y busca servicios de asesoramiento sobre IA, desarrollo fraccionado de IA o diligencia debida? Obtenga la orientación que necesita para tomar decisiones informadas sobre la estrategia de productos de IA y las oportunidades de inversión de su empresa.

¿Necesita ayuda para lanzar su solución empresarial de IA? ¿Quiere crear sus propios trabajadores de IA con nuestra plataforma AI Workforce Management? Hablemos

Creamos soluciones de IA personalizadas para empresas respaldadas por capital riesgo y capital privado en los siguientes sectores: Tecnología Médica, Noticias/Agregación de Contenidos, Producción de Cine y Fotografía, Tecnología Educativa, Tecnología Legal, Fintech y Criptomoneda.