Alpaca: El modelo de lenguaje de Stanford que compite con GPT-3.5

23 de marzo de 2023

Alpaca es significativamente más pequeño que GPT-3.5

Los modelos de seguimiento de instrucciones, como GPT-3.5 (text-davinci-003), ChatGPT, Claude y Bing Chat, son ampliamente utilizados por muchos usuarios, incluso para tareas relacionadas con el trabajo. Sin embargo, a pesar de su creciente popularidad, estos modelos aún tienen muchas deficiencias que deben abordarse. La información falsa, los estereotipos sociales y el lenguaje tóxico son algunos de los problemas asociados con estos modelos.

Para abordar estos problemas, la comunidad académica necesita participar de manera más activa. Desafortunadamente, investigar modelos de seguimiento de instrucciones en la academia ha sido un desafío debido a la disponibilidad limitada de modelos que se acercan en capacidades a modelos de código cerrado como text-davinci-003 de OpenAI. Para enfrentar estos desafíos, investigadores de la Universidad de Stanford publicaron sus hallazgos sobre un modelo de lenguaje de seguimiento de instrucciones llamado Alpaca.

Esquema de funcionamiento de Alpaca / Stanford

Basado en LLaMA de Meta AI

Alpaca fue ajustado a partir del modelo LLaMA 7B de Meta y entrenado en 52,000 demostraciones de seguimiento de instrucciones generadas utilizando text-davinci-003. Los investigadores señalan que Alpaca muestra muchos comportamientos similares a text-davinci-003 de OpenAI, pero también es sorprendentemente pequeño y fácil de reproducir. Han publicado la receta de entrenamiento y los datos, y planean lanzar los pesos del modelo en el futuro.

Los investigadores también han organizado una demostración interactiva para permitir que la comunidad de investigación comprenda mejor el comportamiento de Alpaca. Alentan a los usuarios a informar cualquier comportamiento preocupante en la demostración web para ayudarles a comprender y mitigar estos comportamientos. Sin embargo, los investigadores enfatizan que Alpaca está destinado solo para investigación académica y está prohibido su uso comercial.

Desafíos en el entrenamiento de modelos de seguimiento de instrucciones

Entrenar un modelo de seguimiento de instrucciones de alta calidad con un presupuesto académico implica dos desafíos importantes: un modelo de lenguaje preentrenado sólido y una gran cantidad de datos de demostración de seguimiento de instrucciones. Alpaca aborda estos desafíos al utilizar el modelo LLaMA 7B de Meta y generar 52,000 demostraciones de seguimiento de instrucciones utilizando text-davinci-003.

Colaboración con la comunidad académica

El equipo de investigación de Stanford espera que Alpaca ayude a la comunidad académica a abordar los problemas actuales en los modelos de seguimiento de instrucciones y a desarrollar soluciones más efectivas. Al compartir la receta de entrenamiento, los datos y, en el futuro, los pesos del modelo, los investigadores buscan fomentar la colaboración y el avance en el campo del procesamiento del lenguaje natural y la inteligencia artificial.

Que debes saber sobre Alpaca

¿Qué es Alpaca y cómo se entrenó?

Alpaca es un modelo de lenguaje de inteligencia artificial diseñado para seguir instrucciones y producir salidas de alta calidad. Fue entrenado utilizando un modelo de lenguaje pre-entrenado llamado LLaMA y datos de alta calidad de seguimiento de instrucciones. Los investigadores utilizaron técnicas como «Fully Sharded Data Parallel» y entrenamiento de precisión mixta para afinar el modelo LLaMA.

Alpaca fue evaluado por los investigadores y se encontró que tenía un rendimiento similar al modelo text-davinci-003 en una variedad de entradas. Aunque Alpaca tiene capacidades impresionantes, todavía muestra algunas limitaciones clásicas de los modelos de seguimiento de instrucciones, como la toxicidad, las alucinaciones o los estereotipos. Los investigadores han lanzado una demo interactiva y una versión de código abierto de Alpaca, pero su uso comercial está prohibido.

¿Cuáles son algunos de los problemas asociados con los modelos de lenguaje y cómo se están abordando?

Algunos de los problemas asociados con los modelos de lenguaje son la información falsa, los estereotipos sociales y el lenguaje tóxico.

Para solucionar estos problemas, la comunidad académica necesita involucrarse más activamente. Sin embargo, la investigación de modelos de seguimiento de instrucciones en la academia ha sido difícil debido a la limitada disponibilidad de modelos que se acerquen en capacidades a modelos de código cerrado como el text-davinci-003 de OpenAI. Para abordar estos desafíos, investigadores de la Universidad de Stanford han lanzado sus hallazgos sobre un modelo de lenguaje de seguimiento de instrucciones llamado Alpaca.

Alpaca fue ajustado a partir del modelo LLaMA 7B de Meta y entrenado en 52K demostraciones de seguimiento de instrucciones generadas utilizando text-davinci-003. Los investigadores señalan que Alpaca muestra muchos comportamientos similares a text-davinci-003 de OpenAI, pero también es sorprendentemente pequeño y fácil de reproducir.

Los investigadores han lanzado la receta de entrenamiento y los datos y planean lanzar los pesos del modelo en el futuro. También han organizado una demostración interactiva para permitir a la comunidad de investigación comprender mejor el comportamiento de Alpaca.

Sin embargo, los investigadores enfatizan que Alpaca está destinado sólo para investigación académica y cualquier uso comercial está prohibido.

¿Cómo se comparó Alpaca con el modelo text davinci 003 de OpenAI?

Alpaca fue comparado con el modelo text-davinci-003 de OpenAI y ganó en 90 de 89 comparaciones, lo cual fue sorprendente debido a su tamaño de modelo más pequeño y la cantidad modesta de datos de seguimiento de instrucciones utilizados para entrenar a Alpaca.

Además de utilizar el conjunto de evaluación estático, los investigadores también probaron el modelo Alpaca de manera interactiva y encontraron que se comportaba de manera similar al modelo text-davinci-003 en un conjunto diverso de entradas. Sin embargo, los investigadores reconocen que su evaluación puede ser limitada en escala y diversidad.

A pesar de las impresionantes capacidades de Alpaca, el modelo todavía exhibe algunas de las limitaciones clásicas de los modelos de seguimiento de instrucciones, como la toxicidad, las alucinaciones o los estereotipos.

¿Qué limitaciones tiene Alpaca como modelo de seguimiento de instrucciones?

A pesar de las impresionantes capacidades de Alpaca como modelo de seguimiento de instrucciones, todavía exhibe algunas de las limitaciones clásicas de los modelos de seguimiento de instrucciones, como la toxicidad, las alucinaciones o los estereotipos. Además, los investigadores reconocen que su evaluación puede ser limitada en términos de escala y diversidad. También se destaca que el uso comercial de Alpaca está prohibido y que su uso está destinado únicamente a la investigación académica.

¿Puede Alpaca ser utilizado con fines comerciales?

No, Alpaca está destinado únicamente para la investigación académica y su uso comercial está prohibido. Los investigadores enfatizan que cualquier comportamiento preocupante en la demo web debe ser reportado para ayudarles a comprender y mitigar estos comportamientos. Aunque los investigadores han lanzado una demo interactiva y una versión de código abierto de Alpaca, su uso comercial sigue estando prohibido.