Learn PromptingHerramientas de ingeniería de prompts
Última actualización el August 7, 2024 por Sander SchulhoffEsta sección contiene una lista de herramientas que son útiles para la generación de prompts.
Desarrollo, prueba y concatenación de prompts
LangChain
Los grandes modelos de lenguaje (LLMs) están surgiendo como una tecnología transformadora, permitiendo a los desarrolladores construir aplicaciones que antes no podían. Pero el uso de estos LLMs de forma aislada a menudo no es suficiente para crear una aplicación realmente poderosa; el verdadero poder radica en poder combinarlos con otras fuentes de computación o conocimiento.
Esta biblioteca está diseñada para ayudar en el desarrollo de ese tipo de aplicaciones.
Dust.tt
La plataforma Dust ayuda a construir aplicaciones de modelos de lenguaje a través de llamadas prompt a modelos externos. Proporciona una interfaz gráfica fácil de usar para construir cadenas de prompts, así como un conjunto de bloques estándar y un lenguaje de programación personalizado para analizar y procesar las salidas de los modelos de lenguaje.
Proporciona una serie de características para hacer el desarrollo de aplicaciones más rápido, más fácil y más robusto:
- Ejecución de múltiples completaciones en paralelo
- Inspección de salidas de ejecución
- Versionado de cadenas de prompts
- Lenguaje de programación personalizado para procesar datos y texto
- Integración de API para varios modelos y servicios externos
OpenPrompt
El aprendizaje de prompts es el último paradigma para adaptar modelos de lenguaje pre-entrenados (PLMs) a tareas de NLP, que modifica el texto de entrada con una plantilla textual y utiliza directamente PLMs para llevar a cabo tareas pre-entrenadas. OpenPrompt es una biblioteca construida sobre PyTorch y proporciona un marco estándar, flexible y extensible para implementar la cadena de aprendizaje de prompts. OpenPrompt admite la carga de PLMs directamente desde huggingface transformers. En el futuro, también admitirá PLMs implementados por otras bibliotecas.
BetterPrompt
⚡ Conjunto de pruebas para prompts de LLM antes de enviarlos a PROD ⚡
Prompt Engine
Biblioteca de utilidades NPM para crear y mantener prompts para grandes modelos de lenguaje (LLMs).
TextBox
TextBox 2.0 es una biblioteca de generación de texto actualizada basada en Python y PyTorch que se centra en la construcción de una tubería unificada y estandarizada para aplicar modelos de lenguaje pre-entrenados a la generación de texto.
ThoughtSource
"ThoughtSource es un recurso central y comunitario abierto centrado en datos y herramientas para el razonamiento de cadena de pensamiento en modelos de lenguaje grandes (Wei 2022). Nuestro objetivo a largo plazo es habilitar un razonamiento confiable y robusto en sistemas avanzados de IA para impulsar la investigación científica y la práctica médica".
Miscelánea.
Índice GPT
GPT Index es un proyecto que consiste en un conjunto de estructuras de datos diseñadas para facilitar el uso de bases de conocimiento externas grandes con LLMs.
Deforum
Videos animados de inteligencia artificial.
Visual Prompt Builder
Construir prompts, visualmente.
Explorador de Composición Interactiva
ICE es una biblioteca de Python y visualizador de trazas para programas de modelos de lenguaje.
Other
Footnotes
-
Ding, N., Hu, S., Zhao, W., Chen, Y., Liu, Z., Zheng, H.-T., & Sun, M. (2021). OpenPrompt: An Open-source Framework for Prompt-learning. arXiv Preprint arXiv:2111.01998. ↩
-
Tang, T., Junyi, L., Chen, Z., Hu, Y., Yu, Z., Dai, W., Dong, Z., Cheng, X., Wang, Y., Zhao, W., Nie, J., & Wen, J.-R. (2022). TextBox 2.0: A Text Generation Library with Pre-trained Language Models. ↩
-
Liu, J. (2022). GPT Index. https://doi.org/10.5281/zenodo.1234 ↩