Herramientas de ingeniería de prompts

Esta sección contiene una lista de herramientas que son útiles para la generación de prompts.

Desarrollo, prueba y concatenación de prompts

LangChain

Los grandes modelos de lenguaje (LLMs) están surgiendo como una tecnología transformadora, permitiendo a los desarrolladores construir aplicaciones que antes no podían. Pero el uso de estos LLMs de forma aislada a menudo no es suficiente para crear una aplicación realmente poderosa; el verdadero poder radica en poder combinarlos con otras fuentes de computación o conocimiento.

Esta biblioteca está diseñada para ayudar en el desarrollo de ese tipo de aplicaciones.

Dust.tt

La plataforma Dust ayuda a construir aplicaciones de modelos de lenguaje a través de llamadas prompt a modelos externos. Proporciona una interfaz gráfica fácil de usar para construir cadenas de prompts, así como un conjunto de bloques estándar y un lenguaje de programación personalizado para analizar y procesar las salidas de los modelos de lenguaje.

Proporciona una serie de características para hacer el desarrollo de aplicaciones más rápido, más fácil y más robusto:

• Ejecución de múltiples completaciones en paralelo
• Inspección de salidas de ejecución
• Versionado de cadenas de prompts
• Lenguaje de programación personalizado para procesar datos y texto
• Integración de API para varios modelos y servicios externos

OpenPrompt

El aprendizaje de prompts es el último paradigma para adaptar modelos de lenguaje pre-entrenados (PLMs) a tareas de NLP, que modifica el texto de entrada con una plantilla textual y utiliza directamente PLMs para llevar a cabo tareas pre-entrenadas. OpenPrompt es una biblioteca construida sobre PyTorch y proporciona un marco estándar, flexible y extensible para implementar la cadena de aprendizaje de prompts. OpenPrompt admite la carga de PLMs directamente desde huggingface transformers. En el futuro, también admitirá PLMs implementados por otras bibliotecas.

BetterPrompt

⚡ Conjunto de pruebas para prompts de LLM antes de enviarlos a PROD ⚡

Prompt Engine

Biblioteca de utilidades NPM para crear y mantener prompts para grandes modelos de lenguaje (LLMs).

TextBox

TextBox 2.0 es una biblioteca de generación de texto actualizada basada en Python y PyTorch que se centra en la construcción de una tubería unificada y estandarizada para aplicar modelos de lenguaje pre-entrenados a la generación de texto.

ThoughtSource

"ThoughtSource es un recurso central y comunitario abierto centrado en datos y herramientas para el razonamiento de cadena de pensamiento en modelos de lenguaje grandes (Wei 2022). Nuestro objetivo a largo plazo es habilitar un razonamiento confiable y robusto en sistemas avanzados de IA para impulsar la investigación científica y la práctica médica".

Miscelánea.

Índice GPT

GPT Index es un proyecto que consiste en un conjunto de estructuras de datos diseñadas para facilitar el uso de bases de conocimiento externas grandes con LLMs.

Deforum

Videos animados de inteligencia artificial.

Visual Prompt Builder

Construir prompts, visualmente.

Explorador de Composición Interactiva

ICE es una biblioteca de Python y visualizador de trazas para programas de modelos de lenguaje.

Other

https://gpttools.com

Sander Schulhoff

Sander Schulhoff is the Founder of Learn Prompting and an ML Researcher at the University of Maryland. He created the first open-source Prompt Engineering guide, reaching 3M+ people and teaching them to use tools like ChatGPT. Sander also led a team behind Prompt Report, the most comprehensive study of prompting ever done, co-authored with researchers from the University of Maryland, OpenAI, Microsoft, Google, Princeton, Stanford, and other leading institutions. This 76-page survey analyzed 1,500+ academic papers and covered 200+ prompting techniques.

Footnotes

1. Ding, N., Hu, S., Zhao, W., Chen, Y., Liu, Z., Zheng, H.-T., & Sun, M. (2021). OpenPrompt: An Open-source Framework for Prompt-learning. arXiv Preprint arXiv:2111.01998. ↩

2. Tang, T., Junyi, L., Chen, Z., Hu, Y., Yu, Z., Dai, W., Dong, Z., Cheng, X., Wang, Y., Zhao, W., Nie, J., & Wen, J.-R. (2022). TextBox 2.0: A Text Generation Library with Pre-trained Language Models. ↩

3. Liu, J. (2022). GPT Index. https://doi.org/10.5281/zenodo.1234 ↩