Tools untuk Prompt Engineering

Kemas kini terakhir pada August 7, 2024 oleh Sander Schulhoff

Bagian ini berisi daftar alat-alat non-IDE yang berguna untuk memicu.

Pengembangan, Pengujian, dan Chaining untuk Prompt

LangChain

Model bahasa besar (LLM) sedang muncul sebagai teknologi yang membawa perubahan, memungkinkan pengembang untuk membangun aplikasi yang sebelumnya tidak dapat mereka lakukan. Namun menggunakan LLM ini secara sendiri seringkali tidak cukup untuk menciptakan aplikasi yang benar-benar kuat - kekuatan sebenarnya terjadi ketika Anda dapat menggabungkannya dengan sumber-sumber komputasi atau pengetahuan lainnya.

Perpustakaan ini bertujuan untuk membantu dalam pengembangan jenis aplikasi tersebut.

PromptAppGPT

PromptAppGPT adalah kerangka pengembangan aplikasi cepat berbasis kode rendah. PromptAppGPT memuat fitur seperti pengembangan berbasis prompt low-code, generasi teks GPT, generasi gambar DALLE, online prompt editor+compiler+runner, generasi antarmuka pengguna otomatis, dukungan untuk ekstensi plug-in, dll. PromptAppGPT bertujuan untuk memungkinkan pengembangan aplikasi bahasa alami berdasarkan GPT.

PromptAppGPT menyediakan pemicu kondisional multi-tugas, verifikasi hasil, dan kemampuan pengulangan kegagalan, memungkinkan tugas generasi manual yang sebaliknya membutuhkan beberapa langkah untuk diotomatisasi. Pada saat yang sama, pengguna tidak perlu lagi menghafal dan memasukkan mantera yang membosankan itu sendiri, dan dapat dengan mudah menyelesaikan tugas dengan memasukkan hanya informasi yang terpenting untuk tugas itu.

PromptAppGPT secara signifikan menurunkan hambatan untuk pengembangan aplikasi GPT, memungkinkan siapa pun mengembangkan aplikasi mirip AutoGPT dengan beberapa baris kode rendah.

Dust.tt

Platform Dust membantu membangun aplikasi Llm sebagai serangkaian pemanggilan prompt ke model eksternal. Ini menyediakan antarmuka grafis yang mudah digunakan untuk membangun rangkaian perintah, serta sejumlah blok standar dan bahasa pemrograman kustom untuk menganalisis dan memproses output model bahasa.

Ini menyediakan serangkaian fitur untuk membuat pengembangan aplikasi lebih cepat, lebih mudah, dan lebih handal:

• menjalankan beberapa penyelesaian secara paralel
• memeriksa hasil eksekusi
• versioning prompt chains
• bahasa pemrograman khusus untuk memproses data dan teks
• Integrasi API untuk berbagai model dan layanan eksternal

OpenPrompt¹

Prompt-learning adalah paradigma terbaru untuk menyesuaikan model bahasa yang telah dilatih sebelumnya (PLMs) ke tugas NLP turunannya, yang mengubah teks input dengan template tekstual dan langsung menggunakan PLMs untuk melakukan tugas yang telah dilatih sebelumnya. OpenPrompt adalah perpustakaan yang dibangun di atas PyTorch dan menyediakan kerangka kerja standar, fleksibel, dan dapat dikembangkan untuk mengimplementasikan pipeline pembelajaran prompt. OpenPrompt mendukung memuat PLMs langsung dari pengubah huggingface. Di masa depan, kami juga akan mendukung PLM yang diimplementasikan oleh perpustakaan lain.

BetterPrompt

⚡ Tes suite untuk LLM prompts sebelum mendorongnya ke PROD ⚡

Prompt Engine

Pustaka utilitas NPM untuk membuat dan memelihara prompt untuk Model Bahasa Besar (LLM).

Promptify

Mengandalkan hanya pada LLM seringkali tidak cukup untuk membangun aplikasi dan alat-alat &. Untuk membuka potensi penuh mereka, penting untuk mengintegrasikan LLM dengan sumber komputasi atau pengetahuan lainnya dan menyiapkan saluran unggah untuk produksi.

Pustaka ini ditujukan untuk membantu dalam mengembangkan pipa untuk menggunakan API LLMs secara produksi, memecahkan Tugas NLP seperti NER, Klasifikasi, Pertanyaan, Jawaban, Pemeringkatan, Teks ke Grafik, dll., serta menyediakan agen-agen kuat untuk membangun agen obrolan untuk tugas-tugas yang berbeda.

TextBox²

TextBox 2.0 adalah perpustakaan generasi teks terkini yang berbasis Python dan PyTorch dengan fokus pada membangun alur kerja yang terpadu dan standar untuk menerapkan model bahasa yang telah dilatih sebelumnya untuk generasi teks:

ThoughtSource

"ThoughtSource adalah sumber daya pusat yang terbuka dan komunitas yang berfokus pada data dan alat untuk pemikiran berantai dalam model bahasa besar (Wei 2022). Tujuan jangka panjang kami adalah memungkinkan penalaran yang dapat dipercaya dan kuat dalam sistem AI canggih untuk mengemudikan penelitian ilmiah dan praktik medis

Serba Aneka

GPT Index³

GPT Index adalah proyek yang terdiri dari kumpulan struktur data yang dirancang untuk memudahkan penggunaan basis pengetahuan eksternal yang besar dengan LLMs

Deforum

Video animasi AI

Visual Prompt Builder

Bangun prompt, secara visual

Interactive Composition Explorer

ICE adalah pustaka Python dan visualisasi jejak untuk program model bahasa.

PTPT - Prompt To Plain Text

PTPT adalah alat baris perintah yang memungkinkan Anda dengan mudah mengkonversi file teks biasa menggunakan prompt yang telah ditentukan sebelumnya dengan bantuan ChatGPT. Dengan PTPT, Anda dapat dengan mudah membuat dan membagikan format perintah, membuat kolaborasi dan penyesuaian menjadi sangat mudah. Selain itu, dengan berlangganan, Anda mendapatkan akses ke lebih banyak rangsangan untuk meningkatkan pengalaman Anda. Jika Anda tertarik pada rekayasa yang cepat, Anda dapat menggunakan PTPT untuk mengembangkan dan berbagi prompt Anda.

Orquesta AI Prompts

Platform kolaborasi low-code untuk Prompts AI

• Manajemen siklus lengkap permintaan (dari ideasi hingga pengumpulan umpan balik)
• Fitur-fitur tingkat perusahaan dan keamanan
• Dukungan untuk LLM publik, pribadi, dan kustom
• Promp berdasarkan konteks kustom dan aturan bisnis. Evaluasi di Pinggiran
• Pencatatan dan pengumpulan data secara waktu nyata tentang performa dan ekonomi yang cepat

Lainnya

https://gpttools.com

Footnotes

1. Ding, N., Hu, S., Zhao, W., Chen, Y., Liu, Z., Zheng, H.-T., & Sun, M. (2021). OpenPrompt: An Open-source Framework for Prompt-learning. arXiv Preprint arXiv:2111.01998. ↩

2. Tang, T., Junyi, L., Chen, Z., Hu, Y., Yu, Z., Dai, W., Dong, Z., Cheng, X., Wang, Y., Zhao, W., Nie, J., & Wen, J.-R. (2022). TextBox 2.0: A Text Generation Library with Pre-trained Language Models. ↩

3. Liu, J. (2022). GPT Index. https://doi.org/10.5281/zenodo.1234 ↩