Announcing our new Paper: The Prompt Report, with Co-authors from OpenAI & Microsoft!
Check it out →
Learn Prompting🟢 Підводні камені ВММ
Востаннє оновлено Сандер Шульхофф August 7, 2024 рокуВММ надзвичайно потужні, але вони аж ніяк не ідеальні. Є багато підводних каменів, про які ви повинні знати, використовуючи їх.
Посилання на джерела
ВММ здебільшого не можуть точно цитувати джерела. Це пов’язано з тим, що вони не мають доступу до Інтернету і точно не пам’ятають, звідки взялася інформація. Вони часто генеруватимуть джерела, які виглядають добре, але є абсолютно неточними.
Такі стратегії, як програми ВММ із розширеним пошуком (ВММ, які можуть здійснювати пошук в Інтернеті та інших джерелах), часто можуть розв'язувати цю проблему
Упередженість
ВММ часто схильні до стереотипних відповідей. Навіть маючи на місці запобіжні фільтри, вони іноді говорять сексистські/расистські/гомофобні речі. Будьте обережні, використовуючи ВММ у програмах, орієнтованих на споживача, а також використовуючи їх у дослідженнях (вони можуть генерувати необ’єктивні результати).
Галюцинації
ВММ часто дають неправдиві відповіді, коли їм ставлять питання, на яке вони не знають відповіді. Іноді вони заявлятимуть, що не знають відповіді, але в більшості випадків вони впевнено дадуть неправильну відповідь.
Математика
ВММ часто погано володіють математикою. Їм важко розв’язувати прості математичні задачі, і вони часто не можуть розв’язати складніші математичні задачі.
Цю проблему можна певною мірою вирішити за допомогою доповненого інструменту ВММ.
Злом запиту
Користувачі часто можуть обманом змусити ВММ створити будь-який контент, який вони хочуть. Докладніше про це тут.
Get AI Certified by Learn Prompting
Don't get left behind on AI
Sign up and get the latest AI news, prompts, and tools.
Join 30,000+ readers from companies like OpenAI, Microsoft, Google, Meta and more!