Prompt Repetition Improves Non-Reasoning LLMs.pdf
Небольшой репорт о том, что повторение промпта второй раз повышает качество ответов.
Если коротко — дело в том, что, читая промпт один раз, модель ещё не имеет всего контекста задачи, и выводит его по мере разложения задачи на токены. Когда она уже это сделала, прочитав промпт первый раз, ИИ читает второй раз тот же промпт уже полностью с нужным нам контекстом, и поэтому может выдавать более точные результаты — 47 раз из 70. 23 раза модели выдали такие же результаты, как когда промпт вводился только 1 раз. И 0 раз двойной промпт был хуже одинарного.
Посмотрите репорт. Разные модели, разные задачи. Забавно. Вот бы и с людьми так безотказно работало 😁
@ProstoVenture
Если коротко — дело в том, что, читая промпт один раз, модель ещё не имеет всего контекста задачи, и выводит его по мере разложения задачи на токены. Когда она уже это сделала, прочитав промпт первый раз, ИИ читает второй раз тот же промпт уже полностью с нужным нам контекстом, и поэтому может выдавать более точные результаты — 47 раз из 70. 23 раза модели выдали такие же результаты, как когда промпт вводился только 1 раз. И 0 раз двойной промпт был хуже одинарного.
Посмотрите репорт. Разные модели, разные задачи. Забавно. Вот бы и с людьми так безотказно работало 😁
@ProstoVenture