Посмотрела лекцию Дмитрия Сошникова (доцент МАИ, НИУ ВШЭ) "Нейрочеллендж: как ML помогает в задачах и творчестве" с фестиваля 8БИТ, он четыре месяца назад так-то проходил и рассчитан скорее на школьников. Понравилось. Большая часть инфы знакома, а вот под конец пошли личные мысли и идеи, они мне и оказались интереснее всего.
Фундаментальная проблема нейросети (речь о моделях до GPT-4 включительно, видимо) — линейность рассуждений. Она всегда продолжает мысль. Не может сказать: "Ой, я зашла в тупик, мне надо придумать другое решение". Это может человек. В том числе отсюда прием промптинга "объясняй по шагам своё решение"
С этим можно по-разному бороться. Может человек выступать тем агентом, который скажет: "Подумай ещё раз". Или можно создавать многоагентные системы, где несколько разных нейросетей будут вместе решать какую-то задачу.
—-
И главное — у них нет какого-то желания что-то делать. (Упс... Не-не, я точно не такая. Точно.) Нейросеть повинуется человеку. Человек должен сказать, что мы хотим получить, придумать что-то, оформить это в какое-то произведение искусства или решение программное. Человек может что-то делать. Нейросеть сама ничего не делает.
—-
Мы должны перестать задаваться вопросом "А кто автор? А может ли нейронка сама придумать?". Просто относиться к произведению как в некоему артефакту, созданному множеством разных агентов.
Путешествие с ИИ в искусство Черкашиных 1990-х — проект, который упоминает Дмитрий. Туда можно сходить и без просмотра лекции, там всё рассказано, интересно.
Best humans still outperform artificial intelligence in a creative divergent thinking task — статья в Scientific Reports.
The Originality of Machines: AI Takes the Torrance Test — исследование, где GPT-4 гоняют на тестах на креативность.
Про последние два материала, а также те статьи, которые в них упоминаются и анализируются, дальше отдельно напишу.
Мысли
Фундаментальная проблема нейросети (речь о моделях до GPT-4 включительно, видимо) — линейность рассуждений. Она всегда продолжает мысль. Не может сказать: "Ой, я зашла в тупик, мне надо придумать другое решение". Это может человек. В том числе отсюда прием промптинга "объясняй по шагам своё решение"
С этим можно по-разному бороться. Может человек выступать тем агентом, который скажет: "Подумай ещё раз". Или можно создавать многоагентные системы, где несколько разных нейросетей будут вместе решать какую-то задачу.
—-
И главное — у них нет какого-то желания что-то делать. (Упс... Не-не, я точно не такая. Точно.) Нейросеть повинуется человеку. Человек должен сказать, что мы хотим получить, придумать что-то, оформить это в какое-то произведение искусства или решение программное. Человек может что-то делать. Нейросеть сама ничего не делает.
—-
Мы должны перестать задаваться вопросом "А кто автор? А может ли нейронка сама придумать?". Просто относиться к произведению как в некоему артефакту, созданному множеством разных агентов.
Интересные ссылки
Путешествие с ИИ в искусство Черкашиных 1990-х — проект, который упоминает Дмитрий. Туда можно сходить и без просмотра лекции, там всё рассказано, интересно.
Best humans still outperform artificial intelligence in a creative divergent thinking task — статья в Scientific Reports.
The Originality of Machines: AI Takes the Torrance Test — исследование, где GPT-4 гоняют на тестах на креативность.
Про последние два материала, а также те статьи, которые в них упоминаются и анализируются, дальше отдельно напишу.