Репост из: фиолетовый снег
Недавно Сэм Альтман, генеральный директор OpenAI, поделилися коротким рассказом, который написало его детище — ChatGPT. В предисловии он говорит, что текст был сгенерирован новой моделью, особенно хорошо владеющей креативным письмом. Запрос был такой: «write a metafictional literary short story about AI and grief» (напиши метапрозаичный литературный рассказ об искусственном интеллекте и горе)
Дженнифер Уолш как всегда мастерски проанализировала текст и рассказала, почему читать созданные ИИ произведения искусства нельзя в оптике обычных литературных работ.
В классе, изучая контент, созданный ИИ, мы с учениками начинаем с анализа фактуры — поиска аномалий, неровных стыков или неестественно гладких участков, «лишних» пальцев или сумбурного текста, которые являются результатом нестандартных решений машины.
Большое значение играет и набор данных, на которых проходила тренировку модель. Уолш изучила, почему ИИ написал именно про «Милу», которая «умещается на ладони».
Мила — чрезвычайно популярное имя в США, которое ежегодно входит в топ-30 имен для младенцев, начиная с 2017 года. Это значит, что в социальных сетях появляются тысячи и тысячи сообщений о младенцах с именем Мила. А учитывая, что за последнее десятилетие родилось огромное количество детей с таким именем, в социальных сетях также появляются сообщения об умерших младенцах с именем Мила. Мертворожденные дети, дети, родившиеся преждевременно. Малыши, которые умещались на ладони.
Чтобы побудить LLM написать историю о горе, модель должна быть обучена большому количеству написанного о горе. А в интернете о горе пишут в основном нехудожественные произведения. Посты от первого лица о тяжелых утратах и боли. В то время как художники судятся с компаниями искусственного интеллекта за нарушение авторских прав, все остальные выполняют эмоциональный труд бесплатно.
И даже фраза «демократия духов», которая зацепила глаз Уолш, оказалась подделкой и плагиатом из романа Набокова «Пнин». Одним словом, технофеодализм какой-то.
Дженнифер Уолш как всегда мастерски проанализировала текст и рассказала, почему читать созданные ИИ произведения искусства нельзя в оптике обычных литературных работ.
В классе, изучая контент, созданный ИИ, мы с учениками начинаем с анализа фактуры — поиска аномалий, неровных стыков или неестественно гладких участков, «лишних» пальцев или сумбурного текста, которые являются результатом нестандартных решений машины.
Большое значение играет и набор данных, на которых проходила тренировку модель. Уолш изучила, почему ИИ написал именно про «Милу», которая «умещается на ладони».
Мила — чрезвычайно популярное имя в США, которое ежегодно входит в топ-30 имен для младенцев, начиная с 2017 года. Это значит, что в социальных сетях появляются тысячи и тысячи сообщений о младенцах с именем Мила. А учитывая, что за последнее десятилетие родилось огромное количество детей с таким именем, в социальных сетях также появляются сообщения об умерших младенцах с именем Мила. Мертворожденные дети, дети, родившиеся преждевременно. Малыши, которые умещались на ладони.
Чтобы побудить LLM написать историю о горе, модель должна быть обучена большому количеству написанного о горе. А в интернете о горе пишут в основном нехудожественные произведения. Посты от первого лица о тяжелых утратах и боли. В то время как художники судятся с компаниями искусственного интеллекта за нарушение авторских прав, все остальные выполняют эмоциональный труд бесплатно.
И даже фраза «демократия духов», которая зацепила глаз Уолш, оказалась подделкой и плагиатом из романа Набокова «Пнин». Одним словом, технофеодализм какой-то.