Продолжаю историю про наши факапы и решения с RAW датой, entities и фактами. Изначально планировал разбирать официалов и коллег из выдачи, подтягивать локальные платежки, особенности GEO и другие вещи, которые важны для рынка. У официала часть информации спрятана за кликами, где-то не доехала в парсер, а у коллег готовые страницы, казалось бы, бери, сравнивай и дополняй.

Официала SpinBoss прогнали через Google Natural Language API, 8 сайтов коллег и наши версии контента. В проанализированном тексте официала получили 487 entities, у коллег в среднем 622, у одного из сайтов даже 801. Сущностей овер дохуя, но когда проверяешь конкретные утверждения - появляются вопросы )

У коллег есть Trustly и Zimpler, а в собранных официальных данных по платежкам подтверждения им нет. Платежки реальные, для рынка знакомые, но откуда взялось, что именно это казино с ними работает?

Пример по Frank Casino, SE другой кейс. Коллега пишет, что для выполнения условий бонуса надо прокрутить сумму бонуса 35 раз, а у официала - 35 раз сумму ДЕПОЗИТА И БОНУСА. Закинул 1000 крон, получил сверху 1000, у коллеги получается 35К оборота, по условиям официала - 70К. Бренд, размер бонуса и x35 совпадают, а требование занизили вдвое.

После разбора сайтов коллег стало понятным, что контент генерится и никто не парится, подтверждается ли написанное хоть чем-то у официала. Сущности есть, а подтвержденные факты? Нет!

Google Natural Language API распознает сущности, но не подтверждает написанное про них. Платежка существует, бренд существует, а доказуемого факта, что они связаны, может не быть.

Нюанс для тех, кто будет повторять - проверяйте поддержку языка именно для анализа entities. На шведском v1 у нас отказал, перешли на v2, получили сущности, но в ответе languageSupported: false. Данные вернулись, а язык официально не поддерживается, обработка идет как получится. Плюс в v2 нет salience, показателя значимости сущности в тексте, поэтому напрямую сравнивать замеры разных версий нельзя.

Сами мы тоже проебывались, тот же пример SpinBoss, где модель из наличия казино и спортбука достроила общий аккаунт и кошелек, звучит привычно, но подтверждения для этого бренда у нас не было.

Часть проблем мы создавали сами себе еще до генерации. Бренд Zotabet под DE - собрали 116 фактов, но туда не попали четыре важных правила по бонусам. В RAW они были с условиями и исключениями, а в подготовленных данных - нет, после чего мы допиливали промпты, чтобы модель правильно написала то, что сами ей не передали ))

Про повторные генерации рассказал в первой части, вернули фрагменты и условия начали появляться без смены модели и промпта. После этого поменяли разбор данных, отдельно проходим бонусы, вывод и лимиты, сохраняем правила целиком с исключениями, дословным фрагментом и указанием источника. Если официал противоречит сам себе, фиксируем обе версии.

На том же RAW по Zotabet повторили проверку, раньше из 39 проверяемых правил терялись 13, после переработки извлечения - 0. Это результат проверки пропусков, смысл готовых утверждений все равно проверяем отдельно.

По итогу константа - факты о бренде для генерации берем только из RAW даты официала ✅

Выдача и спрос помогают понять вопросы аудитории, но утверждения коллег без подтверждения в текст не тянем. Локальная платежка у конкурента - повод поискать ее у официала, а не добавить сразу же себе.

❗️ Главный вывод - вытягивать и хранить RAW с контекстом, к какому бонусу относится правило, для какого GEO действует, какие рядом условия и исключения. Правильный исходник в папке не спасет, если до модели доехали только название и x35, а смысл мы сами отрезали при подготовке данных )))

На подтвержденные факты, сущности и сохраненный контекст я сейчас делаю ставку в своем пути, чтобы каждое конкретное утверждение можно было проверить по источнику.

Такая вот маленькая строчка «Собираем RAW дату по брендам» из первоначального плана ))

Делитесь в комментах вашим опытом по RAW дата, а еще, накидывайте, пожалуйста огоньков 🔥

Всех крепко-обнял 💜