автономна система прийняття рішень

Цікава стаття про те, що під machine unlearning ми часто ховаємо різні задачі

https://arxiv.org/abs/2604.07962

untraining - про те як прибрати вплив конкретних даних, на яких модель тренувалась

unlearning - про те як прибрати ширший концепт / поведінку / розподіл, який ці дані репрезентують

якщо ми змішуємо ці задачі, то порівнюємо методи не співставними метриками

умовно дивимось чи ефективно прибрали PII (точкова інформація з тренувальних даних as is) а потім на тих же метриках дивимось як прибрати поведінку або ж наративи

І також хочу поділитись, що в Ukrainian LLM Leaderboard з’явився окремий розділ Fairness.

StereoSet-UK Eval: схильність моделі обирати стереотипні продовження;

WinoBias-UK Natural: гендерні асиметрії у зв’язках між займенниками та професіями;

BBQ-UK: відповіді на неоднозначні й однозначні питання для різних категорій упереджень;

WinoPron-UK (скоро буде).

З цікавого 👀 у Lapa схильність на гендерні упередження, у Mamay схильність до релігійного упередження. Але деталі думаю ми ще опишемо згодом🤞

*протягом місяця ще плануємо вичитати та відповідно поправити переклади і допрацювати WarBias (робоча назва ✍️)

Нарешті пройшли один з перших майлстоунів проєкту FairForget, над яким ми працюємо з Oleksandra Ostafiichuk та Tetiana Zakharchenko
Цей проєкт пройшов відбір і стартував за підтримки програми Women Led Science, якщо коротро то ми досліджуємо, чи можна застосовувати machine unlearning для зменшення упереджень у мовних моделях. Ми також перевіряємо можливий bias redistribution: ситуацію, коли модель стає менш упередженою за одним виміром, але демонструє сильніше зміщення за іншим. Ми керуємось тим, що bias correlation був раніше визначений в деяких роботах і відповідно припускаємо що unlearning одного упередження може потягти зміни в інших.

FairForget почався зі створення відтворюваного сетапу схильності до упереджень моделей до і після unlearning. І тому ми переклали та почали адаптовувати найбільш популярні датасети BBQ, WinoBias, WinoPron, StereoSet.

Адаптація ще in progress, але ми виклали те що маємо наразі тут https://huggingface.co/FairForget . Там же можна побачити WarBias (назва може змінитись 👀) - це датасет про упередження, пов’язані із соціальними наслідками війни в Україні. Першими категоріями стали внутрішньо переміщені особи та ветерани, але ми все ще працюємо над його доповненням і відповідно реструктуризацією в стилі StereoSet (де є triplets речень) і відповідно він ніде не використовується. Його генерували з MamayLM-Gemma-3-27B, а таксономію ми робили на базі статтей від ветеранських та соціальних організацій та соц. досліджень. І тут насправді ще багато роботи на вичитування

Готую матеріали на доповідь і знайшла цікавий пейпер: Does Localization Inform Unlearning? A Rigorous Examination of Local Parameter Attribution for Knowledge Unlearning in Language Models [EMNLP 2025]

Вони зазначають

Our findings reveal that the set of parameters that must be modified for effective unlearning is not strictly determined

We regard this as compelling evidence against the assumption that a fixed set of parameters must be updated to achieve effective unlearning. The results suggest that unlearning may not rely on a specific parameter region, but can instead be achieved through multiple alternative regions in the model.

Автори перевіряють це в сетапі, де ground-truth регіон, у якому було вивчено forget знання, наперед відомий (сабсет із 10% MLP value vectors, через які вони навчили ці знання). Але роблять unlearning через інший випадково вибраний сабсет MLP value vectors. Все окрім обраного сабсету заморожували і виконували unlearning алгоритм на ньому і це давало ефект unlearning.

Тобто... gradient-ascent (based) unlearning (і не тільки, але цей як інтуїтивний приклад) все одно зміг знайти зміни в (випадково обраному) сабсеті MLP параметрів і досягти unlearning ефекту 🤯🚐

тобто вони показують що вірогідно, що unlearning ефекту можна досягти через альтернативні регіони моделі і НЕ обовʼязково (посилатись на interpretability) знати регіон, де 'записали' знання.

мені перегукується з концептом про superposition (або ж можна зустріти повʼязаний з цим феномен Polysemanticity)

Ділюсь першою статтею з Unleaning для narrative suppression, котру прийняли на WIPE-OUT 2026: Machine Unlearning Workshop, ECML-PKDD

Between Suppression and Collapse: Evaluating Narrative Unlearning with LENS

У цьому дослідженні ми перевіряємо, чи можуть наявні методи unlearning придушувати небажані наративи (у нашому випадку дезінформацію).
І, якщо так, чи є момент, у який можна зупинити тренування до колапсу відповідей. Технічно ми бачимо, що це можливо.

Загалом було дуже цікаво перевірити, чи має модель чим "підмінити" небажаний наратив після unlearning. Тобто що саме лежить під небажаним фреймом? Інколи ним виявлявся антинаратив.

Дослідження пілотне: нашою метою було розуміти, як краще розвивати ідею narrative unlearning і чи поточні методи вже достатньо добре працюють. Один із викликів тут (це видно з дисклеймера до статті) - це подати матеріал нейтрально.

У планах - розширити unlearning-датасет на наративи та знайти спосіб автоматизувати пошук стану suppression до того, як настає collapse відповідей.