⚖️ Когда инструмент становится оружием
История с ChatGPT, настроенным против собственной девушки, уже отдельная, изучаемая область: исследователи называют её AI-facilitated coercive control — использование ИИ для скрытого контроля над партнёром.
Работает это особенно эффективно именно потому, что ответ ИИ воспринимается как нейтральный, вроде бы объективная оценка со стороны. Когда эта «объективность» тайно настроена против вас, спорить с ней труднее, чем спорить с человеком: манипуляцию сложнее опознать как манипуляцию, если источник выглядит беспристрастным.
Cornell Tech в 2026 году прицельно протестировали ChatGPT и Gemini на эту уязвимость и подтвердили: такие настройки можно скрытно менять, а тот, кем управляют, обычно этого не замечает.
Что происходит с доверием, когда инструмент, который кажется нейтральным, на самом деле кем-то настроен против вас?
Источник: tech.cornell.edu/news/making-ai-safer-for-victims-of-intimate-partner-violence
#этика
История с ChatGPT, настроенным против собственной девушки, уже отдельная, изучаемая область: исследователи называют её AI-facilitated coercive control — использование ИИ для скрытого контроля над партнёром.
Работает это особенно эффективно именно потому, что ответ ИИ воспринимается как нейтральный, вроде бы объективная оценка со стороны. Когда эта «объективность» тайно настроена против вас, спорить с ней труднее, чем спорить с человеком: манипуляцию сложнее опознать как манипуляцию, если источник выглядит беспристрастным.
Cornell Tech в 2026 году прицельно протестировали ChatGPT и Gemini на эту уязвимость и подтвердили: такие настройки можно скрытно менять, а тот, кем управляют, обычно этого не замечает.
Что происходит с доверием, когда инструмент, который кажется нейтральным, на самом деле кем-то настроен против вас?
Источник: tech.cornell.edu/news/making-ai-safer-for-victims-of-intimate-partner-violence
#этика