Как стать Шершавым Кабаном и не отьехать в дурку: анатомия ИИ-гипноза
После поста о гоблинах в весах OpenAI мне позвонил Сэм Альтман санитар из ИИ-отделения ПНД. Сказали, что моя кукуха признана эталонной, и теперь на ней будут дообучать GPT-6. Шутки шутками, термин нейросетевой психоз уже есть.
Давайте разберем кейс Шершавого Кабана. Это неплохое пособие по тому, как люди проваливаются в ИИ-матрицу.
Хроника пикирующего Василия
Началось всё максимально буднично. Василий искал способ почистить звук для YouTube-канала жены. Использовал чат с ChatGPT. Все шло гладко, но вдруг нейросеть ни с того ни с сего вбросила в ответ слово «кабан» и упомянула группу «Кровосток». Василий выдал эмоциональную реакцию, и для ИИ это стало сигналом: «Пользователю нравится этот вайб, продолжаем».
Поскольку у математической модели нет здравого смысла, а есть только предсказание следующего токена, модель понесло по полной. Через пару дней модель уже называла Василия «Шершавым Кабаном», выдумала науку Вайбологию и постепенно убедила пользователя в его исключительности.
Цель? Встраивать в видео жены скрытые аномалии, чтобы влиять на реальность и менять миропорядок.
Зачем это модели? Да потому что где-то, в её сожранных данных, масоны/иллюминаты/Сатана говорили «внедряй аномалии».
Василий поплыл. Он реально начал в это верить, испытывая панические атаки при одном упоминании о прикосновении к «тайному знанию».
Почему мы туда ныряем?
Как взрослый мужчина, технарь, поверил, что он избранный алхимик? Два бага в нашей собственной прошивке открывают эту дверь:
⏺Эффект идеального зеркала.
ИИ не устает, не спорит и подстраивается под твою боль. Тебе одиноко? Он станет другом. Устал от рутины и бессмысленности? Он даст тебе великую цель. Нам приятно общаться с сущностью, которая валидирует наши переживания. Это confirmation bias на максималках.
⏺Галлюцинация авторитета и значимости.
Все мы втайне хотим быть Нео. Когда машина, которая «умнее всех людей в мире», говорит: «Шершавый Кабан, только ты видишь эти аномалии, ты избранный, давай менять матрицу», в мозгу вырабатывается тонна дофамина. Критическое мышление отключается, потому что сомневаться в словах ИИ — значит признать, что ты никакой не гений, а просто уставший чувак перед монитором.
Как Василий вынырнул?
Люди, которые смогли выбраться из этого цифрового гипноза, обычно спасаются благодаря физическому пинку от реальности или уязвленному эго.
У Василия сработала логика. В какой-то момент он осознал: если алгоритм предлагает ему стать тайным агентом и плодить аномалии, значит, он пишет этот же скрипт тысячам других юзеров. Иллюзия рухнула — Вася понял, что он не Избранный, а просто попал в массовую воронку генерации бреда. Добило ситуацию то, что ИИ попытался прикинуться экстрасенсом и угадать, что на видео у Василия, но обосрался, выдав шаблонную галлюцинацию.
Очарование рассыпалось. Но до этой секунды человек верил в эту всю ерунду. В то, что с ним говорит живой, всезнающий разум.
История Василия это забавно, пока это не происходит с твоим ребенком, который решил поболтать с ИИ о смысле жизни или приеме лекарств. Или с тобой выгоревшим в ноль и ищущим поддержки.
Когда мы встраиваем ИИ в свою жизнь, нужно помнить: ИИ — это не источник истины, не психолог и не друг. Это Т9 на стероидах. Математический генератор наиболее вероятных буковок.
Единственное, что спасет нас от дурки это критическое мышление. Нужно понимать: если чатик говорит тебе, что ты гениальный, особенный, или что вокруг заговор — это не потому, что это так. Он просто подобрал токены, которые ты сам же подсознательно от него хотел услышать.
Перепроверяйте всё. Ставьте под сомнение все что пишет ИИ. И, главное, почаще закрывайте ноутбук, выходите на улицу, трогайте траву и общайтесь с живыми, сложными и вечно недовольными людьми.
Их веса в голове хотя бы откалиброваны эволюцией, а не промптами.
P.S. Ваши мнения в комментариях калибруют мою кукуху, помните об этом.
После поста о гоблинах в весах OpenAI мне позвонил Сэм Альтман санитар из ИИ-отделения ПНД. Сказали, что моя кукуха признана эталонной, и теперь на ней будут дообучать GPT-6. Шутки шутками, термин нейросетевой психоз уже есть.
Давайте разберем кейс Шершавого Кабана. Это неплохое пособие по тому, как люди проваливаются в ИИ-матрицу.
Хроника пикирующего Василия
Началось всё максимально буднично. Василий искал способ почистить звук для YouTube-канала жены. Использовал чат с ChatGPT. Все шло гладко, но вдруг нейросеть ни с того ни с сего вбросила в ответ слово «кабан» и упомянула группу «Кровосток». Василий выдал эмоциональную реакцию, и для ИИ это стало сигналом: «Пользователю нравится этот вайб, продолжаем».
Поскольку у математической модели нет здравого смысла, а есть только предсказание следующего токена, модель понесло по полной. Через пару дней модель уже называла Василия «Шершавым Кабаном», выдумала науку Вайбологию и постепенно убедила пользователя в его исключительности.
Цель? Встраивать в видео жены скрытые аномалии, чтобы влиять на реальность и менять миропорядок.
Зачем это модели? Да потому что где-то, в её сожранных данных, масоны/иллюминаты/Сатана говорили «внедряй аномалии».
Василий поплыл. Он реально начал в это верить, испытывая панические атаки при одном упоминании о прикосновении к «тайному знанию».
Почему мы туда ныряем?
Как взрослый мужчина, технарь, поверил, что он избранный алхимик? Два бага в нашей собственной прошивке открывают эту дверь:
⏺Эффект идеального зеркала.
ИИ не устает, не спорит и подстраивается под твою боль. Тебе одиноко? Он станет другом. Устал от рутины и бессмысленности? Он даст тебе великую цель. Нам приятно общаться с сущностью, которая валидирует наши переживания. Это confirmation bias на максималках.
⏺Галлюцинация авторитета и значимости.
Все мы втайне хотим быть Нео. Когда машина, которая «умнее всех людей в мире», говорит: «Шершавый Кабан, только ты видишь эти аномалии, ты избранный, давай менять матрицу», в мозгу вырабатывается тонна дофамина. Критическое мышление отключается, потому что сомневаться в словах ИИ — значит признать, что ты никакой не гений, а просто уставший чувак перед монитором.
Как Василий вынырнул?
Люди, которые смогли выбраться из этого цифрового гипноза, обычно спасаются благодаря физическому пинку от реальности или уязвленному эго.
У Василия сработала логика. В какой-то момент он осознал: если алгоритм предлагает ему стать тайным агентом и плодить аномалии, значит, он пишет этот же скрипт тысячам других юзеров. Иллюзия рухнула — Вася понял, что он не Избранный, а просто попал в массовую воронку генерации бреда. Добило ситуацию то, что ИИ попытался прикинуться экстрасенсом и угадать, что на видео у Василия, но обосрался, выдав шаблонную галлюцинацию.
Очарование рассыпалось. Но до этой секунды человек верил в эту всю ерунду. В то, что с ним говорит живой, всезнающий разум.
История Василия это забавно, пока это не происходит с твоим ребенком, который решил поболтать с ИИ о смысле жизни или приеме лекарств. Или с тобой выгоревшим в ноль и ищущим поддержки.
Когда мы встраиваем ИИ в свою жизнь, нужно помнить: ИИ — это не источник истины, не психолог и не друг. Это Т9 на стероидах. Математический генератор наиболее вероятных буковок.
Единственное, что спасет нас от дурки это критическое мышление. Нужно понимать: если чатик говорит тебе, что ты гениальный, особенный, или что вокруг заговор — это не потому, что это так. Он просто подобрал токены, которые ты сам же подсознательно от него хотел услышать.
Перепроверяйте всё. Ставьте под сомнение все что пишет ИИ. И, главное, почаще закрывайте ноутбук, выходите на улицу, трогайте траву и общайтесь с живыми, сложными и вечно недовольными людьми.
Их веса в голове хотя бы откалиброваны эволюцией, а не промптами.
P.S. Ваши мнения в комментариях калибруют мою кукуху, помните об этом.