Так пузырь всё-таки или сингулярность?
В последние месяцы многие из нас заметили, как кодинговые модели, в частности, Opus, неплохо скакнули в качестве. Ещё не так давно я писал о том, что без особого надзора модельки не понимают, что творят. Но то были машины потупее, а вот у нового Opus же уровень common sense сильно лучше. Хотелось бы, конечно, знать, засчёт чего был достигнут последний результат. Но это вряд ли.
Бросается в глаза способность модели заниматься главной программисткой деятельностью - дебажить говнокод. Может быть, для Opus соорудили RL-симулятор с большим набором систем, сломанных самыми разными способами, и у модели есть цель их починить, и такая задача заставила её выучить зачатки разума.
На данный момент я уже довольно мало пишу руками. Скорость разработки действительно очень выросла, чувствую, что наконец стал 10х инженером. Часто даже в сложных ML-вопросах получаю хороший ответ и имплементацию.
Приведёт ли всё это к какому-то коллапсу в скором времени? К уничтожению рабочих мест?
Свидетели массовой безработицы любят забывать про несколько факторов:
- С падением стоимости разработки, спрос на неё вырастет и софта станет больше. Если вы мне не верите, то время для коротенькой истории:
Когда я заселялся в свой жилой комплекс в Долине, как вы думаете, сколько приложений мне нужно было установить на телефон? 1? 2? Как насчёт ЧЕТЫРЁХ? Одно отвечает за двери в подъезды, одно за посылки, одно за все остальные двери, и ещё одно для оплаты, сервисов и т.д.
- Боттлнеком является не только разработка. Теперь это будет заблокированная инфра и другие внешние обстоятельства. Теперь, вместо инженеров, все мы будем скорее решателями вопросиков, менеджерами, если хотите, для своего кодингового агента.
- Самое главное и самое смешное - большинству компаний по-ху-ю на эффективность. Да, в x.ai может и надо за неделю шипать большие куски рекомендательной системы, и теперь это может делать не 7 человек, а двое. Но это не является массовой потребностью.
В x.ai несколько сотен инженеров. Знаете, сколько инженеров делают приложение доставки еды DoorDash? Где-то 2.5 тысячи. Столько же делают Spotify. До 2022 в Твиттере работало 300 только ML-щиков! И ни один не додумался начать применять трансформеры.
Сам я в тру бигтехе не работал - бог уберёг - но думаю все мы слышали достаточное количество историй о том, как 100к инженеров только и занимаются тем, что договариваются друг с другом на встречах и пишут документацию.
Мой бывший коллега, работающий в Амазоне, рассказывал, что вместо того, чтобы зашипать новую модель, его заставляют писать огромный отчёт о том, почему прошлая команда не зашипала её к прошлому дедлайну. Из-за этого он не успеет зашипать её к уже к текущему дедлайну. Даже Сизиф бы охуел от этой истории.
На самом деле, массовая безработица и базовый доход уже наступили. Стоимость жизни упала настолько низко, что вместо реальной работы в большинстве мест люди занимаются чем угодно, кроме неё. Бигтех-компании это не команды инженеров, а закрытые клубы раздачи денег, и чтобы в них попасть, нужно умело пройти странный обряд инициации в виде 8 собеседований, не имеющих отношения к реальной работе, и лишь проверяющих способность врать и притворяться.
И это я говорю только про IT и про недавно (пару десятков лет назад) появившиеся компании. Представляете, какая дремучая отсталость царит в остальных сферах? В зарегулированных экономиках, где куча больших компаний, зарабатывающих сверхприбыли, где-то там внутри спрятаны сотни миллионов людей, которые получают зарплату и просто пересылают емэйлы туда-сюда и выполняющие какие-то элементарные действия вручную. Какой им AI adoption? Там бы начать с computer adoption.
Так, что-то я отвлёкся. Так пузырь всё-таки или сингулярность? Скорее всего, как и всегда, ничего не произойдёт, и окажется, что текущий скачок в продуктивности был всего лишь обязательным требованием к тому, чтобы расти на те же самые 3% в год, как и в предыдущие десятилетия.
@knowledge_accumulator
В последние месяцы многие из нас заметили, как кодинговые модели, в частности, Opus, неплохо скакнули в качестве. Ещё не так давно я писал о том, что без особого надзора модельки не понимают, что творят. Но то были машины потупее, а вот у нового Opus же уровень common sense сильно лучше. Хотелось бы, конечно, знать, засчёт чего был достигнут последний результат. Но это вряд ли.
Бросается в глаза способность модели заниматься главной программисткой деятельностью - дебажить говнокод. Может быть, для Opus соорудили RL-симулятор с большим набором систем, сломанных самыми разными способами, и у модели есть цель их починить, и такая задача заставила её выучить зачатки разума.
На данный момент я уже довольно мало пишу руками. Скорость разработки действительно очень выросла, чувствую, что наконец стал 10х инженером. Часто даже в сложных ML-вопросах получаю хороший ответ и имплементацию.
Приведёт ли всё это к какому-то коллапсу в скором времени? К уничтожению рабочих мест?
Свидетели массовой безработицы любят забывать про несколько факторов:
- С падением стоимости разработки, спрос на неё вырастет и софта станет больше. Если вы мне не верите, то время для коротенькой истории:
Когда я заселялся в свой жилой комплекс в Долине, как вы думаете, сколько приложений мне нужно было установить на телефон? 1? 2? Как насчёт ЧЕТЫРЁХ? Одно отвечает за двери в подъезды, одно за посылки, одно за все остальные двери, и ещё одно для оплаты, сервисов и т.д.
- Боттлнеком является не только разработка. Теперь это будет заблокированная инфра и другие внешние обстоятельства. Теперь, вместо инженеров, все мы будем скорее решателями вопросиков, менеджерами, если хотите, для своего кодингового агента.
- Самое главное и самое смешное - большинству компаний по-ху-ю на эффективность. Да, в x.ai может и надо за неделю шипать большие куски рекомендательной системы, и теперь это может делать не 7 человек, а двое. Но это не является массовой потребностью.
В x.ai несколько сотен инженеров. Знаете, сколько инженеров делают приложение доставки еды DoorDash? Где-то 2.5 тысячи. Столько же делают Spotify. До 2022 в Твиттере работало 300 только ML-щиков! И ни один не додумался начать применять трансформеры.
Сам я в тру бигтехе не работал - бог уберёг - но думаю все мы слышали достаточное количество историй о том, как 100к инженеров только и занимаются тем, что договариваются друг с другом на встречах и пишут документацию.
Мой бывший коллега, работающий в Амазоне, рассказывал, что вместо того, чтобы зашипать новую модель, его заставляют писать огромный отчёт о том, почему прошлая команда не зашипала её к прошлому дедлайну. Из-за этого он не успеет зашипать её к уже к текущему дедлайну. Даже Сизиф бы охуел от этой истории.
На самом деле, массовая безработица и базовый доход уже наступили. Стоимость жизни упала настолько низко, что вместо реальной работы в большинстве мест люди занимаются чем угодно, кроме неё. Бигтех-компании это не команды инженеров, а закрытые клубы раздачи денег, и чтобы в них попасть, нужно умело пройти странный обряд инициации в виде 8 собеседований, не имеющих отношения к реальной работе, и лишь проверяющих способность врать и притворяться.
И это я говорю только про IT и про недавно (пару десятков лет назад) появившиеся компании. Представляете, какая дремучая отсталость царит в остальных сферах? В зарегулированных экономиках, где куча больших компаний, зарабатывающих сверхприбыли, где-то там внутри спрятаны сотни миллионов людей, которые получают зарплату и просто пересылают емэйлы туда-сюда и выполняющие какие-то элементарные действия вручную. Какой им AI adoption? Там бы начать с computer adoption.
Так, что-то я отвлёкся. Так пузырь всё-таки или сингулярность? Скорее всего, как и всегда, ничего не произойдёт, и окажется, что текущий скачок в продуктивности был всего лишь обязательным требованием к тому, чтобы расти на те же самые 3% в год, как и в предыдущие десятилетия.
@knowledge_accumulator