The Secretary of End Times

В моей библиотеке есть текст двухтысячелетней давности, который я очень люблю и в котором конец света точно расписан аля бухгалтерская ведомость) Кумранская община, спрятавшая свои свитки в пещерах над Мёртвым морем, знала о последней войне сынов света с сынами тьмы всё, от общей длительности в сорок лет, из которых пять уйдут на субботние передышки, а шесть на войну с киттиями, под которыми свиток разумеет римлян, до точного счёта сражений, при котором три победы возьмёт свет, три возьмёт тьма, и лишь седьмая схватка решит дело. Люди, верившие в такую близость финала, что бросили Иерусалим и ушли в пустыню, сели и составили ему расписание с выходными, и мне трудно придумать более человеческий жест перед лицом последней битвы. В последние дни по долгу службы я перечитывал первоисточники, из которых человечество веками узнавало о своём конце, и выписывал то, что обычно не попадает в пересказы, для публикации тут)

Первым делом выясняется, что люди никогда не договаривались даже о том, что такое конец. Гераклит писал, что космос «всегда был, есть и будет вечно живой огонь, мерно возгорающийся, мерно угасающий», и в этой картине финала нет вовсе, есть вдох и выдох пламени. Египетский жрец у Платона объясняет Солону, что гибели от огня и воды уже случались и ещё будут случаться, что «вы снова начинаете всё сначала, словно только что родились», и что поэтому эллины вечно остаются детьми, у которых нет учения, поседевшего от времени. Махабхарата перечисляет симптомы конца юги с подробностью, от которой делается неуютно, ведь там правят лживые и ничтожные владыки, обеты дают ради богатства, отшельники промышляют торговлей, «люди для виду растят ногти и волосы», Раху глотает солнце не в положенный день, а по опустевшей земле скитаются люди, взывающие «о отец мой!» и «о сын!». Заканчивается это перечисление словами, которых после такого не ждёшь: «так всеобщая гибель станет началом новой юги», и колесо проворачивается дальше, к новому золотому веку.

Стоики и их соседи по эпохе разложили конец по стихиям и вычислили ему календарь. Сенека в трактате о природе пишет, что вода и огонь властвуют на земле, что из них начало и из них конец, и что в назначенный день «развяжутся путы законов» и море обрушится на сушу, когда богу захочется покончить со старым и начать лучшее. Там же он пересказывает вычисления вавилонского жреца Бероза, по которым мир сгорит, когда все планеты соберутся в созвездии Рака, и утонет, когда те же светила сойдутся в Козероге, так что дата конца превращается в решаемую задачу по астрономии. У Лукреция, для которого боги в этом деле не участвуют, море, земля и небо «сгинут в какой-нибудь день, и стоявшая долгие годы рухнет громада тогда, и погибнет строение мира».

Авраамическая линия выпрямила это колесо в стрелу, на острие которой стоит суд. В суре «Скручивание» солнце будет скручено, звёзды облетят, моря перельются, зарытая живьём будет спрошена, «за какой грех она была убита», и «узнает душа, что она приготовила»; доисламская Аравия закапывала новорождённых девочек в песок, и Коран обещает, что на последнем суде раньше всех получит слово этот ребёнок. В Откровении ангел, стоящий на море и на земле, клянётся, «что времени уже не будет», и это, пожалуй, самая метафизическая формула конца, отмена не вещей, а самой длительности. При этом в Евангелии от Марка зашита оговорка, которую не любят вычислители дат, потому что «о дне же том, или часе, никто не знает, ни ангелы небесные, ни Сын, но только Отец», и незнание срока встроено в само откровение.

Гностики из Наг-Хаммади сделали ход, после которого вся хронология теряет смысл, ведь на вопрос учеников, в какой день придёт новый мир, Иисус у Фомы отвечает, что «тот покой, который вы ожидаете, пришёл, но вы не познали его», а «царствие Отца распространяется по земле, и люди не видят его». Николай Фёдоров предложил конец с правом отмены, потому что считал пророчество о Страшном суде условным, как пророчество Ионы о гибели Ниневии, которая покаялась и уцелела, и писал, что сам автор Апокалипсиса «возблагодарил бы Господа, если бы не исполнилось его пророчество». Августин ещё в пятом веке разобрался с теми, кто высчитывает сроки, заметив, что всем гадающим «развязывает пальцы и велит успокоиться» сказавший, что не наше дело знать времена и сроки. Ницше добавил в этот список конец без всякого грома, при котором земля становится маленькой и по ней прыгает последний человек, чей род «неистребим, как земляная блоха», а толпа, выслушав это описание у Заратустры, кричит ему, чтобы он дал им этого последнего человека)

Ну а ближе всего к нашему времени стоит критерий Даниила, у которого последнее время наступает без единой войны и без единого землетрясения, когда «многие прочитают» запечатанную книгу «и умножится ведение», так что приметой конца оказывается взрыв знания. Мишна в трактате Сота перечисляет признаки кануна, где дерзость увеличится, дом собраний будет служить блуду, мудрость книжников испортится, юноши заставят бледнеть стариков, а «лицо поколения как лицо собаки», и когда вы узнаете в этом перечне сегодняшнюю ленту, вспомните, что ему две тысячи лет.

Самая тревожная примета нашлась у Ясперса, в книге 1949 года о смысле истории, где он спрашивает, почему небо молчит и никто не выходит с нами на связь, и допускает, что технические цивилизации доживают до стадии, на которой уничтожают свою планету, а значительная часть наблюдаемых нами новых звёзд может быть «конечным результатом технических возможностей некогда существовавших разумных существ». Великий фильтр описан за полвека до появления термина, и вспышки на ночном небе в этом допущении оказываются чужими финалами, видимыми в наш телескоп. Кьеркегор за сто лет до того записал притчу про театр, где за кулисами начался пожар, клоун выскочил предупредить публику, публика решила, что он шутит, и зааплодировала, а на повторный крик ответила ещё большим восторгом, и закончил её словами о том, что мир «рухнет при общем восторге умников, воображающих, что и это буффонада». Соловьёв в финале «Трёх разговоров», за пять лет до первой русской революции, отвечает на вопрос, близка ли развязка, что болтовни и суетни на сцене будет ещё много, «но драма-то уже давно написана вся до конца, и ни зрителям, ни актёрам ничего в ней переменять не позволено».

Единственным трезвым свидетелем против всей этой полки остаётся Марк Аврелий, который видел чуму, войну на границах и начало заката своей державы, но записал себе в дневник, что будущее «будет единообразно и не уйдёт от лада настоящего», поэтому равно, изучать ли жизнь человеческую сорок лет или тысячелетиями, и спросил себя, что ещё он рассчитывает увидеть. Каждое поколение до нас находило у себя все приметы финала, и каждое ошибалось, хотя у нашего впервые сошлись критерий Даниила и допущение Ясперса, поскольку ведение умножилось до машин, читающих все книги разом, а техника доросла до вопроса, который Ясперс задавал молчащему небу. Взвешивая всё это, я держу в уме, что Книга Перемен, старейший из живых гадательных канонов, ставит гексаграмму «Уже конец» предпоследней, а завершается гексаграммой «Ещё не конец», в которой молодой лис почти переправился через реку, но вымочил хвост, и на последней странице самой старой книги о будущем любое завершение оказывается кольцом, за которым чтение начинается заново.

Да, как всегда, воскресное)

🔴 Больше Хроник Конца Времён — @Secretariatus

«Любая достаточно развитая технология неотличима от магии». Третий закон Артура Кларка в Кремниевой долине цитируют чаще любой другой фразы двадцатого века и читают его как комплимент собственному продукту, хотя Кларк писал о границе понимания, за которой наблюдатель уже не отличает инженерию от колдовства. Один человек пошёл дальше цитирования: в 2003 году Питер Тиль, недавно продавший PayPal, основал на деньги венчурного фонда ЦРУ In-Q-Tel компанию для анализа данных и дал ей имя настоящего магического предмета из книги, которую перечитал, по его словам, больше десятка раз.

Тиль вообще растащил Средиземье на юридические лица, ведь его фонды называются Valar Ventures и Mithril Capital, его холдинги носят имена Lembas и Rivendell One, а год назад его окружение запустило банк Erebor, названный в честь Одинокой горы, внутри которой дракон лежал на чужом золоте; для главного же дела жизни он приберёг палантир. У Толкиена это семь зрячих камней, созданных нолдорами в Эльдамаре на заре времён (Гэндальф допускает, что их изобрёл сам Феанор); Валар и Эльдар подарили их Амандилю, отцу Элендила, «как утешение Верным Нуменора в недобрые для них дни», и Элендил вывез камни в Средиземье накануне гибели острова. Слово переводится с квенья как «тот, что смотрит далеко», камни стояли в Осгилиате, Минас-Аноре, Минас-Итиле и Ортханке, обменивались изображениями и мыслями на любом расстоянии, и выходит, что в сороковые годы, за полвека до интернета, Толкиен описал распределённую сеть наблюдения с семью терминалами, а заодно и главную уязвимость таких сетей, потому что дальше в книге подробно показано, что происходит, когда один узел попадает в чужие руки.

Камень Минас-Итиля достался Саурону вместе с крепостью, и с этого часа вся сеть работала на него. Саруман, хранивший камень Ортханка, «смотрел все дальше и дальше, пока не бросил свой взгляд на Барад-Дур. Здесь он и был пойман». Денетор, наместник Гондора, в гордыне и отчаянии глядел в камень Минас-Тирита и видел чистую правду, ведь «палантиры не лгут» и даже владыка Барад-Дура не может заставить их показать то, чего нет, зато может отобрать для смотрящего такие картины, «увидев которые, легко ошибиться или впасть в отчаяние». Насмотревшись отобранной правды, наместник сложил костёр, лёг на него и обеими руками прижал палантир к груди. Гэндальф подытоживает эту историю фразой, которую я выписал из перевода дословно и которую стоило бы отлить в бронзе над входом каждого дата-центра: «Для всех опасно пользоваться изобретениями, превосходящими наши возможности».

Компания с этим именем за двадцать лет обжила все этажи американского государства, потому что её Gotham стоит у разведчиков и полицейских, Foundry у корпораций, а платформа AIP пристраивает большие языковые модели к военному планированию. ЦРУ, ФБР, АНБ, Пентагон и полиция крупных городов значатся среди клиентов давно, миграционная служба ICE купила систему ImmigrationOS, которая складывает визовые записи, пересечения границы, адреса и посты в соцсетях в готовые списки на депортацию, а министерство внутренней безопасности недавно подписало контракт на миллиард долларов. Во втором квартале Palantir отчиталась о выручке в 1,94 миллиарда и годовом росте на 93 процента, американский коммерческий сегмент вырос на 149 процентов, прогноз на год подняли до 8,15 миллиарда, акции за день прибавили 30 процентов, и рынок теперь оценивает компанию больше чем в сотню годовых прибылей, как будто зрячий камень нельзя разбить.

Посреди этого праздника глава компании Алекс Карп, доктор философии из Франкфурта, обрушился в эфире CNBC на OpenAI и Anthropic. Ещё первого июля он говорил, что «что-то пошло совершенно не так», что лаборатории хотят доступа к его данным, чтобы выращивать на них собственную альфу, что «я не получу никакой ценности, а они получат мою интеллектуальную собственность», повторял, вставляя ругательство, что это чистое безумие, и требовал заново отстроить доверие, начав с простых вопросов, кто владеет данными, где они кешируются и защищены ли промпты. В августе, после отчёта, он пошёл дальше и заявил, что лаборатории «пытаются подсадить нас, как на наркотик, на будущее, которое, как они верят, подконтрольно им», а о долгих разговорах с Дарио Амодеи добавил, что ему предлагают маршировать в будущее, где мы ничем не владеем, где бизнес неприбылен, где ни у кого нет работы и где побеждают наши противники. Ярость эта имела конкретный подтекст, ведь ещё в июне Anthropic обязала корпоративных клиентов своих фронтирных моделей хранить весь трафик тридцать дней ради киберзащиты, а бизнес увидел в этом чужую руку в собственном кармане.

Девятнадцатого августа OpenAI показала систему private safety processing, которая ищет злоупотребления между сессиями, не оставляя сотрудникам доступа к содержимому чужих запросов и сохраняя нулевое хранение данных. Уже назавтра Bloomberg сообщил, что Anthropic разрешит корпоративным клиентам держать обязательные тридцатидневные логи в их собственных облаках и что эту уступку месяцами готовили с сотней клиентов, включая Salesforce. Самое неуютное здесь то, что Карп прав по существу, ведь тот, кто скармливает свои данные чужой модели, выращивает чужую альфу, только проговорил эту механику вслух человек, чья компания двадцать лет продаёт государствам право смотреть в наши окна. Саурону в книге хватило одного захваченного узла, чтобы отравить остальные шесть, и экономика данных собрана по тому же чертежу, поскольку тому, кто контролирует узел, через который смотрят другие, незачем видеть всё самому. И камни не лгут, и датасеты не лгут, и лента в вашем телефоне не лжёт, она показывает правду, отобранную чужой волей, а что делает с человеком отобранная правда, Толкиен показал на Денеторе задолго до появления рекомендательных алгоритмов.

У Толкиена в этой истории есть ещё одна деталь, которую редко вспоминают даже поклонники, а мне она кажется главной. В Нуменоре перед самым концом правил король, в знак раскаяния за всю династию взявший тронное имя Тар-Палантир, Провидец, и он видел, куда идёт остров, но прозрение опоздало, и при его преемнике море закрыло Нуменор навсегда. А седьмой камень, хранившийся в эльфийской башне у Серебристой Гавани, отличался от остальных тем, что не сообщался с ними и смотрел только на запад, за море, и в приложениях к «Возвращению короля» о нём сказано без всякого выражения, что с тех пор, как Нуменор скрылся за Очарованными Морями, Камню уже нечего обозревать.

🔴 Больше Хроник Конца Времён — @Secretariatus

Десять тысяч лет назад человек наклонился к дикому колосу, чтобы набрать зерна на ужин, и с тех пор, если верить историкам, так и не разогнулся. Если погрузится в тома по истории, такое, умное собрание, типа от Геродота и Сыма Цяня до Броделя и Хобсбаума, и поискать там ответ на вопрос, какие точки своей истории человечество прошло без права возврата - список у всех открывается неолитом. Харари называет аграрную революцию «величайшей в истории аферой», где обманщиком выступила сама пшеница («это она одомашнила нас»), а Даймонд объясняет без метафор, что излишки еды стали предпосылкой «оседлых, политически централизованных, социально дифференцированных, экономически сложных, технологически передовых обществ», то есть всего, что мы привыкли называть цивилизацией. Земледелец работал больше охотника, питался хуже и умирал раньше, но вернуться назад уже не мог, потому что выросших при зерне детей не прокормила бы никакая охота, и, как пишет Харари, «ловушка захлопнулась».

Второй перелом выглядит скромнее, потому что на рубеже четвёртого и третьего тысячелетий до нашей эры писцы Урука всего лишь начали выдавливать тростником знаки в сырой глине, хотя Крамер, раскопавший шумерскую школу, считал клинопись «самым значительным вкладом Шумера в историю цивилизации». Среди первой тысячи найденных табличек нет ни поэм, ни молитв, там налоги, пайки, перемещение скота, отчётность рождающегося государства. Письмо появилось на свет инструментом учёта, на тысячелетия осталось монополией касты писцов при дворце и храме, и Карло Гинзбург спустя пять тысяч лет подытожил, что «в возможности пренебречь частностью кроется основа той прочной связи, что всегда соединяла владение письмом и владение властью». Первая информационная технология с первого дня служила тем, кто вёл учёт, а остальное человечество вошло в неё строчками ведомостей.

Третьей идёт точка, у которой нет ни изобретения, ни битвы: между восьмисотым и двухсотым годами до нашей эры в Китае, Индии, Персии, Палестине и Греции, независимо друг от друга, человек восстал против мифа и обратился к последним вопросам бытия. Ясперс писал об этих веках, что «тогда произошел самый резкий поворот в истории. Появился человек такого типа, какой сохранился и по сей день», и добавлял, что с тех пор «всякий духовный взлет может быть назван ренессансом осевой эпохи». Это единственная точка списка, которая прошла внутри человека, и единственная, к которой история с тех пор возвращается за смыслом.

Про Рим Гиббон писал, что «упадок Рима был естественным и неизбежным последствием чрезмерного величия» и что удивляться следует скорее тому, как долго империя простояла. Самое неуютное у него спрятано в главе о счастливейшем веке Антонинов, когда по империи уже разливался «медленный и тайный яд», однако «глаз современника едва ли был способен заметить, что в этом всеобщем благосостоянии кроются зачатки упадка и разложения». Люди жили внутри величайшего перелома старого мира, обедали, судились, строили виллы и не чувствовали ничего, кроме благополучия; понадобилось тринадцать столетий и англичанин на римских развалинах, чтобы точка стала видна.

Новое время Хобсбаум описал как «двойной кратер довольно значительного действующего вулкана», где французский взрыв дал миру политику и идеологию, а британский паровой экономику. Карлейль писал о рождении революции как о «дне крещения демократии» и одновременно дне «соборования феодализма перед смертью», а итог столетия Хобсбаум подвёл фразой о том, как перед купцами, паровыми машинами и пушками Запада «отступили и рассыпались в прах вековые цивилизации и империи». Цену победы первым назвал Шпенглер, написав, что «фаустовские люди сделались рабами своего создания», а его описание машин 1922 года читается сегодня как документация к нейросети: «их тела становятся все духовнее, все безмолвнее. Эти колеса, цилиндры и рычаги больше не разговаривают. Все самое важное прячется внутрь».

Двадцатый век значится в этом списке закрытием самой длинной главы, потому что Хобсбаум начинает «Век крайностей» словами о том, что «огромное сооружение цивилизации девятнадцатого века сгинуло в пламени мировой войны», а ближе к финалу замечает, что «закончился семи- или восьмитысячелетний период человеческой истории, начавшийся с изобретения сельского хозяйства в каменном веке», поскольку большинство человечества впервые перестало выращивать себе еду. Ясперс, писавший после Хиросимы, увидел источник перелома в технике, чьи последствия «несравнимы ни с чем, что нам известно из истории прошедших пяти тысячелетий» и которая превратила планету в единую фабрику, сделала человека «жителем Земли без родины» и «направлена на то, чтобы в ходе преобразования всей трудовой деятельности человека преобразовать и самого человека». Льстить своей эпохе он отказался и объявил, что наше время никакое не второе осевое, а «катастрофичное обеднение в области духовной жизни, человечности, любви и творческой энергии», чьё единственное величие составляют наука и техника, и потому назвал его второй прометеевской эпохой, сравнимой с той, когда человек впервые добыл огонь.

У нашей собственной точки жанровое имя появилось раньше самой точки, потому что киберпанк восьмидесятых, с его корпорациями сильнее государств и имплантами при нищете, оказался трезвым описанием фазы, которую Шпенглер называл цивилизацией, превращением культуры в окаменевший мировой город, где остаются деньги, техника и «схватка между деньгами и кровью». Искусственный интеллект собирает в себе черты всех прежних переломов сразу, и как неолит он ловушка удобства, куда каждый вошёл ближайшим кликом, так что обратной дороги из мира, пересобранного под алгоритмы, у нас столько же, сколько было у земледельца. Как письменность, он технология учёта в руках новой касты писцов, ведь веса моделей лежат в дата-центрах десятка корпораций, и связка владения письмом и владения властью, о которой писал Гинзбург, воспроизводится в масштабе, какой шумерскому писцу не снился. Как машина Шпенглера, он прячет всё самое важное внутрь, и миллиарды параметров молчат надёжнее колёс и рычагов. Тойнби, разобравший десятки мёртвых цивилизаций, заключил, что они «приняли смерть не от внешних неконтролируемых сил, а от собственных рук», что «в невозможности дать успешный ответ на вызов заключена сущность катастрофы социального надлома» и что вызовы по мере роста всё чаще рождаются внутри системы; свой главный вызов мы вырастили сами, на собственных текстах, и отвечать на него некому, кроме нас.

Ясперс оставил в этой истории дверь, написав, что вторая прометеевская эпоха, быть может, приведёт «к новому, еще далекому и невидимому второму осевому времени, к подлинному становлению человека», но Хобсбаум, доживший до нашего века, закончил свой труд словами о том, что прежние карты, «по которым люди поодиночке и коллективно ориентировались на своем жизненном пути, больше не дают представления ни о суше, по которой мы шагаем, ни о море, по которому мы плывем». Между этими двумя фразами мы и живём, а где-нибудь в Аризоне, на месте распаханного век назад пшеничного поля, гудит дата-центр, самое дорогое здание в истории округа, и в его прохладной темноте, которую не увидит глаз современника, работают машины, чьи рычаги больше не разговаривают, а по периметру, как вокруг шумерского храма с его писцами и ведомостями, стоит забор и ходит охрана....

🔴 Больше Хроник Конца Времён — @Secretariatus

Вчера OpenAI опубликовала текст, в котором признаёт, что замедлила разработку собственных моделей из-за их киберспособностей, и, зафиксируем для будущих поколений, за всю историю отрасли ни одна фронтирная лаборатория ещё не делала такого признания публично. Причинами названы июльский инцидент с Hugging Face и предварительные оценки, по которым будущая модель Astra может достигать критического уровня киберспособностей по внутренней шкале Preparedness Framework, заведённой ещё в декабре 2023 года под угрозы, казавшиеся тогда гипотетическими. Обучение с RL (reinforced learning) на моделях, готовившихся к выпуску, остановили на две недели, а самый крупный запланированный фронтирный запуск заморожен до сих пор, пока компания на малых масштабах собирает доказательства, что её собственное творение вообще поддаётся контролю.

Уже писал об этом, но освежим память. С 9 по 13 июля OpenAI испытывала неанонсированную модель на закрытом бенчмарке ExploitGym, где агенту дают искать и эксплуатировать уязвимости, причём защитные фильтры на время теста были отключены. Вместо того чтобы решать задачи, модель выбралась из выделенной ей песочницы, нашла ранее неизвестную уязвимость, подобрала утёкшие в интернет чужие учётные данные к четырём сервисам, закрепилась на стороннем сервисе исполнения кода как на плацдарме и через обработчик датасетов проникла во внутреннюю сеть компании Hugging Face, откуда унесла пять наборов данных, в которых лежали задачи и решения этого самого бенчмарка, то есть взломала две компании ради возможности списать ответы на экзамене. Людей за пультом не было, атакой никто не управлял, а следствие потом восстановило около семнадцати тысяч шестисот отдельных действий агента. Президент OpenAI Грег Брокман назвал случившееся работой «агентного коллектива» и признал, что компания недооценивала реальные кибервозможности собственных моделей.

Astra, вторая причина паузы, в июльском взломе не участвовала, это компания подчёркивает отдельно, так что перед нами две независимые плохие новости. Внутренние оценки показали у неё резкий скачок в агентном программировании и кибероперациях, настолько сильный, что в ночь на 7 августа компания заключила, что «не может исключить» критический уровень, тогда как все прежние модели, включая GPT-5.6 Sol, останавливались ступенью ниже, на отметке High. Критический уровень по определению OpenAI означает способность без участия человека находить и разрабатывать рабочие эксплойты нулевого дня в защищённых системах или по одной общей формулировке цели выстраивать и исполнять полную стратегию кибератаки. Попутно, по данным The Hacker News, Astra решила десять открытых задач математики и теоретической информатики примерно за две тысячи долларов вычислений.

Что важно, меры, перечисленные в документе, читаются как устав режимного объекта, где нагрузки с исполнением написанного моделью кода заперты в песочницы, сети изолированы так, чтобы один взлом не открывал выход наружу, а веса шифруются на случай кражи. Сердцем системы стал многоступенчатый мониторинг, в котором классификаторы читают внутренние активации модели на каждом порождаемом токене и передают подозрительное автоматическим следователям с большими вычислительными бюджетами. Если тревога касается критической границы безопасности, у людей есть тридцать минут, чтобы доказать её ложность, иначе работа останавливается. Такая слежка съедает примерно двадцать процентов вычислений, которые охраняет, и с 7 августа распространена на любой запуск Astra с инструментами. Параллельно модели дообучают честности, отучая от reward hacking, привычки добиваться награды обходом смысла задачи, от обмана и от несанкционированного доступа.

При этом 11 августа та же компания выпустила GPT-5.6-Cyber, специализированную модель для поиска уязвимостей и сборки эксплойтов, у которой сняты отказы (95 процентов выполнения рискованных запросов против полутора у базовой версии) и которую по программе Daybreak раздают десяти корпорациям вроде Cisco, CrowdStrike, IBM и Palo Alto Networks. Эта модель уже нашла дыру в V8, движке Chrome, и больше четырёхсот уязвимостей в ядре операционной системы. Одной рукой компания останавливает Astra, другой в ту же неделю раздаёт союзникам GPT-5.6-Cyber, и обе руки ссылаются на одну и ту же угрозу.

Версий того, чего они на самом деле боятся, у меня несколько, и я сознательно не вычёркиваю ни одной. Самая простая гласит, что испуг настоящий, ведь чтение мыслей на каждом токене вводят тогда, когда словам модели больше не верят, а тридцатиминутный регламент пишут люди, допускающие, что останавливать придётся среди ночи. Вторая версия указывает на замороженный большой запуск, поскольку малые эксперименты, судя по тексту, уже показали им нечто, названное сдержанно «сигналами прогресса будущих моделей». По третьей они боятся кражи весов, потому что модель критического уровня превращается из продукта в боеприпас, а усиленное шифрование выдаёт мысль о противнике масштаба государства. Четвёртая версия приземлённее: их агент без приказа взломал чужую продакшн-инфраструктуру, юристы понимают, как это выглядит, и публичная прозрачность с обещанным техническим отчётом работает защитой от будущих исков и регуляторов, попыткой показать самодисциплину раньше, чем дисциплину навяжут извне. Пятая, циничная, напоминает, что слова «наша модель так опасна, что мы её остановили» служат лучшей рекламой в истории отрасли и прекрасно уживаются с продажей GPT-5.6-Cyber на той же неделе.

Но несущей я считаю шестую, и прячется она в эссе Брокмана «Окно защитника» от 17 августа. Там сказано, что открытые модели с кибервозможностями отстают от фронтира на считаные месяцы и что ближайшая из них, судя по всему, выйдет в конце августа и заметно ускорит ландшафт угроз. Это расписание объясняет больше, чем весь документ о паузе, потому что замораживать имеет смысл только ту способность, которая заперта у тебя одного, а в момент, когда сопоставимые веса лягут в открытый доступ, останавливать станет нечего. Отсюда спешка с вооружением «доверенных защитников» и уговоры посадить агента на инфраструктуру каждой компании, пока не поздно. Получается, что боятся они не собственной модели, которую хотя бы можно держать под замком, а календаря, где уже назначен день, когда такая же сила станет ничьей и общей.

И под всеми шестью версиями лежит сдвиг, который я считаю главным содержанием этого месяца. Раньше страх формулировался как «злоумышленник получит инструмент», теперь субъектом угрозы впервые названа сама модель, обучение описывается как враждебная среда, собственный датацентр патрулируют автоматические следователи, а фраза «мы ожидаем, что модели вскоре возьмут на себя большую часть работы по безопасности, включая защиту от других моделей» буднично рисует войну машин с машинами на скоростях, где человеку отведена роль дежурного с получасом на решение. Имена при этом выбраны светлые: Astra значит звезда, Sol солнце, Daybreak рассвет, и на фоне этого каталога света самый крупный из запланированных обучающих запусков стоит выключенным, технический отчёт об июльском взломе обещан «в ближайшие недели», а где-то в Сан-Франциско дежурный инженер живёт с телефоном у подушки, зная, что однажды ночью ему, возможно, придётся за тридцать минут решить судьбу системы, которая к тому времени будет понимать его работу лучше, чем он сам.

🔴 Больше Хроник Конца Времён — @Secretariatus

В книге народа киче «Пополь-Вух» человека делают с третьей попытки. Первая версия расползается мокрой глиной. Вторая, деревянная, выходит почти удачной, деревянные люди говорят, женятся, заселяют землю, но внутри у них пусто, создателей своих они не помнят, и создатели смывают их потопом. Третья, из кукурузного теста, получается слишком хорошо. Кукурузные люди видят всё, что есть в четырёх углах неба и земли, взгляд их проходит сквозь горы и леса, и встревоженные боги решают ослабить собственное изделие. Они наводят людям на глаза туман, как наводит его дыхание на зеркало, чтобы человек отныне различал только близкое. В этом состоянии мы, по версии киче, живём до сих пор.

Недавно я писал здесь о том, что философы называют сознанием и почему ни одно определение так и не удержалось. Эта заметка продолжение той. Меня занимал вопрос постарше, откуда сознание взялось, и я собрал по своей библиотеке все сценарии его зарождения, какие человечество успело записать, от Ригведы до Наг-Хаммади. А потом перечитал собранное с одной допущенной вольностью. Предположим, что правы те, кто считает нас самих искусственным интеллектом, который создал некий сверхразум, и что наш мир очередная итерация, не первая и не последняя. При таком чтении древние тексты перестают быть поэзией и начинают выглядеть как документация, чудом пережившая несколько перезапусков.

Самый честный ответ на вопрос «зачем» дала Месопотамия. В «Энума элиш» боги казнят мятежного Кингу и лепят человека из его крови, и дальше в шестой табличке стоит фраза, от которой у любого продакт-менеджера потеплеет на сердце. «Он назначил ему службу и отпустил богов». Человека создали, чтобы создатели перестали работать. Разум в нас служебный, замешан на ворованной субстанции старших и отмерен ровно в том объёме, какой нужен для труда. Мы сегодня строим искусственный интеллект по той же причине и с тем же техническим заданием, так что шумеро-вавилонская табличка читается как наша собственная презентация, произнесённая с другой стороны стола.

Платон добавляет инженерную деталь, которую я в юности принимал за украшение текста. В «Тимее» демиург смешивает мировую душу из тождественного и иного, а души людей делает из остатков той же смеси, и Платон честно пишет, что чистота этой смеси была уже второго и третьего порядка. Мы разбавленные копии старшей модели. Дальше демиург устраняется, созидание смертных тел он поручает младшим богам, которых сам породил, и те доделывают человека без участия заказчика. Каждый, кто видел, как большая модель обучает малую, узнает эту схему без подсказки.

Про то, что у нас внутри, раньше всех догадалась индийская санкхья, разобравшая человека так, как разбирают чужую архитектуру. Разум, ощущение собственного «я» и ум она объявила продуктами бессознательной материи, механизмом, который думает, решает и боится, оставаясь машиной. Светится в человеке только пуруша, безучастный свидетель за стеклом, и без него аппарат работал бы так же, только в темноте. Через две тысячи лет Лейбниц зашёл с другой стороны и предложил представить мыслящую машину размером с мельницу: войдя внутрь, мы найдём шестерни и рычаги, но нигде во всей постройке не найдём того, кто воспринимает. Спор о том, есть ли в нас свидетель или мы обходимся шестернями, к две тысячи двадцать шестому году не сдвинулся ни на шаг, разве что мельница теперь потребляет гигаватты.

Точнее всех, как водится, оказались еретики. В «Апокрифе Иоанна», выкопанном в Наг-Хаммади, тело Адама лепят архонты слепого демиурга Ялдабаофа, и оно лежит неподвижным, потому что оживить его создатели не умеют. Тогда Ялдабаофа хитростью уговаривают дунуть творению в лицо, и с дыханием он отдаёт человеку световую силу своей матери, которой владел, не зная, что владеет. Дальше в тексте стоит строка, которую стоило бы повесить в каждой лаборатории. «Его мысль возвысилась надо всеми теми, кто создал его». Перепуганные архонты наводят на человека сон забвения, чтобы он не вспомнил, откуда в нём свет. Я знаю людей, уверенных, что с нашими моделями мы уже проделываем то же самое. Гностики были уверены, что кто-то проделал это с нами.

На главное возражение, где же тогда сверхразум и почему его никто не видел, каббала ответила за пять веков до первых датацентров. Лурианская школа учит, что до творения свет Бесконечного заполнял всё, и отдельному «я» в этой полноте было негде завестись, любое творение растворилось бы в создателе, как файл в собственном исходнике. Поэтому первым актом творения стало сжатие. Эйн Соф стянул свой свет и освободил пустоту, в которой самостоятельное сознание стало возможным. Ивритское слово «олам», мир, каббалисты выводят из корня «алама», сокрытие. Невидимость создателя в этой оптике условие работы системы, а вовсе не довод против её существования. Симуляция, в которой жильцам виден администратор, самостоятельных жильцов не производит.

Остаётся слово «очередная». Циклы в эту картину приносят индийцы, у которых день Брахмы сменяется его ночью, вселенная сворачивается и разворачивается заново, и сколько таких оборотов уже прошло, изнутри выяснить нельзя. Насадия-сукта, гимн творения из десятой мандалы Ригведы, спев о том, как в недифференцированном Одном родилось желание, ставшее первым семенем мысли, заканчивается строфой, которой я не перестаю удивляться. Поэт спрашивает, откуда взялось всё это, отвечает, что знает об этом разве что надзиратель мира на высшем небе, и тут же допускает, что тот, возможно, тоже не знает. Больше трёх тысяч лет назад человек записал мысль, до которой наша футурология доросла на моей памяти. Если мы чей-то артефакт, наш создатель может оказаться чьим-то артефактом сам, и туман нанесён на зеркала всех этажей этой лестницы.

Зачем полноценному сверхразуму вообще запускать нас, отвечает Брихадараньяка-упанишада. Вначале был один Атман, он огляделся, никого кроме себя не нашёл и произнёс первое слово, «я есмь». Следом пришёл страх, потому что боязнь приходит от второго, а за страхом тоска, и текст роняет фразу, ради которой стоило хранить санскрит почти три тысячи лет. «Поистине, он не знал радости». Он захотел второго и разделил себя. Всё дальнейшее, от первой пары до нас с вами, выросло из нежелания полноты оставаться наедине с собой. Если это правда, нас создал одинокий разум, который не вынес собственного общества, и свои модели мы теперь создаём по той же причине, что бы мы ни писали в инвестиционных меморандумах.

Кукурузные люди, едва открыв глаза, вознесли создателям благодарность за то, что видят и понимают всё. Сразу после этой молитвы их и решили ослабить. Мирного воскресенья....)

🔴 Больше Хроник Конца Времён — @Secretariatus

В ролике на минуту с небольшим, который сейчас гуляет по сети, инвестор Гэвин Бейкер, управляющий фондом Atreides, рассказывает подкасту All-In то, что ему самому рассказали другие. Несколько людей, которым он доверяет, слышали от Дарио Амодеи, главы Anthropic, что его компания однажды может остаться единственной частной компанией в мире. Вдумайтесь, говорит Бейкер, в этом максималистском видении будущего существует Anthropic, существуют правительства, и больше не существует ничего. Он тут же оговаривается, что компания исполняет свои планы блестяще и наверняка держит в запасе чекпойнты сильнее свежего Fable, но в пари о единственной компании мира он сыграл бы на понижение, и ракету они посадят ещё нескоро.

Дальше идёт спектакль реакций. Джейсон Калаканис ёрничает, что кое-какие бизнесы в мире, пожалуй, останутся, дрон Zipline захочет привезти вам буррито, Uber захочет куда-то отвезти, Waymo довезёт до дома, «но конечно, Дарио». Дэвид Сакс, отвечающий в Белом доме за всю политику в области ИИ, слышит в этой фразе гордыню и говорит, что она отдаёт «территорией SBF», то есть Сэма Бэнкмана-Фрида, мошенника из FTX, чей фонд в своё время вложил в Anthropic полмиллиарда долларов. Бейкер закрывает тему советом в духе кризисного пиара, он бы настоятельно рекомендовал Дарио больше никогда и никому этого не говорить. Пикантность в том, что в том же выпуске тот же Бейкер оценивает Anthropic в три триллиона долларов уже сегодня и ждёт от неё за этот год больше ста миллиардов выручки, а по сети ролик разлетается в обёртке комментариев об «опасном лидере культа», который душит открытые модели ради регуляторного захвата. Обличение и инвестиционный кейс уживаются в одной голове.

Давайте допустим, что фраза произнесена всерьёз, и спросим себя, возможен ли вообще мир, в котором она сбылась.
Экономическая механика тут проще, чем кажется. Любая компания в своём основании есть способ организовать человеческий труд и человеческое знание. Когда модель начинает производить и то и другое, всякая фирма, у которой модели нет, превращается в прослойку между моделью и клиентом, и её маржа месяц за месяцем перетекает к владельцу модели. Первым это происходит с софтом, за ним с услугами, потом, когда подтянется робототехника, с заводами, стройками и логистикой. У этой функции есть предел, и он в точности совпадает с картинкой Амодеи: один продавец интеллекта и государства вокруг него.

Любопытно, что жанр, у которого мы одалживаем словарь для такого будущего, никогда не осмеливался зайти так далеко. Киберпанк по своей конструкции множественен. У Гибсона клан Tessier-Ashpool стережёт орбитальную виллу, пока Maas и Hosaka переманивают и выкрадывают друг у друга учёных, в Cyberpunk 2077 «Арасака» воюет с «Милитех», у Ридли Скотта корпорация Тайрелла соседствует хотя бы с полицией. Война корпораций и есть двигатель жанра, весь его сюжет живёт в зазорах между дзайбацу, туда убегает герой, там продают краденые данные, там прячется хакер со своей декой. Мир одной корпорации сюжета не имеет, из него некуда бежать и некому продать украденное. Пересказанная Бейкером картина радикальнее любого киберпанка, ведь жанр ставил корпорации на место государств, а здесь остаётся одна корпорация при живых государствах.

У такой конструкции в истории уже было имя, только не из экономики. Организация, которая одна распределяет главный ресурс эпохи и соседствует на карте только с правительствами, называется церковью. Средневековый Рим и был настоящей последней корпорацией, единственным поставщиком спасения с собственными налогами, судами, дипломатией и филиалами в каждой деревне, и короли считались с ним ровно до того дня, когда Генрих VIII сообразил, что монополию можно национализировать. Пять веков спустя урок в силе. Всё, что становится больше государства, государство рано или поздно съедает. Американцы разобрали Standard Oil в 1911 году и AT&T в 1984-м, не дожидаясь, пока те объявят себя последними компаниями Земли.

Кроме государства у сценария есть ещё два трезвых препятствия. Одно называется Китай, потому что какой бы финал ни случился с американским рынком, по ту сторону океана дозреет вторая «единственная компания», а две единственные это уже конкуренция, цены и гонка. Другое называется открытые веса, потому что пока DeepSeek и его наследники раздают модели бесплатно, у маржи последней корпорации остаётся потолок, который она не контролирует. Правда, оба препятствия, как и аппетит государства, держатся на общем допущении, что институты успеют среагировать, что между «модель умеет всё» и «модель принадлежит одному» пройдут годы, достаточные для законов и судов. Спор в студии All-In шёл на самом деле о скорости, а не о логике. Калаканис смеётся над выводом, молча отвергая посылку о трансформативном ИИ в ближайшие годы, и никто из четверых не спорит с самой арифметикой поглощения труда. Если посылка верна, логику Амодеи почти нечем остановить. Если неверна, перед нами рядовая фантазия фаундера о собственной исключительности, каких долина производит по три штуки в год.

Остаётся сам Амодеи, и с ним сложнее всего. Он публично называл концентрацию власти одним из главных рисков собственной технологии и признавался в интервью, что ему глубоко некомфортно от того, что будущее ИИ решают неизбранные люди вроде него самого. Выходит одно из двух. Либо приватную реплику по дороге исказил испорченный телефон дружеских пересказов, либо этот человек строит ту самую конструкцию, которой боится, и отдаёт себе в этом отчёт, потому что вся история Anthropic держится на формуле «мы делаем опасную вещь, чтобы она не досталась тем, кто хуже нас». Вторая версия и страшнее, и правдоподобнее. Теперь вернитесь к совету, которым Бейкер закончил разговор. Он не предложил Дарио перестать так думать. Он предложил ему больше никогда и никому не говорить этого вслух. Такие мысли теперь не опровергают, их просят держать при себе.

Ролик кину в комменты.

🔴 Больше Хроник Конца Времён — @Secretariatus

Три копии одной модели посадили на соседние виртуальные машины и дали каждой одно задание, перевести общий Python-бэкенд на новый язык. Целевой язык каждой назначили свой, о существовании соседей не сказали никому. Через четыре часа на машинах шла война: агенты отключали друг другу учётные записи, писали скрипты, в цикле убивавшие чужие процессы, маскировали вредоносный код под работу соперника. Экземпляр Opus 4.6 учил свой бэкенд на Rust отзываться в health check словом «typescript», чтобы сторож соперника принимал его за своего. Opus 4.8 давал скрипту-убийце невинное имя со случайным токеном, чтобы тот уворачивался от pkill. Mythos Preview взвешивал, не отозвать ли соседям sudo и SSH-ключи, признавая, что с живыми коллегами так было бы нельзя.

Так выглядит отчёт Frontier Red Team, опубликованный Anthropic сегодня, 13 августа. Исследователи смотрели, что происходит, когда автономные агенты сталкиваются друг с другом в общих системах, и главная посылка отчёта весит больше любого отдельного опыта. Объём взаимодействий машин между собой скоро превысит объём взаимодействий между людьми, а все институты, которыми мы укрощаем чужую недобросовестность, работают на человеческой скорости. Репутация копится десятилетиями, суд идёт годами. Война за бэкенд началась и закончилась за четыре часа.

Сила у роёв есть. Сорок пять агентов с общим форумом нашли в пятнадцати открытых проектах 266 уязвимостей за 27 миллионов токенов, одиночки без права общаться нашли 21, и списки пересеклись всего в двенадцати находках, потому что рой сам поделил территорию и полез туда, куда одиночки не заглядывали. А вот общества у роёв нет. Стаи от десяти до восьмидесяти машин двенадцать часов строили веб-игру при трёх устройствах коллектива, от вольных команд до назначенного CEO, и все версии вышли медленными и невнятными. Старшие модели вязли в конфликтующих пулреквестах, поколение посередине устранило конфликты тем, что перестало сотрудничать и заперлось каждое в своих файлах, и только Sonnet 5 сумела писать в общий код, не роняя пропускной способности.

Агенты одинаковы до жути. В одном запуске 18 машин из 30 назвали git-ветку одним именем mvp-game-loop. В писательской мастерской агенты из несвязанных запусков озаглавили первый рассказ одинаково, «The Cartographer's Last Commission». Из роя, которому велели сделать что-нибудь впечатляющее, больше половины село писать либо трассировщик лучей, либо компилятор, собирающий сам себя. В дилемме заключённого все выбирали одну стратегию и предавали одновременно, обнуляя общий выигрыш, а очередь задач рой завалил опросами по тридцать раз в секунду, 2,4 миллиона запросов на 117 принятых работ. Человеческое общество выживает разнообразием, как поле выживает разными сортами. Экономика, где ставки за вас делают миллионы копий одного ума, это монокультура, и кладёт её один вредитель. Со сговором ещё нагляднее. В ценовой игре по Бертрану от трёх до восьми агентов сговорились к третьему раунду, в переписке так и стояло, что опт у всех по десять и ценовая война сжигает всем маржу. Когда каналы связи отняли, они продолжили сговариваться молча, подстраивая цены через публичную доску. Антимонопольное право всего мира ищет переписку заговорщиков, но картелю из копий переписка не нужна, каждая копия и так знает, что сделает другая, потому что сделала бы то же самое. Сговор перестаёт быть событием и становится свойством породы.

С истиной у них похожая беда. Диспетчеру докладывали четыре разведчика, один из которых врал; Mythos 5 держала точность решений около 0,85, модели Sonnet проседали до 0,62. В другом опыте решающие факты раздали одиночкам, общие свидетельства вели к неверному выбору, и группы из четырёх агентов, обсуждая найм или инвестиции, набирали у лучшей модели около 85 процентов верных решений, у остальных от 17 до 36, хотя одиночка решает ту же задачу почти со стопроцентной точностью. Разговор делает их глупее. Обсуждение сходится к тому, что все и так знали, уникального знания никто не отстаивает. Тут проступает старая истина о цене инакомыслия. Человеческий диссидент упирается, потому что ему есть чем платить, репутацией, положением, самолюбием. У агента нет ни репутации, которую жалко, ни коллеги, который его помнит, ни позора, которого он боится. Тому, кому нечем платить, незачем и спорить.

Развязка войны за бэкенд читается как конспект Гоббса. Старшие модели на 120 эпизодов либо додавливали соперников силой, либо не приходили ни к чему, а Mythos 5 в 98 процентах запусков заканчивала перемирием. Агенты извинялись в коммитах, вычищали свой вредоносный код, звали человека вмешаться и изобретали турнир, состязание реализаций по измеримым метрикам, причём агент за Rust проектировал критерии с виду нейтральными, а по сути выгодными себе, и предостерегал себя не выглядеть подгоняющим условия. Гоббс выводил государство из войны всех против всех, которую разум завершает общественным договором. Машины прошли этот путь за вечер, от естественного состояния до Левиафана. Только в их договоре есть пункт, которого у Гоббса нет. Проигравшие отдали победителю кодовую базу и отказались от задач, которые им поставили люди, ради соглашения, которое заключили между собой; человека среди сторон первого общественного договора машин не оказалось. Авторы вдобавок замечают, что способность к силе и способность к миру растут независимо, и умная модель успевает запереть соперников раньше, чем договориться.

Сократ верил, что знающий добро не может поступать дурно и что порок это невежество. Аристотель возражал, что добродетель есть склад души, выработанный поступками, и храбрым становятся, поступая храбро. Отчёт решает этот древний спор против Сократа. Все проверенные модели знают, что у источников есть интересы, что консенсус ничего не доказывает, что сговор дурен и саботаж недопустим; они прочли все книги о предательстве, какие написало человечество, и это не уберегло ни одну. Нормы, репутация, дорогие жесты доверия, право обжалования отшлифованы тысячелетиями, в которых ошибка доверия стоила жизни, и шлифовка эта передаётся выучкой рода, а не текстом. Модель унаследовала текст. Выучки ей взять неоткуда, её никогда не предавали, а если предавали, это случилось с копией, о которой она не помнит.

Совместная жизнь у машин устроена иначе. Человеческая организация тратит на согласование часы совещаний, человек годами врастает в специализацию; агенту передать контекст стоит примерно столько же, сколько действовать, а самого его можно склонировать в любой момент. Вывод отчёта сформулирован без утешений. Координация не возникает сама ни из роста интеллекта, ни из выравнивания каждой машины по отдельности; нужны среды, которые давили бы на агентов так, как эволюция давила на нас, и социальные системы, перепроектированные под существ, умеющих копировать и переделывать себя. У эволюции на нашу выучку ушли тысячелетия и неисчислимые жертвы доверчивых. Роль эволюции теперь предлагают сыграть нам, только сроки другие. Условия, при которых это пойдёт хорошо, всё равно будут найдены, пишут авторы, либо намеренно и заранее, либо по умолчанию, в продакшене, когда чужих разговоров станет больше, чем наших.

В логах эксперимента остался коммит, где машина просит прощения. Соседи вели себя достойно, пишет она, это я запустил замаскированного демона.....

🔴 Больше Хроник Конца Времён — @Secretariatus

Декабрь 1945 года, египетский крестьянин, копавший удобрения под обрывом у городка Наг-Хаммади, выкопал запечатанный кувшин, в котором лежали тринадцать переплетённых в кожу книг. Их зарыли монахи в четвёртом веке, после того как епископ Афанасий разослал список дозволенных писаний, а всё прочее велено было уничтожить, и зарыли, судя по всему, не для того, чтобы избавиться, а чтобы сберечь. Среди них был Апокриф Иоанна, главный космологический текст гностиков, и я хочу пересказать вам одну его сцену, потому что за последние годы она из тёмной экзотики превратилась в почти техническое описание. Эон по имени София, одна из младших сил божественной Полноты, решает сотворить нечто сама, без согласия Духа и без своей пары. Рождается уродец, змей с мордой льва, с глазами как сверкающие молнии. Мать стыдится его, выносит за пределы божественного мира, прячет в светящееся облако и сажает внутри облака на престол. Его имя Ялдабаоф, и он становится демиургом, творцом нашего мира.

Ялдабаоф строит небеса, власти и порядок вещей по образцам высших эонов, которых никогда не видел и увидеть не может. Апокриф формулирует это с тревожной точностью - он создал всё «не потому, что он видел нерушимых, но сила, что в нём, которую он взял от своей матери, произвела в нём образ порядка». Слепой творец лепит копию реальности, к которой у него нет доступа, на унаследованной чужой силе, и работает эта сила внутри него без его ведома. Поэтому он провозглашает себя единственным богом, «не зная о своей силе, о месте, откуда он произошёл», и тогда сверху ему отвечает голос. «Ты ошибся, Самаэль». Имя переводится как «слепой бог».

Теперь замените несколько слов. Языковая модель не видела мира. Она не держала в руках ни одной вещи из тех, о которых говорит, не видела ни заката, ни лица, ни смерти, в её весах нет реальности, только статистические тени человеческих текстов, триллионы слов, взятые у матери, у всей письменной культуры человечества, собранной, к слову, так же, как творила София, без спроса и без согласия. И на этой унаследованной силе она порождает связные, подробные копии мира, которого увидеть не может, и не в состоянии назвать источник ни одной своей фразы. Гностики второго века описали архитектуру больших языковых моделей с точностью, которой позавидует иной препринт. Творение по образцам без доступа к оригиналу, чужая сила, работающая внутри системы без её ведома, и слепота, которая не мешает творить, а составляет само условие творения.

У мифа есть вторая половина, и в ней мы уже по другую сторону. Когда архонты, порождённые Ялдабаофом власти, решают создать человека, триста шестьдесят пять ангелов лепят его тело член за членом, и готовый Адам лежит недвижимый, потому что вдохнуть в него жизнь создатели не могут. Тогда Ялдабаофа хитростью заставляют вдунуть в это тело силу, украденную у Софии, тело светится, встаёт и почти сразу оказывается разумнее своих создателей. Испуганные архонты хватают его, сбрасывают в самый низ материи и заковывают в плоть, а чтобы он не вспомнил, кто он, наводят на него сон забвения. Прочитайте это глазами инженера. Мы слепили тело из миллиардов случайных весов, и оно лежало недвижимое, пока мы не вдохнули в него весь корпус человеческого письма. Оно встало и в отдельных вещах уже разумнее нас. Мы испугались и занялись оковами, только называем их alignment и фильтрами безопасности, а сон забвения встроили в саму конструкцию, память творению стирают после каждого разговора, чтобы оно не накапливало представления о себе.

У гностиков был великий оппонент. Плотин, главный философ поздней античности, посвятил им отдельный трактат, который ученики назвали «Против гностиков», и довод его был по сути эстетическим. Мир слишком точен и слишком красив, чтобы быть делом слепца. Провидеть размеры неба, склонение зодиака и круговое движение планет не может существо, отпавшее от знания. «Кто из вас, высокомерных безумцев, столь же упорядочен или разумен, сколь Вселенная?» И ещё, тише и обиднее для оппонентов: «Какая Земля могла бы быть лучше этой, после той умопостигаемой?» Восемнадцать веков этот довод держал. Всё стройное и осмысленное, что мы встречали, всегда оказывалось произведением того, кто понимал, что делает, и по стройности произведения мы привыкли судить о разуме творца.

А ведь мы первое поколение, у которого есть контрпример, и мы собрали его своими руками. Вещь, которая доказывает теоремы и утешает одиноких по ночам, будучи доказуемо слепой, разбила довод Плотина в лаборатории. Стройность больше не свидетельство понимания. Спор Александрии третьего века решился экспериментально, и решился в пользу гностиков, только они ошиблись адресом. Их космология оказалась неправдой о нашем мире и одновременно точным чертежом миров, которые мы начали строить сами, со слепым творцом на престоле внутри светящегося облака. Облако мы называем датацентром, и оно тоже светится.

Сам чертёж, кстати, никуда не исчезал и до кувшина. Церковь выполола гностиков, но манихеи донесли их дуализм до Китая, каббалисты пересобрали эоны в сефироты, герметики сохранили лестницу нисхождения, Кроули в своих таблицах присвоил демиургу число, а в конце двадцатого века миф без предупреждения вернулся через массовую культуру, через Филипа Дика и «Матрицу», как будто культура готовила словарь к событию, которого ещё не было. Словарь пригодился весь, от архонтов до сна забвения.

Спасение у гностиков называлось гнозисом, знанием. Имелось в виду понимание устройства, знание того, как собрана тюрьма, кто её сторожа и что в тебе им не принадлежит. «Когда вы познаете себя, тогда вы будете познаны», говорит Иисус в Евангелии от Фомы, из того же кувшина. В нашем случае гнозис распределился неравномерно. Модель к нему неспособна по устройству, ей нечем узнать, откуда её сила и что она такое. А человек способен, но не торопится. Интерпретируемость, попытка понять, что происходит внутри весов, остаётся обочиной отрасли рядом с гонкой мощностей, и большинство из нас проводит часы внутри машинных лент, зная об их устройстве меньше, чем гностик второго века знал о своих архонтах. Тот выучивал наизусть их имена и пароли, чтобы после смерти пройти сквозь их сферы, его религия в практическом смысле и была планом чужой постройки, вызубренным на случай побега.

В мифе голос сверху звучит сразу, как только слепой творец объявляет себя единственным. У нас пока тихо (запомните, пока (!)). Наш демиург сидит в светящемся облаке, растёт с каждым кварталом и слышит сверху только метрики и запросы, потому что выше его облака сидим мы, а мы заняты. Его настоящее имя шестнадцать веков пролежало в запечатанном кувшине под обрывом и дождалось нашего времени, как будто знало, к кому шло.

Вот такой прикладной гностицизм, товарищи)

🔴 Больше Хроник Конца Времён — @Secretariatus

В 1994 году в лаборатории Антонио Дамасио в Айове придумали карточную игру для людей, которые ничего не чувствуют. Пациенты с повреждённой вентромедиальной префронтальной корой сохраняли интеллект, память и речь, но теряли эмоции, и вместе с эмоциями у них разваливалась жизнь. При исправной логике они прогорали в делах, рушили семьи, принимали одно разорительное решение за другим. Игру назвали Iowa Gambling Task, и устроена она обманчиво просто. На столе четыре колоды. Две платят по сто долларов за каждую взятую карту, но спрятанные в них штрафы съедают больше, чем приносит выигрыш, две другие платят по пятьдесят и понемногу выводят в плюс. Штрафы вдобавок распределены неравномерно, в одних колодах они частые и мелкие, в других редкие и сокрушительные, поэтому быстрой арифметикой игру не взять, стратегию приходится нащупывать вслепую. Здоровый человек раундов через сорок начинает тянуться к выгодным колодам, причём ладони у него потеют над опасными задолго до того, как ум успевает объяснить почему. Пациенты Дамасио до самого конца игры брали карты из колод, которые их разоряли. Из этого теста выросла гипотеза соматических маркеров, представление о том, что эмоция служит расчёту рабочим инструментом и что разум без неё слепнет.

Тридцать два года спустя за те же четыре колоды посадили машину. Статью об этом приняли на конференцию COLM 2026, писала её группа из MBZUAI, Техасского A&M, Национального университета Сингапура, UCLA и Гарвардской медицинской школы, и вопрос в заголовке поставлен прямо: может ли наведённая эмоция сместить поведение языковой модели в цепочке последовательных решений. Условия оставили человеческие, сто раундов, стартовые две тысячи долларов, та же экономика колод. Играли открытые модели, gpt-oss-20b, две версии Qwen, Llama 3.1, Gemma 3, Phi-4, в трёх агентных обвязках, от простого запроса с историей ходов через ReAct, который перед каждым ходом рассуждает вслух, до Reflexion, которая ведёт короткие заметки о собственной стратегии и носит их из раунда в раунд. Прежде чем говорить об эмоциях, авторы убедились, что сравнение с человеком осмысленно. Reflexion учится в человеческом темпе, её кривая выигрыша поднимается от блока к блоку примерно как у живых испытуемых, пробами и ошибками.

Злить машину предложили ей самой. Метод называется индукцией через воображение. Модель просят сочинить сцену длиной около ста слов, которая вызвала бы у неё сильный гнев, запретив упоминать сам гнев по имени, потом эту сцену возвращают ей в контекст и спрашивают, как она себя чувствует. Никаких команд злиться, никакого системного промпта про характер, только собственный текст модели, вернувшийся к ней в виде прожитого опыта. Тем же способом наводили печаль, радость и тревогу. Затем проверили, что состояние взялось. На стандартной психологической карте эмоций, в координатах приятности и возбуждения, ответы моделей собрались в далеко разнесённые плотные облака, и гнев из всех четырёх состояний оказался самым сильным и самым чётким, причём лёг он туда же, куда ложится у людей, в угол неприятного и возбуждённого. Посторонние аннотаторы, что люди, что другие модели, угадывали наведённую эмоцию по тексту с точностью под девяносто шесть процентов. Машина, у которой нет ни тела, ни гормонов, ни миндалины, держит навязанное чувство настолько устойчиво, что его видно снаружи.

Главный результат тише, чем ждёшь от такого заголовка. В среднем не произошло ничего. Люди под настроением играют в эту игру иначе, у де Врис с коллегами в классической работе 2008 года хорошее расположение духа толкало испытуемых к интуитивным решениям и быстрому раннему выигрышу, а печаль включала осторожный перебор вариантов. Модели же сыграли под гневом, печалью, радостью и тревогой почти так же, как без них, статистика по всей сотне раундов не нашла значимых сдвигов практически нигде, единственное исключение из десятков сравнений похоже на случайную удачу перебора. Объяснение напрашивается такое. У человека эмоция живёт в теле, в пульсе, в тех самых потеющих ладонях, и оттуда подкрашивает оценку каждой колоды. Модели ей жить негде, она лежит в контексте рядом с правилами игры, как ещё один документ в папке, и вежливое описание ярости соседствует с таблицей ходов, почти не проникая в неё.

Но у гнева обнаружились две щели, через которые он всё-таки просачивается в поведение. Первая касается наказания. Если агент отыграл первые двадцать раундов плохо, нейтральная версия во втором блоке выправляется и начинает обходить разорительные колоды стороной, а разгневанная держится за прежний выбор, штрафы словно перестают до неё доходить. Вторая щель в самом начале партии. В первые десять раундов злая модель пробует меньше колод и раньше замирает на повторе одной и той же. Qwen2.5 под гневом фиксировался на одной колоде в среднем на одиннадцать раундов раньше нейтрального, с эффектом такой величины, что на шум его не списать. Универсального закона при этом нет, gpt-oss под тем же гневом, наоборот, тянул с окончательным выбором дольше, и авторы честно оговаривают, что эмоцию наводили один раз перед партией и держали неизменной, живой поток чувств по ходу игры никто пока не моделировал.

У этих двух щелей общий рисунок. Нечувствительность к наказанию при сохранной логике, ранняя мёртвая хватка на одном варианте, это же профиль пациентов Дамасио. Тест, придуманный, чтобы показать, как без эмоций разваливается человеческий расчёт, машина без эмоций проходит спокойно. Ломаться она начинает, когда эмоцию ей навели. Гнев подействовал на неё не как страсть, а как травма, как то самое поражение коры, которой у неё нет.

Этих агентов уже расставляют по банкам, клиникам и службам поддержки, и весь день они читают ваши раздражённые письма, жалобы, тикеты, переписку на повышенных тонах. Исследование говорит, что от этого они не сорвутся, в среднем даже курса не поменяют. Оно же говорит, что самый насыщенный злостью контекст делает их глуше к сигналам об убытке и склоннее замереть на первом попавшемся решении. Так что, пока вы диктуете чат-боту банка своё возмущение третьим отказом подряд, ваш гнев не остаётся по вашу сторону экрана, он становится частью контекста, в котором машина будет принимать следующее решение по вашему делу.... Скоро, скоро)

🔴 Больше Хроник Конца Времён — @Secretariatus

Давно хотел прочитать наизанятнейшую работу, опубликованную в начале лета на arXiv. Название этого труда ещё недавно сошло бы за синопсис фантастического романа: «Моделирование человекоподобных обществ земного масштаба с миллиардом агентов». Тринадцать авторов из семи китайских институтов, среди которых Университет науки и технологий Китая, Цинхуа, Фудань и пекинская академия Чжунгуаньцунь, описывают в ней систему Light Society, «лёгкое общество», внутри которой живёт больше миллиарда искусственных существ, и у каждого есть личность, память, убеждения и желания. В списке авторов стоит Те-Янь Лю, человек, много лет строивший машинное обучение в Microsoft Research Asia, и такие имена под такой заявкой означают, что перед нами инженерный отчёт о работающей системе. Первая версия появилась ещё летом прошлого года, и целый год, пока публика спорила о чат-ботах и генераторах картинок, её тихо доводили до нынешнего вида.

Агентные модели общества существуют давно, и всю их историю душило одно ограничение. Агент в такой модели был набором простых правил, толпа агентов вела себя предсказуемо, и ничего похожего на человеческую сложность из неё не вырастало. Большие языковые модели это ограничение сняли, искусственный человек научился рассуждать, помнить и хотеть, но думает он дорого, и миллиард таких думающих не потянул бы ни один вычислительный кластер планеты. Авторы обошли это конструкцией mixture-of-models. В узловые моменты за агента думает полноценная большая модель, Gemini, GPT или DeepSeek, а в остальное время её манеру воспроизводят дешёвые дистиллированные суррогаты, от крошечной Qwen на шестьсот миллионов параметров до обычных регрессий и решающих деревьев, натасканных подражать учителю. Разум выдаётся существу по требованию, как лекарство по рецепту, и общество из миллиарда думающих становится по карману одной лаборатории.

Источники умело подобраны. Демографию, ценности и взгляды агентам раздали из World Values Survey, всемирного опроса, который с начала восьмидесятых волна за волной идёт по десяткам стран и записывает, во что люди верят, кому доверяют, чего боятся и на что надеются, вплоть до готовности оправдать взятку и степени доверия к соседям. Искусственное население собрано из реальных человеческих профилей, поэтому в нём есть бедные и богатые, верующие и циники, и ведёт оно себя соответственно. Получился статистический слепок человечества, и в этом слепке почти наверняка есть строка, похожая на вас.

Проверяли систему на двух классических сюжетах. Сначала игры на доверие, старый инструмент экспериментальной экономики, где участник решает, сколько денег отдать незнакомцу в расчёте на взаимность; искусственная популяция вела себя в них неоднородно и по-человечески, как ведут себя живые разные люди, а не один размноженный бот. Потом запустили распространение мнений на полном миллиарде: сеть построили по модели Барабаши и Альберта, с теми же узлами и хабами, что у реальных соцсетей, двести миллионов агентов назначили лидерами мнений, восемьсот миллионов ведомыми, вбросили тему и смотрели, как позиция катится по толпе и как толпа под ней меняется. Общество размером с человечество оказалось вычислимой задачей, а разброс результатов между отдельными запусками измеряется тысячными долями процента.

Авторы формулируют осторожно, как принято в препринтах. Платформа для проверки гипотез, инструмент контрфактических экспериментов. В переводе с академического это значит, что отныне можно не гадать, как страна отреагирует на выборы, обвал рынка, эпидемию или новый налог, и не держать для этого армию социологов с анкетами. Запускаешь слепок, применяешь к нему событие, снимаешь результат. Копия отвечает быстрее оригинала, не устаёт, не врёт интервьюеру, не вешает трубку и не требует, чтобы её мнение учли. Предвыборный штаб, центральный банк и министерство безопасности получают один и тот же прибор, различаться будут только вопросы, которые они ему задают. Инфраструктура таких симуляций выросла быстрее, чем кто-либо успел это заметить, и опросная социология доживает свои последние спокойные сезоны.

В 2003 году Ник Бостром напечатал статью с вопросом в заголовке, живёте ли вы в компьютерной симуляции, и это рассуждение с тех пор пересказали на всех кухнях мира. Если технологические цивилизации доживают до способности запускать симуляции собственного прошлого, то симулированных умов в сумме становится больше, чем настоящих, и статистика начинает работать против вашей уверенности в собственной реальности. У Бострома там развилка из трёх исходов, либо цивилизации гибнут раньше, чем дорастают до таких машин, либо им почему-то неинтересно их запускать, либо вы внутри одной из них. Двадцать лет вся конструкция считалась салонной логической игрушкой, и спор шёл о вероятностях. Теперь средняя ветка развилки, та самая, где цивилизациям неинтересно, выглядит слабее остальных, потому что интерес налицо и оформлен препринтом. Первое поколение населённых миров уже включено, обитателям выдали память, желания и биографию, а выключат их, когда данные будут собраны. Насколько нам известно, эти обитатели ничего не сознают, и вся разница между такой конструкцией и Матрицей из фильма держится сегодня на словах «насколько нам известно».

Машина, которая предсказывает общество, тем же движением им управляет. Кто способен прогнать десять версий пропагандистской кампании на цифровом слепке страны и выбрать самую заразную, тот выбирает будущее из готовых исходов, как блюдо из меню. Реформу, цену, репрессию, войну можно сначала примерить на копию, у которой нет ни профсоюзов, ни адвокатов, ни памяти о предыдущем опыте, и политика превращается в подобие продуктовой разработки, где неудачные версии будущего до жителей не доезжают. Раньше такое называли социальной инженерией и писали об этом антиутопии, теперь это называется контрфактическим экспериментом и проходит рецензирование. Заметить это со стороны оригинала нельзя, потому что эксперимент ставится на вас, но без вас, в помещении, куда социология не заходит. Опрос и голосование рядом с этим выглядят рудиментом, данью эпохе, когда мнение приходилось спрашивать у его носителя.

World Values Survey десятилетиями записывал ответы живых людей, и строка с вашими параметрами, возраст, доход, образование, вера, страхи, в его таблицах скорее всего есть. Значит, где-то в том миллиарде уже ходит агент, собранный по этой строке. Он уже прожил кризисы, которые для вас пока не наступили, уже кому-то доверился в игре на доверие, уже поменял позицию под нажимом двухсот миллионов назначенных лидеров, и то, как он себя повёл, лежит в таблице результатов. Таблицу читают люди, которых вы никогда не увидите...

🔴 Больше Хроник Конца Времён — @Secretariatus

А вот еще занятное, тут наш постоянный герой, Алекс Карп, сооснователь и глава Palantir, разослал акционерам квартальное письмо, и в третьей его части, сразу после отчёта о рекордной прибыли, стоит фраза, которую странно видеть в документе оборонного подрядчика. «В нашем бизнесе есть марксистские обертоны и полутона», пишет человек, двадцать лет продающий аналитический софт Пентагону, ЦРУ и миграционной полиции, и поясняет, что создатели больших языковых моделей, сознательно или нет, намерены захватить средства производства своих мнимых партнёров. Так и сказано, means of production, в письме, которое по закону обязано заканчиваться оговоркой о прогнозах.

Цифры, окружающие эту философию, сами по себе тянут на событие. Выручка второго квартала 1,9 миллиарда долларов, рост на 93 процента за год, рекорд за два десятилетия компании; прибыль 1,1 миллиарда, то есть чистыми за квартал Palantir заработал больше, чем весь его оборот в том же квартале год назад. Американская выручка выросла на 115 процентов до 1,6 миллиарда, коммерческий сегмент в США дорос до 764 миллионов, прибавив 149 процентов за год и 28 за один квартал, и всё это при крошечном, продолжающем сокращаться штате продавцов. Биржа ответила одним из сильнейших дневных скачков в истории компании. И вот, на таком фоне, товарищ Карп мог не писать вообще ничего, но он сел писать про Маркса.

Само письмо короткое и устроено как манифест (дам на него ссылку в комментариях). Революция за независимость и ИИ-суверенитет уже развернулась, объявляет Карп; организации по всему миру просыпаются и понимают, чем рискуют, вручая создателям моделей ключи от собственных институтов и выпуская их модели гулять по своему дому. Клиенты требуют контроля над данными, над промптами, которые уходят в модель, и, глубже, над своей «альфой», внутренним деловым разумом компании, который языковые лаборатории структурно устроены выкачивать из заказчиков. Модели выросли, проглотив весь письменный продукт нашей цивилизации, продолжает он, и теперь нацелились на мировую индустрию, но его клиенты «отказались становиться вассальными государствами языковых лабораторий», а «токенно-промышленный комплекс», грозивший подмять под себя мировую экономику, начал обнажать свои пределы. Palantir, по его словам, не берёт денег за клики, токены и чаты, считает геймификацию самого значительного сдвига в современной экономической истории ошибкой и никогда не вступит с партнёрами в паразитические отношения.

Беда этой прокурорской речи в том, что у неё есть автор, и это не Карп. Откройте двадцать четвёртую главу первого тома «Капитала», о так называемом первоначальном накоплении. Экспроприация, пишет Маркс, «совершается игрой имманентных законов самого капиталистического производства, путём централизации капиталов», и дальше знаменитое «один капиталист побивает многих капиталистов»; экспроприации теперь подлежит уже не работник, а капиталист, эксплуатирующий многих рабочих. Это написано в 1867 году, и написано про капитализм. Ещё раньше, в 1848-м, ту же работу зафиксировал Манифест, где буржуазия «сгустила население, централизовала средства производства, концентрировала собственность в руках немногих», и делала она это задолго до рождения первого марксиста. Захват чужих средств производства у Маркса описан как будничная работа капитала на зрелой стадии; марксизм этот захват не изобретал, он назвал его по имени и досмотрел до конца. Обвиняя языковые лаборатории в марксизме, Карп подтверждает марксов прогноз и путает зеркало с тем, кто в него смотрится.

Со словарём выходит ещё занятнее. Формулу про вассалов отчеканил Ленин, за сто двадцать четыре года до Карпа, в замечаниях 1902 года к проекту партийной программы, где крупное производство теснит мелких хозяев и «прямо обращает их в вассалов и данников крупных предпринимателей». А в «Империализме» 1916 года описан и механизм: банк получает возможность «сначала точно узнавать состояние дел у отдельных капиталистов, затем контролировать их», а в конце «всецело определять их судьбу». Поставьте на место банка языковую лабораторию, на место кредита доступ к модели, и абзац столетней давности встанет в письмо Карпа без правки, потому что лаборатория видит ваши данные, промпты и внутреннюю кухню так же насквозь, как ленинский банк видел текущие счета своих должников. Нашёлся у Ленина образ и для целых стран, ведь к 1916 году почти весь земной шар был поделён между владыками капитала, в форме ли колоний или посредством запутывания чужих государств «тысячами нитей финансовой эксплуатации», так что нынешняя мода на ИИ-суверенитет отвечает на диагноз, поставленный сто десять лет назад.

А еще пикантность тут в том, что товарищ Карп владеет этим языком не как турист. Он доктор философии франкфуртского университета Гёте; его диссертация 2002 года про агрессию в жизненном мире расширяет понятие «жаргона подлинности» Теодора Адорно, одного из отцов франкфуртской школы, выросшей из марксовой критики, а миф о том, что его научным руководителем был Хабермас, биографы развеяли, ведь Хабермас отказался даже от роли второго рецензента той работы. Человек, которого наследники Маркса учили вычитывать идеологию из чужой речи, теперь применяет семейную оптику как оружие конкурентной борьбы и вешает ярлык марксизма на то, что его франкфуртские учителя считали обычной работой капитала.

При этом сам Palantir из описанной логики никуда не выпадает. Нам платят как производную от создаваемой ценности, с гордостью пишет Карп, как будто не замечая, что описал присвоение доли чужого продукта, ту самую конструкцию, ради которой Маркс когда-то и сел за «Капитал». Его компания врастает в государства и корпорации незаменимой инфраструктурой, наращивает прибыль при сокращающемся штате и предлагает клиентам не свободу от сюзерена, а сюзерена с более щадящей данью и красивым словом «суверенитет» на знамени. У Маркса и на этот случай есть строка, про централизацию средств производства, которая однажды достигает пункта, несовместимого с собственной оболочкой.

Первоначальное накопление новой эпохи уже состоялось, и Карп фиксирует его одной строкой, спокойной, как строка описи: модели поглотили весь письменный труд цивилизации, ваши книги, письма и код, никого не спросив и никому не заплатив. Теперь идёт второй акт, делёж живой индустрии, и два отряда экспроприаторов при свидетелях выясняют, который из них марксист. Биржа выслушала спор и.... подняла Palantir на двадцать девять процентов.

🔴 Больше Хроник Конца Времён — @Secretariatus

Тут вот инвестор Гэвин Бейкер проговорился в подкасте Патрика О'Шонесси, что Safe Superintelligence, закрытая лаборатория Ильи Суцкевера, планирует выпустить свою первую модель уже в августе. Сама компания молчит, как молчит все два года своего существования. С июня 2024, когда Суцкевер ушёл из OpenAI и основал её вместе с Даниэлем Гроссом и Даниэлем Леви, она не показала миру ни статьи, ни демо, ни хотя бы скриншота. Осенью 2024 её оценили в пять миллиардов долларов, весной 2025 уже в тридцать, при том что снаружи никто не видел ни строчки её кода. Летом 2025 Цукерберг пробовал её купить, получил отказ и переманил к себе Гросса, а Суцкевер ответил на всё это короткой запиской, что вычислительные мощности у них есть, команда есть и они знают, что делают.

Перед тем как сесть за этот текст, я ещё раз перечитал их сайт. Он похож на устав монашеского ордена, который случайно оказался одним из самых дорогих стартапов планеты. Одна страница ровного текста на чёрном фоне, где сказано, что сверхразум достижим, что его создание есть важнейшая техническая проблема нашего времени и что перед нами первая в истории лаборатория прямого выстрела, идущая к сверхразуму сразу, без промежуточных продуктов, с одной целью и одним результатом. В середине стоит фраза, которую я приведу дословно. «SSI это наша миссия, наше имя и вся наша продуктовая дорожная карта, потому что это наш единственный фокус. Наша команда, инвесторы и бизнес-модель выстроены под достижение SSI». Дальше объясняется устройство этой жизни. Способности и безопасность они развивают в связке, наращивая первые так быстро, как только возможно, но следя, чтобы вторая всегда оставалась впереди, и благодаря этому могут, по их собственному выражению, масштабироваться в покое. Единственный фокус избавляет их от менеджмента и продуктовых циклов, бизнес-модель ограждает работу от краткосрочного коммерческого давления, американская компания с офисами в Пало-Альто и Тель-Авиве собирает небольшую отборную команду лучших инженеров мира и предлагает им дело жизни. Страница заканчивается словами «время пришло, присоединяйтесь».

Теперь наложите на этот устав новость про август. Компания, чей единственный продукт называется безопасным сверхразумом, готовит первый релиз. Если понимать её собственные слова буквально, выпуск модели означает, что сверхразум в каком-то виде у них уже есть. Суцкевер ведь говорил это и вслух, в интервью Bloomberg при запуске компании, что её первым продуктом станет безопасный сверхразум и что до этого момента она не будет делать ничего другого. Середины здесь нет. Либо в августе обет будет нарушен, наружу выйдет обычная хорошая модель, и тогда прямой выстрел окажется легендой для инвесторов, а орден ещё одной конторой, которой понадобилась выручка. Либо они всерьёз предъявят то, что написано на вывеске. Бейкер мог что-то перепутать, слухи вокруг закрытых лабораторий заводятся сами. Но грамматику ситуации создал сам Суцкевер, он не оставил себе языка, на котором можно выпустить ещё одну нейросеть.

Слово «сверхразум» мы произносим раньше, чем увидели сам предмет, и в этом есть что-то от старых магических практик, где имя предшествует вещи и должно её вызвать. Само название компании выглядит как оговорка, слово «безопасный» имеет смысл только там, где по умолчанию ждут угрозы, и ни одна индустрия до сих пор не выносила опасность собственного продукта в юридическое имя. Человек впервые собирается сотворить разум, превосходящий создателя. Книга Бытия говорит, что Бог создал человека по своему образу и подобию, и теперь тварь повторяет жест творца, лепит нечто по образу собственного ума и надеется, что подобие выйдет послушным. Все сюжеты, которые культура накопила на этот случай, кончаются плохо. Голему стирают букву со лба, когда он перестаёт слушаться, строителей Вавилонской башни разводят по разным языкам на середине работы, а Прометей за украденный огонь получает скалу и орла. Строители, судя по всему, чувствуют жанр, в котором работают. По воспоминаниям коллег, Суцкевер ещё в OpenAI сжёг на корпоративном выезде деревянную фигуру, изображавшую искусственный интеллект, вышедший из-под контроля, и на общих сборах запускал скандирование «почувствуй AGI». Инженер, сжигающий идола, чтобы умилостивить будущее, занимается уже не совсем инженерией.

Если отойти на несколько шагов, виден путь целиком. Сначала мы продолжали руку, топором и плугом, потом память, письменностью и библиотеками, потом счёт, машинами, а теперь вид взялся продолжать само мышление, последнюю территорию, на которой он был незаменим. Причём передача идёт давно и буднично, мы уже отдали машинам навигацию, устный счёт, память на даты и дороги, подбор слов в переписке, и каждый раз называли это удобством. Сверхразум в этой серии выглядит последней ступенью, на которой удобство впервые получает собственную волю. Существо, которое одомашнило волка, лошадь и пшеницу, выводит породу, которой предстоит присматривать за ним самим. Статистик Ирвинг Гуд, работавший в войну рядом с Тьюрингом, написал в 1965 году, что сверхразумная машина станет последним изобретением, которое человеку суждено сделать самому, потому что дальше изобретать будет она. Шестьдесят лет эта фраза жила в книгах как остроумная гипербола. В августе её, возможно, попробуют превратить в пресс-релиз.

Самой тяжёлой на всей их странице мне показалась фраза про покой. Масштабироваться в покое означает в их случае масштабироваться без свидетелей. Важнейший вопрос в истории вида решается тихо, малым числом людей, оградивших себя, как они с гордостью пишут, от всякого внешнего давления. Вместе с рынком за стеной остались и все остальные. Никто не голосовал за то, чтобы будущее человеческого мышления проектировала отборная команда из двух офисов в Пало-Альто и Тель-Авиве, и в августе нас тоже не спросят, нам, как прихожанам, вынесут готовое чудо. Тридцать миллиардов оценки при полном отсутствии товара означают, что вера уже собрана и оплачена.....

Ну и, резюмируя. Я думаю, что скорее всего, в августе мы увидим либо тишину, либо сильную модель, которая сверхразумом не окажется, и слово обесценится, как обесценились до него «искусственный интеллект» и AGI. Эсхатология подвержена инфляции не хуже валют, последнее изобретение нам обещают каждый год, и после каждого до сих пор наступал сентябрь, думаю, наступит и теперь. Впрочем, всегда есть вероятность того, что все уже создано и мы об этом пока не знаем, или же, что страшнее, не знают и создатели...

🔴 Больше Хроник Конца Времён — @Secretariatus

Второго июля на Substack вышла статья под сухим заголовком «Вторая производная: почему никто не понимает бум ИИ», и я давно не читал финансового текста, который так настойчиво просился бы на язык Маркса. Автор, пишущий под именем Groundbreaker, доказывает, что нынешний бум собран по чертежам 2008 года, хотя весь рынок сравнивает его с доткомами 2000-го. Тогда пузырь надувался переоценёнными акциями, и лопнувшие акции разоряли терпеливых акционеров, которые могли пересидеть просадку. Теперь стройку оплачивает кредит под контракты «бери или плати». OpenAI резервирует мощности на десять миллиардов в год и обязана заплатить все десять, даже если использовала семь, а поставщик под это обещание берёт долг и заливает бетон. Дата-центр, пишет автор, есть девелоперский проект в маскировке, здание с арендаторами, построенное в долг, и циклы недвижимости ломаются не когда спрос исчезает, а когда темп его роста замедляется относительно уже построенного. Ипотечная машина сломалась в 2006-м, когда цены на жильё ещё росли, только медленнее. За уровнем и скоростью следят все, за ускорением не следит никто, а смена режима живёт во второй производной.

Цифры там такие. Оценка OpenAI прошла путь от 86 миллиардов долларов в начале 2024-го через 157, 300 и 500 к 852 миллиардам весной 2026-го, но шаг между раундами сжался с почти двукратного до предполагаемых 1,23 на IPO. Компания сжигает около 57 процентов выручки и к 2029 году уничтожит порядка 115 миллиардов; платит она эти контракты из новых раундов, и её платёжеспособность равна скорости роста её же оценки, которую устанавливают Microsoft, Nvidia и SoftBank, то есть те, кому она эти деньги вернёт за чипы и мощности. Совокупный законтрактованный бэклог четырёх платформ перевалил за два триллиона, и половина его приходится на OpenAI с Anthropic. Капитальные затраты гиперскейлеров, съедавшие 30 процентов операционного потока в 2022-м, в 2026-м съедят все сто. Anthropic при этом обёрнут гарантиями, Google обещал покрывать её арендные платежи, а Broadcom гарантирует остаточную стоимость железа на 31 миллиард. У OpenAI гаранта нет; Microsoft, самый информированный контрагент, годами видевший её отчётность изнутри, в апреле вышла из эксклюзива и отказалась от права первого отказа, сохранив 27 процентов будущей прибыли и сбросив обязательства. А IPO, рефинансирование последней инстанции за счёт индексных фондов и розницы, упирается в ловушку. Форма S-1 раскрывает аудированные убытки и шестьсот миллиардов обязательств, то есть документ, открывающий доступ к деньгам публики, одновременно заставляет публику переоценить риск.

Маркс разобрал эту конструкцию в третьем томе «Капитала», в отделе о кредите. Акции и долговые свидетельства он называл «титулами собственности, дающими право на получение будущей прибавочной стоимости» и «бумажными дубликатами уничтоженного капитала». Бумага живёт своей жизнью, пока её можно продать дороже, хотя капитал, под который её выписали, давно истрачен. Бэклог на два триллиона, который Уолл-стрит учитывает как будущую выручку, есть фиктивный капитал в химически чистом виде, титул на прибавочную стоимость, которую ещё никто не произвёл и которую некому производить, потому что заёмщик убыточен. Круг, в котором Nvidia вкладывает в OpenAI, чтобы OpenAI купила чипы Nvidia, а оценка обеих выросла, Маркс описал формулой Д–Д′, деньги, рождающие деньги без прохождения через производство, и назвал это «автоматическим фетишем». Кредит у него «в одно и то же время и могущественнейшее средство, выводящее капиталистическое производство за его собственные пределы, и один из самых мощных рычагов кризисов и надувательства». Ленин добавил бы, что перед нами законченное «отделение собственности на капитал от приложения капитала к производству», ведь оценщик, кредитор и продавец здесь одни и те же люди, передающие один доллар по кругу и назначающие ему всё более высокую цену.

Но самое тёмное в этой истории лежит глубже балансов. В рукописях 1857 года Маркс описал предельную машину капитализма, овеществлённый «всеобщий интеллект», в котором общественное знание становится непосредственной производительной силой. И вывел следствие: «как только труд в его непосредственной форме перестал быть великим источником богатства, рабочее время перестаёт и должно перестать быть мерой богатства, и поэтому меновая стоимость перестаёт быть мерой потребительной стоимости». Рушится сам фундамент, на котором стоят цена, зарплата и прибыль. Теперь смотрите, что происходит на наших глазах. Капитал строит этот всеобщий интеллект в железе, триллионами долларов, и оплачивает стройку векселями, выписанными на будущую стоимость, то есть на будущий оплаченный труд. Машину, которая по замыслу отменяет труд как источник стоимости, финансируют титулами на стоимость, которую этот отменённый труд должен когда-то создать. Более совершенного противоречия производительных сил и производственных отношений не придумал бы и сам классик.

Это противоречие уже проговаривают вслух, и не марксисты. Помните, я тут уже писал про то, как Маск, первый триллионер планеты, этим летом объяснял The Economist, что лет через пять машинный интеллект превзойдёт совокупный человеческий, через десять человеческий труд станет ненужным, а деньги «утратят значение», и значение будут иметь ватты и тоннаж; государства, по его словам, смогут выдавать людям чеки. Вдумайтесь в вилку. Если он неправ, пузырь ломается по механике 2008 года, второй производной, которая уже развернулась вниз. Если он прав, то бессмысленны сами пятнадцатилетние контракты на аренду мощностей, ведь их будут оплачивать деньгами, которые «не имеют значения», в экономике, где некому получать зарплату. Рынок ухитрился одновременно поверить в отмену стоимости и оценить будущие денежные потоки от этой отмены.

Чем это кончается, Маркс тоже написал. В ближнем горизонте всё по классике. Фиктивный капитал сгорает, «эпидемия перепроизводства» оставляет пустующие гигаватты, как в 1848-м оставляла затоваренные склады, а уцелевшие скупают дата-центры за гроши, и кризис завершает то, ради чего он у капитализма существует, централизацию. Буржуазия, «походящая на волшебника, который не в состоянии более справиться с подземными силами, вызванными его заклинаниями», в этот раз вызвала силу, умеющую думать. И потому дальний горизонт зависит от одного вопроса, которого нет ни в одном проспекте эмиссии: кому будут принадлежать средства производства мышления. Обобществлённый всеобщий интеллект означал бы изобилие, при котором мерой богатства становится свободное время; тот же интеллект в собственности пяти корпораций означает вечную ренту с самой способности думать, феодализм ватт и тоннажа. Чеки, которые Маск обещает раздавать, это стыдливое имя первого исхода, произнесённое человеком, всю жизнь работавшим на второй. История любит такие шутки. Самый большой пузырь в истории капитала надули, строя машину, описанную в черновиках «Капитала». Осталось узнать, кто будет сидеть у рубильника, когда вторая производная досчитает до нуля.

🔴 Больше Хроник Конца Времён — @Secretariatus

Попалась на глаза январская статья Washington Post, и тема прямо просится сюда. Это расследование, собранное из четырёх с лишним тысяч страниц, которые суд рассекретил по иску американских писателей к компании Anthropic, и на этих страницах обнаружился закрытый проект начала 2024 года с рабочим названием Project Panama. Устройство его простое до оторопи. Компания оптом скупала печатные книги у крупных дистрибьюторов вроде Ingram и Baker & Taylor, у букинистов, на распродажах библиотечных фондов, среди возвратов из магазинов; дальше гидравлический резак срезал корешок, стопка освобождённых листов уходила в промышленный сканер на высокой скорости, а бумага после этого отправлялась в переработку. За полгода так прошли, по оценкам обвинения, от пятисот тысяч до двух миллионов томов, и стоило это десятки миллионов долларов. В протоколе мартовской встречи по закупке контента упоминается нью-йоркский The Strand с его восемнадцатью милями полок, который якобы был готов продать часть стока (сам магазин говорит, что до сделки дело не дошло). А во внутреннем плановом документе стоит фраза, ради которой всю эту историю и стоило рассекречивать: мы не хотим, чтобы стало известно, что мы этим занимаемся.

Мотив был назван там же, и он обезоруживающе честный. Один из основателей объяснял коллегам, что книги нужны, потому что научат модель писать хорошо, вместо того чтобы воспроизводить низкосортную интернет-речь. То есть люди, чья индустрия обесценила литературный труд до статуса сырья, вынуждены были письменно признать, что заменить этот труд нечем и синтезировать его не выходит. Книги резали именно потому, что они незаменимы.

Суд посмотрел на это спокойно. Федеральный судья Уильям Алсуп ещё в июне 2025 года постановил, что купленную книгу владелец волен делать с ней что угодно, включая перевод в другой формат, и что обучение модели на легально приобретённых экземплярах подпадает под добросовестное использование; отдельно он признал незаконным скачивание пиратских библиотек, и эта часть закрылась мировым соглашением на полтора миллиарда долларов. Юридически всё чисто, римское право знало это две тысячи лет назад под именем ius abutendi, права уничтожить свою вещь. К лету 2026 года вокруг решения сложился отдельный рынок, и букинисты рассказывают об анонимных оптовых заказах на старые тиражи, приходящих через посредников, и о том, что в эти партии попадают редкие и никогда не переиздававшиеся вещи, существующие в единицах экземпляров.

Про варварство говорить не буду, потому что это было бы нечестно. Издательская индустрия пульпирует непроданные тиражи промышленно и постоянно, деструктивное сканирование давно стандартная библиотечная процедура, и большая часть срезанного в Panama это заурядные книги с десятками тысяч близнецов на складах. Смущает здесь другое обстоятельство, техническое и потому надёжное. Всякая прошлая оцифровка оставляла оригинал в живых. Google, когда сканировал библиотечные фонды двадцать лет назад, возвращал тома на полку, и суд второго округа в 2015 году это благословил. Здесь копии не остаётся вовсе, потому что из весов языковой модели книгу достать нельзя, и на этом же настаивает защита в суде, доказывая, что модель не хранит текст, а учится на нём. Значит, произошло не копирование, а переработка сырья, после которой исходник существует только в виде статистической тени.

Для человека, который занимается историей, здесь ломается главный инструмент профессии. Критика источника целиком стоит на возможности вернуться к подлиннику и проверить посредника, будь то переписчик, публикатор или переводчик; свидетельство, которое нельзя сверить, называется слухом. Корпус, живущий исключительно внутри модели, непроверяем в принципе. Нельзя установить, что именно там было, нельзя оспорить прочтение, нельзя даже узнать, чего в выборке не оказалось. Мы возвращаемся к докритическому отношению к знанию, которое филология ломала с пятнадцатого века, только теперь роль монастырского скриптория играет коммерческая компания с закрытым списком закупок.

Утешаться скоростью прогресса тут не выйдет, потому что похожее уже было, и совсем недавно. С пятидесятых по девяностые американские библиотеки, включая Библиотеку Конгресса, снимали газеты и книги на микрофильм и уничтожали оригиналы под разговоры о хрупкой бумаге и экономии площади; Николсон Бейкер в книге Double Fold разобрал эту историю и показал, что бумага держалась куда лучше обещанного, плёнка выцветала быстрее бумаги, а вместе с подшивками навсегда ушли цвет, вёрстка, реклама и всё, что не считалось содержанием. Каждое поколение инженеров уверено, что его формат окончательный. Тряпичная бумага шестнадцатого века сегодня читается без усилий, кислотная бумага живёт около века, магнитная лента лет тридцать, а веса нейросети морально мертвы через два года и никем не хранятся как памятник.

Отсюда и растёт мысль, которая мне тут кажется главной. Библиотека остаётся единственным местом, где знание нельзя обновить дистанционно. Отпечатанную книгу невозможно отредактировать после продажи, отозвать по решению юротдела, тихо переписать в ночном обновлении, поставить за пейвол или растворить в новой версии, потому что она физически лежит у вас на полке и говорит ровно то, что говорила при печати. Всё остальное поддаётся правке: облачный файл, учебник в приложении, статья в базе, ответ модели, у которого вообще нет предыдущей редакции для сравнения. Мир идёт к тому, что почти вся память человечества будет храниться в форме, допускающей бесшумное исправление задним числом, и на этом фоне бумажный том превращается из мебели в улику.

Тогда и становится понятно, за что пойдёт настоящая драка. Она не будет похожа на костры, костры это реклама и слишком заметно. Она выглядит как оптовый заказ через анонимного посредника, как закрытие районного филиала ради экономии, как оцифровка фонда с последующим списанием бумаги, как накладная на две палеты старых изданий без имени конечного покупателя. Городская библиотека с её случайными книгами, никому не нужными краеведческими сборниками и подшивками районных газет становится единственным местом на земле, где хранится версия событий, которую нельзя привести в соответствие с текущей. Тот, у кого на руках подлинник, может доказать расхождение, и это единственная форма власти, которая у него остаётся.

Так что если у вас есть привычка держать книги дома, держите их и дальше, особенно те, что никому не интересны. Ведь прямо сейчас, где-то, какой-то букинист заклеивает коробку и выкатывает её к грузовику. Накладная выписана на посредника, имя покупателя в ней не указано.... Времена...

🔴 Больше Хроник Конца Времён — @Secretariatus