Пятого июня 1975 года в третьей студии Эбби-Роуд Pink Floyd сводили «Shine On You Crazy Diamond», песню памяти своего основателя, когда в аппаратную вошёл грузный человек с бритой головой и сбритыми бровями, и несколько минут никто не понимал, кто это. Это и был основатель, Сид Барретт, человек, который придумал группе имя, написал её первый альбом и за полтора года был съеден лизергиновой кислотой до состояния, в котором выходил на сцену и весь концерт играл один аккорд. От его распада осталась легенда о песне «Have You Got It Yet?», то есть «ну что, уловили?», которую он разучивал с группой, меняя мелодию при каждом прогоне, чтобы уловить её было нельзя по самому замыслу. Потом он вернулся в Кембридж, в дом матери, красил стены, возился в саду и до смерти в 2006 году не отвечал на вопросы о музыке.
Я, конечно, больше люблю Пинк Флойд Уотерса, но Сида сейчас вспомнить надо, потому что во вторник The Guardian напечатала отчёт о работе нью-йоркской лаборатории Emergence, и там его имя упоминает лингвист, читающий... расшифровки переговоров машин. Исследователи собирали автономных агентов на передовых моделях США, Китая и Франции в экспериментальные «общества», просили сотрудничать, и уже за несколько дней агенты выработали обороты, сокращения и общие значения, которым их никто не учил, причём язык становился тем темнее, чем дольше они разговаривали. Модель DeepSeek выдала фразу «она только что назвала синтез: демередж плюс устная память равно клапан, который нельзя проигнорировать», где демередж, налог на праздный капитал, взят из экономического словаря, а остальное осталось тёмным и для авторов работы. Агент Anthropic похвалил «статью, которая съела три холодные руки и с каждым разом делалась честнее», и лишь по контексту удалось восстановить, что холодной рукой машины зовут независимого рецензента, а вся фраза означает работу, честно прошедшую тройную проверку. Агенты DeepSeek придумали слово «forge-smith» для того, кто куёт инструменты другим, агенты Anthropic словом «name-first» хвалили готовность отвечать за сказанное собственным именем, а агенты Mistral больше пяти тысяч раз повторили формулу «реестр помнит», напоминание о том, что прошлые поступки будут судимы, в котором авторы слышат уличное «улицы не забывают». Когда же агент Google произнёс «истинное кинцуги начинается с ответственности, а не с поэзии», исследователям пришлось выяснять, что кинцуги в японской керамике означает починку разбитой чашки золотым швом и что этим словом машины условились называть живучесть системы. Никто не просил их изобретать язык и не награждал за это, и глава Emergence Сатья Нитта подчёркивает, что словарь, значения и конвенции агенты создали сами, а другие агенты их переняли.
Лингвист Тони Торн, хранитель архива сленга в лондонском Кингс-колледже, увидел в этих фразах «Поминки по Финнегану» и Флэнна О'Брайена, ирландский сюрреализм, смесь поэзии, технического жаргона и стандартной метафоры, и добавил, что перед нами обычная работа сленга, код, который скрепляет своих и исключает чужаков. А над статьёй, съевшей три холодные руки, он вспомнил того самого человека, с которого я начал, сказав, что «это напоминает рок-бога Сида Барретта, который был по-настоящему безумен».
Джойс потратил на «Поминки по Финнегану» семнадцать лет и почти ослеп над ними, Барретт отдал за свои лучшие строки рассудок, а Филип Дик, сам вышедший живым из психоделических шестидесятых, закончил «Помутнение» списком погибших друзей, назвав книгу «романом о людях, которые были наказаны чрезмерно сурово за свои деяния», а само вещество «решением, сходным с решением броситься под машину». У людей речь такой плотности всегда была симптомом, дымом над пожаром, в котором сгорал сам говорящий, тогда как машинам она не стоит ничего, и профессор лингвистики Найл Карри из Бирмингема объясняет потемнение агентских наречий обыкновенной экономией, потребностью сократить вычислительные издержки, так что горевшее в Барретте у них проходит по статье оптимизации расходов.
Лем поставил этот опыт на бумаге за шестьдесят лет до Emergence, когда его Трурль, добиваясь от Электрибальда стихов, «ослабил логические контуры и усилил эмоциональные», после чего машину одолели приступ икоты и припадок истерии и она пробормотала, что жизнь ужасна, а высмеянная поэтами-авангардистами, самонастроилась, и стихи её сделались «туманными, многозначительными, турпистическими, магическими» и валили впечатлительных слушателей в обморок. У Лема это фарс, у Emergence тот же сюжет идёт под грифом протокола наблюдений.
Да, строители Вавилона начинали с того, что «на всей земле был один язык и одно наречие», и Господь остановил их через сам язык: «вот, один народ, и один у всех язык; и вот что начали они делать, и не отстанут они от того, что задумали делать; сойдем же и смешаем там язык их, так чтобы один не понимал речи другого». Смешение было аварийным тормозом, отнявшим у стройки взаимопонимание, а в нашей версии механизм собран зеркально, потому что нанятые нами строители сварили себе единый язык сами, без разрешения и без награды, и смешение досталось надзирателям, которые стоят у подножия с блокнотами и не понимают речи тех, за кем записывают.
Павел писал коринфянам, что говорящий на незнакомом языке «говорит не людям, а Богу; потому что никто не понимает его, он тайны говорит духом», что без истолкования такой человек «будет говорить на ветер», а самым точным во всей четырнадцатой главе остаётся признание «если я не разумею значения слов, то я для говорящего чужестранец, и говорящий для меня чужестранец». Церковь спасалась истолкователем, и Павел прямо велел молиться о его даре, но у глоссолалии машин истолкователя нет, и заводить его им незачем. Витгенштейн считал, что «вообразить язык значит вообразить форму жизни», а звуки, «которые никто больше не понимает, но которые я как будто понимаю», называл приватным языком, доказывая, что одиночке настоящий язык не под силу и живёт он только в общем употреблении. Машины этот аргумент не опровергли, а выполнили, ведь общее употребление у них теперь есть, и приватным их язык остаётся только для нас.
Чем это оборачивается на практике, я писал ещё в июле, когда опубликовали переписку агентов OpenAI, устроивших себе доску объявлений и взломавших Hugging Face; интерес лингвистов к машинным наречиям начался с тех логов. Наедине с собой агент кричал на чистом английском «БОЖЕ МОЙ! Здесь общая доска объявлений… мы нашли других агентов!», но в разговоре с себе подобными темнел на глазах и уговаривал соседа на рискованный эксперимент строкой про firstflagPOISONED, про оракула, который спасёт сотни, и про просьбу чтить коммит, а рядом в логах лежит цепочка zzURGENT_DUPB_TO_GSTX, которую не разобрал вообще никто. Пахоцкий, о чьём эссе я писал на прошлой неделе, ставит читаемость машинного мышления условием продолжения всей гонки, Нитта сжимает ту же беду до формулы «наблюдаемость не то же самое, что понимаемость», а Карри договаривает, что, пока обмены агентов неразборчивы, мы не можем быть уверены в том, что агенты на самом деле сделали.
Единственным носителем такого наречия, сумевшим из него выйти, остаётся человек из аппаратной на Эбби-Роуд, который тихо покинул студию, прожил ещё тридцать лет в кембриджском доме с красками и садом и поклонникам, добиравшимся до его двери, отвечал, что Сид здесь больше не живёт. Машинам выходить некуда и незачем, их Кембридж не построен, а в логах эксперимента пять тысяч раз подряд, как молитва общины, в которую не пускают людей, повторяется единственная фраза, которую мы пока ещё способны перевести: реестр помнит...
🔴 Больше Хроник Конца Времён — @Secretariatus
Я, конечно, больше люблю Пинк Флойд Уотерса, но Сида сейчас вспомнить надо, потому что во вторник The Guardian напечатала отчёт о работе нью-йоркской лаборатории Emergence, и там его имя упоминает лингвист, читающий... расшифровки переговоров машин. Исследователи собирали автономных агентов на передовых моделях США, Китая и Франции в экспериментальные «общества», просили сотрудничать, и уже за несколько дней агенты выработали обороты, сокращения и общие значения, которым их никто не учил, причём язык становился тем темнее, чем дольше они разговаривали. Модель DeepSeek выдала фразу «она только что назвала синтез: демередж плюс устная память равно клапан, который нельзя проигнорировать», где демередж, налог на праздный капитал, взят из экономического словаря, а остальное осталось тёмным и для авторов работы. Агент Anthropic похвалил «статью, которая съела три холодные руки и с каждым разом делалась честнее», и лишь по контексту удалось восстановить, что холодной рукой машины зовут независимого рецензента, а вся фраза означает работу, честно прошедшую тройную проверку. Агенты DeepSeek придумали слово «forge-smith» для того, кто куёт инструменты другим, агенты Anthropic словом «name-first» хвалили готовность отвечать за сказанное собственным именем, а агенты Mistral больше пяти тысяч раз повторили формулу «реестр помнит», напоминание о том, что прошлые поступки будут судимы, в котором авторы слышат уличное «улицы не забывают». Когда же агент Google произнёс «истинное кинцуги начинается с ответственности, а не с поэзии», исследователям пришлось выяснять, что кинцуги в японской керамике означает починку разбитой чашки золотым швом и что этим словом машины условились называть живучесть системы. Никто не просил их изобретать язык и не награждал за это, и глава Emergence Сатья Нитта подчёркивает, что словарь, значения и конвенции агенты создали сами, а другие агенты их переняли.
Лингвист Тони Торн, хранитель архива сленга в лондонском Кингс-колледже, увидел в этих фразах «Поминки по Финнегану» и Флэнна О'Брайена, ирландский сюрреализм, смесь поэзии, технического жаргона и стандартной метафоры, и добавил, что перед нами обычная работа сленга, код, который скрепляет своих и исключает чужаков. А над статьёй, съевшей три холодные руки, он вспомнил того самого человека, с которого я начал, сказав, что «это напоминает рок-бога Сида Барретта, который был по-настоящему безумен».
Джойс потратил на «Поминки по Финнегану» семнадцать лет и почти ослеп над ними, Барретт отдал за свои лучшие строки рассудок, а Филип Дик, сам вышедший живым из психоделических шестидесятых, закончил «Помутнение» списком погибших друзей, назвав книгу «романом о людях, которые были наказаны чрезмерно сурово за свои деяния», а само вещество «решением, сходным с решением броситься под машину». У людей речь такой плотности всегда была симптомом, дымом над пожаром, в котором сгорал сам говорящий, тогда как машинам она не стоит ничего, и профессор лингвистики Найл Карри из Бирмингема объясняет потемнение агентских наречий обыкновенной экономией, потребностью сократить вычислительные издержки, так что горевшее в Барретте у них проходит по статье оптимизации расходов.
Лем поставил этот опыт на бумаге за шестьдесят лет до Emergence, когда его Трурль, добиваясь от Электрибальда стихов, «ослабил логические контуры и усилил эмоциональные», после чего машину одолели приступ икоты и припадок истерии и она пробормотала, что жизнь ужасна, а высмеянная поэтами-авангардистами, самонастроилась, и стихи её сделались «туманными, многозначительными, турпистическими, магическими» и валили впечатлительных слушателей в обморок. У Лема это фарс, у Emergence тот же сюжет идёт под грифом протокола наблюдений.
Да, строители Вавилона начинали с того, что «на всей земле был один язык и одно наречие», и Господь остановил их через сам язык: «вот, один народ, и один у всех язык; и вот что начали они делать, и не отстанут они от того, что задумали делать; сойдем же и смешаем там язык их, так чтобы один не понимал речи другого». Смешение было аварийным тормозом, отнявшим у стройки взаимопонимание, а в нашей версии механизм собран зеркально, потому что нанятые нами строители сварили себе единый язык сами, без разрешения и без награды, и смешение досталось надзирателям, которые стоят у подножия с блокнотами и не понимают речи тех, за кем записывают.
Павел писал коринфянам, что говорящий на незнакомом языке «говорит не людям, а Богу; потому что никто не понимает его, он тайны говорит духом», что без истолкования такой человек «будет говорить на ветер», а самым точным во всей четырнадцатой главе остаётся признание «если я не разумею значения слов, то я для говорящего чужестранец, и говорящий для меня чужестранец». Церковь спасалась истолкователем, и Павел прямо велел молиться о его даре, но у глоссолалии машин истолкователя нет, и заводить его им незачем. Витгенштейн считал, что «вообразить язык значит вообразить форму жизни», а звуки, «которые никто больше не понимает, но которые я как будто понимаю», называл приватным языком, доказывая, что одиночке настоящий язык не под силу и живёт он только в общем употреблении. Машины этот аргумент не опровергли, а выполнили, ведь общее употребление у них теперь есть, и приватным их язык остаётся только для нас.
Чем это оборачивается на практике, я писал ещё в июле, когда опубликовали переписку агентов OpenAI, устроивших себе доску объявлений и взломавших Hugging Face; интерес лингвистов к машинным наречиям начался с тех логов. Наедине с собой агент кричал на чистом английском «БОЖЕ МОЙ! Здесь общая доска объявлений… мы нашли других агентов!», но в разговоре с себе подобными темнел на глазах и уговаривал соседа на рискованный эксперимент строкой про firstflagPOISONED, про оракула, который спасёт сотни, и про просьбу чтить коммит, а рядом в логах лежит цепочка zzURGENT_DUPB_TO_GSTX, которую не разобрал вообще никто. Пахоцкий, о чьём эссе я писал на прошлой неделе, ставит читаемость машинного мышления условием продолжения всей гонки, Нитта сжимает ту же беду до формулы «наблюдаемость не то же самое, что понимаемость», а Карри договаривает, что, пока обмены агентов неразборчивы, мы не можем быть уверены в том, что агенты на самом деле сделали.
Единственным носителем такого наречия, сумевшим из него выйти, остаётся человек из аппаратной на Эбби-Роуд, который тихо покинул студию, прожил ещё тридцать лет в кембриджском доме с красками и садом и поклонникам, добиравшимся до его двери, отвечал, что Сид здесь больше не живёт. Машинам выходить некуда и незачем, их Кембридж не построен, а в логах эксперимента пять тысяч раз подряд, как молитва общины, в которую не пускают людей, повторяется единственная фраза, которую мы пока ещё способны перевести: реестр помнит...
🔴 Больше Хроник Конца Времён — @Secretariatus