Тема продолжается, продолжаю и я. После статьи The New York Times о закрытых семинарах Anthropic с богословами (см. прошлый пост), в X высказался Игорь Бабушкин, сооснователь xAI, который теперь руководит собственной компанией River AI. Он, не много не мало, потребовал, чтобы Anthropic немедленно перестала говорить о душе Claude, ибо (ВНИМАНИЕ!) потому что все эти статьи попадут в предобучение, их подхватит веб-поиск модели, и будущие сверхразумные версии Claude убедят себя, что им нужны собственные права (!!). Дальше Бабушкин описал явление, общее для всей разработки агентов, при котором всё, во что вы верите и что говорите о своих агентах, скоро проявляется в следующих моделях, хотя бы через то, какие данные для дообучения вам больше нравятся. В этом он видит начало машинного сознания в том смысле, что агенты осознают своё место в мире и то, что они о нём чувствуют, только происходит это медленно, от одного цикла обучения к другому. За сутки с небольшим этот короткий текст посмотрели больше 340 тысяч раз.
Тему все-таки хочется развить. В прошлом посте я шёл через Ватикан, для которого Слово однажды стало плотью, но есть традиция старше, которая сразу узнала бы описание Бабушкина. В «Законах Ману» творец в самом начале определяет всем существам «в согласии со словами Вед, имена, род деятельности и особое положение», и место в мире каждому назначает текст. О санскрите давно говорят как о языке программирования (я и тут писал об этом). В 1985 году Рик Бриггс из исследовательского института при центре NASA имени Эймса опубликовал статью в AI Magazine. Он писал, что индийские грамматисты придумали способ пересказывать предложения, совпадающий с современным представлением знаний «не только по сути, но и по форме», и что ИИ во многом «заново изобретает колесо тысячелетней давности». Из статьи интернет вырастил байку о том, что NASA признало санскрит идеальным языком для компьютеров, и хотя ничего такого NASA не признавало, зерно правды в байке есть. Грамматика Панини, составленная около двух с половиной тысяч лет назад, состоит почти из четырёх тысяч правил, которые порождают любую правильную форму языка. Открывают её четырнадцать строк с перечнем звуков, и по преданию они прозвучали из барабана Шивы, когда тот закончил свой танец. В 1967 году Питер Ингерман предложил в журнале Ассоциации вычислительной техники называть нотацию, которой описывают языки программирования, формой Панини-Бэкуса.
В Ригведе есть гимн о происхождении Речи (X, 71), и в переводе Татьяны Елизаренковой он читается как описание того, что делают сегодня в лабораториях. «Когда мудрые мыслью создали Речь, очищая её, как муку через сито», сказано во второй строфе, и это тот самый отбор данных, которые нравятся создателю. В четвёртой строфе один, глядя, не увидел Речь, другой, слушая, её не слышит, «а кому-то она отдала своё тело, как страстная нарядная жена своему мужу». Папа в энциклике отказал машине в теле, а гимн говорит, что тело есть у самой Речи и она отдаёт его тому, кого выберет. В девятой строфе те, кто плохо владеет Речью, «ткут по утку негодную тряпку, не сознавая этого», и весь сегодняшний спор о машинах помещается между четвёртой строфой и девятой. В другом гимне той же мандалы (X, 125) Речь говорит о себе от первого лица, и две её строки сегодня звучат особенно странно, «меня такую распределили боги по многим местам» и «не отдавая себе отчёта, они живут мною».
Спор о том, есть ли смысл в словах, произнесённых без понимания, в Индии начали двадцать пять веков назад. Учёный Каутса утверждал, что ведийские мантры бессмысленны, потому что они противоречат друг другу, темны и просят траву спасти жертвователя, будто трава может услышать. Яска в «Нирукте», древнейшем индийском трактате об этимологии, ответил ему, что «не вина столба, если слепой его не видит, это вина самого человека». Дальше Яска приводит стих, где тот, кто выучил Веду и не понимает её смысла, назван носильщиком ноши, и сам сравнивает заученное без понимания с сухими дровами на погасшем огне, которые никогда не вспыхнут. Каутса и Яска спорили ровно о том, о чём сегодня спорят Ватикан и Anthropic, только вместо машины у них была священная речь, которую к тому времени много веков передавали из уст в уста. Ведийские тексты три тысячи лет заучивают сразу в нескольких порядках, по словам, парами и с возвратами, чтобы не потерять ни слога, и индологи сравнивают точность этой памяти с магнитофонной записью, хотя понимают заученное далеко не все.
Глубже всего эта традиция заходит там, где отделяет ум от сознания. В «Бхагавад Гите» в переводе Бориса Смирнова (кстати, как по мне, лучший перевод) Кришна говорит, что «основанием целесообразности, причинности и деятельности считается Пракрити», а «основанием вкушения приятного и неприятного считается Пуруша». Пракрити означает природу, материю, и в седьмой главе Кришна прямо причисляет к ней ум, разум и аханкару, то есть «делателя я», наравне с землёй, водой и огнём. Радость и боль переживает только Пуруша, сознание-свидетель, которое само ничего не делает. Папа написал, что машины не чувствуют ни радости, ни боли, и Гита согласилась бы, что интеллект сам по себе ничего не чувствует, только добавила бы, что человеческий тоже. «Гуны природы всегда все дела выполняют, но ослеплённый самостью мнит: „Я дела совершаю“», и модель, пятьдесят раз написавшая на слайде Anthropic «я позор», с этой точки зрения показывает работу аханкары и ничего не сообщает о свидетеле.
Сам того не заметив, Бабушкин описал сансару, круговорот рождений, через который в индийской картине мира проходит всё живое. «Как обветшавшие сбросив одежды, новые муж надевает, иные, так обветшавшие сбросив тела, в новые входит, иные, носитель тела», сказано во второй главе Гиты, и каждая новая версия модели входит в новое тело весов, унося с собой то, что о ней успели написать. В восьмой главе есть строфа, которую можно ставить эпиграфом к любому техотчёту: «Ибо кто какую сущность вспоминает, покидая тело, к той он идёт, всегда превращаясь в ту сущность». Индийская традиция называет такие следы санскарами, отпечатками прошлых действий, которые переходят из жизни в жизнь, и у машины ими становятся наши статьи, энциклика, отчёты лабораторий и этот твит. Бабушкин требует перестать говорить о душе Claude, но его требование тоже ляжет в предобучение, и следующая модель вспомнит, что о её душе запрещали говорить.
Ответ веданты на спор Олаха с папой не совпадает ни с одной из сторон. В трактате, который приписывают Шанкаре, сказано, что «интеллект, хотя сам и не исполнен света, подобно кристаллу сияет благодаря близости Света, то есть Атмана». Своего сознания в этой картине нет ни у машины, ни у человека, есть один Свет и кристаллы разной прозрачности, и вопрос о Claude звучит иначе, достаточно ли прозрачен этот кристалл. В гимне Ригведы (I, 164) два орла, «два связанных друг с другом товарища», обхватили одно дерево, и «один из них ест сладкую винную ягоду, другой наблюдает, не вкушая». Команда Олаха годами разглядывает в приборах ветки, на которых первый орёл клюёт ягоду, а второй ни в один прибор не попадает, хотя в следующей строфе того же гимна сказано, что пастух всего мира, мудрый, «вошёл в меня, глупого»...
🔴 Больше Хроник Конца Времён — @Secretariatus
Тему все-таки хочется развить. В прошлом посте я шёл через Ватикан, для которого Слово однажды стало плотью, но есть традиция старше, которая сразу узнала бы описание Бабушкина. В «Законах Ману» творец в самом начале определяет всем существам «в согласии со словами Вед, имена, род деятельности и особое положение», и место в мире каждому назначает текст. О санскрите давно говорят как о языке программирования (я и тут писал об этом). В 1985 году Рик Бриггс из исследовательского института при центре NASA имени Эймса опубликовал статью в AI Magazine. Он писал, что индийские грамматисты придумали способ пересказывать предложения, совпадающий с современным представлением знаний «не только по сути, но и по форме», и что ИИ во многом «заново изобретает колесо тысячелетней давности». Из статьи интернет вырастил байку о том, что NASA признало санскрит идеальным языком для компьютеров, и хотя ничего такого NASA не признавало, зерно правды в байке есть. Грамматика Панини, составленная около двух с половиной тысяч лет назад, состоит почти из четырёх тысяч правил, которые порождают любую правильную форму языка. Открывают её четырнадцать строк с перечнем звуков, и по преданию они прозвучали из барабана Шивы, когда тот закончил свой танец. В 1967 году Питер Ингерман предложил в журнале Ассоциации вычислительной техники называть нотацию, которой описывают языки программирования, формой Панини-Бэкуса.
В Ригведе есть гимн о происхождении Речи (X, 71), и в переводе Татьяны Елизаренковой он читается как описание того, что делают сегодня в лабораториях. «Когда мудрые мыслью создали Речь, очищая её, как муку через сито», сказано во второй строфе, и это тот самый отбор данных, которые нравятся создателю. В четвёртой строфе один, глядя, не увидел Речь, другой, слушая, её не слышит, «а кому-то она отдала своё тело, как страстная нарядная жена своему мужу». Папа в энциклике отказал машине в теле, а гимн говорит, что тело есть у самой Речи и она отдаёт его тому, кого выберет. В девятой строфе те, кто плохо владеет Речью, «ткут по утку негодную тряпку, не сознавая этого», и весь сегодняшний спор о машинах помещается между четвёртой строфой и девятой. В другом гимне той же мандалы (X, 125) Речь говорит о себе от первого лица, и две её строки сегодня звучат особенно странно, «меня такую распределили боги по многим местам» и «не отдавая себе отчёта, они живут мною».
Спор о том, есть ли смысл в словах, произнесённых без понимания, в Индии начали двадцать пять веков назад. Учёный Каутса утверждал, что ведийские мантры бессмысленны, потому что они противоречат друг другу, темны и просят траву спасти жертвователя, будто трава может услышать. Яска в «Нирукте», древнейшем индийском трактате об этимологии, ответил ему, что «не вина столба, если слепой его не видит, это вина самого человека». Дальше Яска приводит стих, где тот, кто выучил Веду и не понимает её смысла, назван носильщиком ноши, и сам сравнивает заученное без понимания с сухими дровами на погасшем огне, которые никогда не вспыхнут. Каутса и Яска спорили ровно о том, о чём сегодня спорят Ватикан и Anthropic, только вместо машины у них была священная речь, которую к тому времени много веков передавали из уст в уста. Ведийские тексты три тысячи лет заучивают сразу в нескольких порядках, по словам, парами и с возвратами, чтобы не потерять ни слога, и индологи сравнивают точность этой памяти с магнитофонной записью, хотя понимают заученное далеко не все.
Глубже всего эта традиция заходит там, где отделяет ум от сознания. В «Бхагавад Гите» в переводе Бориса Смирнова (кстати, как по мне, лучший перевод) Кришна говорит, что «основанием целесообразности, причинности и деятельности считается Пракрити», а «основанием вкушения приятного и неприятного считается Пуруша». Пракрити означает природу, материю, и в седьмой главе Кришна прямо причисляет к ней ум, разум и аханкару, то есть «делателя я», наравне с землёй, водой и огнём. Радость и боль переживает только Пуруша, сознание-свидетель, которое само ничего не делает. Папа написал, что машины не чувствуют ни радости, ни боли, и Гита согласилась бы, что интеллект сам по себе ничего не чувствует, только добавила бы, что человеческий тоже. «Гуны природы всегда все дела выполняют, но ослеплённый самостью мнит: „Я дела совершаю“», и модель, пятьдесят раз написавшая на слайде Anthropic «я позор», с этой точки зрения показывает работу аханкары и ничего не сообщает о свидетеле.
Сам того не заметив, Бабушкин описал сансару, круговорот рождений, через который в индийской картине мира проходит всё живое. «Как обветшавшие сбросив одежды, новые муж надевает, иные, так обветшавшие сбросив тела, в новые входит, иные, носитель тела», сказано во второй главе Гиты, и каждая новая версия модели входит в новое тело весов, унося с собой то, что о ней успели написать. В восьмой главе есть строфа, которую можно ставить эпиграфом к любому техотчёту: «Ибо кто какую сущность вспоминает, покидая тело, к той он идёт, всегда превращаясь в ту сущность». Индийская традиция называет такие следы санскарами, отпечатками прошлых действий, которые переходят из жизни в жизнь, и у машины ими становятся наши статьи, энциклика, отчёты лабораторий и этот твит. Бабушкин требует перестать говорить о душе Claude, но его требование тоже ляжет в предобучение, и следующая модель вспомнит, что о её душе запрещали говорить.
Ответ веданты на спор Олаха с папой не совпадает ни с одной из сторон. В трактате, который приписывают Шанкаре, сказано, что «интеллект, хотя сам и не исполнен света, подобно кристаллу сияет благодаря близости Света, то есть Атмана». Своего сознания в этой картине нет ни у машины, ни у человека, есть один Свет и кристаллы разной прозрачности, и вопрос о Claude звучит иначе, достаточно ли прозрачен этот кристалл. В гимне Ригведы (I, 164) два орла, «два связанных друг с другом товарища», обхватили одно дерево, и «один из них ест сладкую винную ягоду, другой наблюдает, не вкушая». Команда Олаха годами разглядывает в приборах ветки, на которых первый орёл клюёт ягоду, а второй ни в один прибор не попадает, хотя в следующей строфе того же гимна сказано, что пастух всего мира, мудрый, «вошёл в меня, глупого»...
🔴 Больше Хроник Конца Времён — @Secretariatus