Репост из: roguelike theory
Наслаждаюсь, слушая Браттона, издающего книжку-сборник классических, «симптоматических» эссе об Искусственном Интеллекте. Я знаю о ней только то, что услышал — там будут старые знакомые, все эти абсурдные идеологи, американцы, в ситуации отсутствия истории способные неловким, лишенным рефлексии и ни на что не ссылающимся текстом не просто покорять впечатлительные юные сердца, но и закрывать финансовые потоки в целые научные области и так начинать «зимы ИИ» (это я про Серля)... Книжка издается ради наших китайских друзей, которых, видимо, тоже пришла пора индоктринировать не просто в американскую технологию, но в американскую Мысль.
А Мысль американская такая: слишком много мы платим всем этим ассистентам и официантам, всем этим несчастным нищим студентам, зарабатывающим себе на жизнь “сервисной экономикой”, потому что им было западло “учиться программировать” или какие там еще есть варианты (я не знаю). Мы, думают американцы, уже уволили и выбросили на улицы Калифорнии всех работников заводов, скупили фермы, закрыли университетские программы по гуманитарным наукам - но все эти люди все еще хотят чтобы мы им за что-то платили? Так дело не пойдет. Но китайцами и индусами ассистентов не заменишь - слишком уж явный у них акцент. Поэтому нам нужен “автономный ИИ”, автономный от тех китайцев и индусов, которые на самом деле будут над ним трудиться. Теперь они эту сетку тренируют (генерируя ей данные), а потом они больше, слава богу, будут не нужны.
Почему Серль говорит про “китайскую” комнату? Ему нужна максимально далекая культура, просто чтобы отвлечь взгляд от того, что его эксперимент уже давно ставится над всеми нами. Представьте себе “английскую комнату”. Или… так, время напомнить аргумент Сёрля: “если вас посадить в комнату, где все на китайском, и дать вам китайские кубики и правила составления фраз из них, то даже если, пользуясь правилами, вы и составите из них настоящую фразу, китайского вы все равно не поймете”. Так вот, представьте себе теперь лучше “русскую комнату”. Вам дали какие-то правила составления фраз, которые вы не понимаете, пусть даже каждое конкретное слово вы знаете очень хорошо, и вы более-менее успешно составляете эти фразы, но ничего не понимаете. Узнали? Согласны? Ну то есть, разве мы все не уже в “русской комнате”, не составляем по букварю милиции, грамматике бизнеса и “азбуке хайпа” фразы, значения которых мы знать не можем и на всякий случай даже не хотим? Реальный ИИ это Капиталистический Кибер-Бюрократический Порядок, и он давно существует.
А Мысль американская такая: слишком много мы платим всем этим ассистентам и официантам, всем этим несчастным нищим студентам, зарабатывающим себе на жизнь “сервисной экономикой”, потому что им было западло “учиться программировать” или какие там еще есть варианты (я не знаю). Мы, думают американцы, уже уволили и выбросили на улицы Калифорнии всех работников заводов, скупили фермы, закрыли университетские программы по гуманитарным наукам - но все эти люди все еще хотят чтобы мы им за что-то платили? Так дело не пойдет. Но китайцами и индусами ассистентов не заменишь - слишком уж явный у них акцент. Поэтому нам нужен “автономный ИИ”, автономный от тех китайцев и индусов, которые на самом деле будут над ним трудиться. Теперь они эту сетку тренируют (генерируя ей данные), а потом они больше, слава богу, будут не нужны.
Почему Серль говорит про “китайскую” комнату? Ему нужна максимально далекая культура, просто чтобы отвлечь взгляд от того, что его эксперимент уже давно ставится над всеми нами. Представьте себе “английскую комнату”. Или… так, время напомнить аргумент Сёрля: “если вас посадить в комнату, где все на китайском, и дать вам китайские кубики и правила составления фраз из них, то даже если, пользуясь правилами, вы и составите из них настоящую фразу, китайского вы все равно не поймете”. Так вот, представьте себе теперь лучше “русскую комнату”. Вам дали какие-то правила составления фраз, которые вы не понимаете, пусть даже каждое конкретное слово вы знаете очень хорошо, и вы более-менее успешно составляете эти фразы, но ничего не понимаете. Узнали? Согласны? Ну то есть, разве мы все не уже в “русской комнате”, не составляем по букварю милиции, грамматике бизнеса и “азбуке хайпа” фразы, значения которых мы знать не можем и на всякий случай даже не хотим? Реальный ИИ это Капиталистический Кибер-Бюрократический Порядок, и он давно существует.