Чорт ногу сломит

​Повторение – мать пропаганды

В пропагандистских войнах никакое одно событие, заявление или статья не играют решающего значения – они могут дать ситуативное преимущество одной из сторон, но не могут обеспечить ее победу. В войнах за умы людей работает только последовательная и методичная обработка определенными посланиями пропаганды. Повторение — мать учения.

Пропаганда использует простое когнитивное искажение: чем чаще что-то повторяется, тем более правдоподобным оно кажется людям. Люди тысячелетиями знали о силе повторения, но по-настоящему эта сила заиграла тогда, когда в первой половине 20 века в домах у всех граждан появилось радио. У пропагандистов появилась возможность многократно повторять одно и то же одновременно миллионам людей. Послушав утром радио, они выходили на работу и повторяли услышанные тезисы друг другу, затем возвращались домой и за ужином опять слышали эти тезисы из радио.

Первым такую силу радио раскрыл нацистский министр пропаганды Геббельс, который даже спродюсировал появление недорогого “народного радиоприемника”, который мог бы себе позволить купить каждый немец. В повторяемых через эти дешевые приемники посланиях и родился тот самый “нацистский дух” немецкого народа. Родился в головах миллионы немцев, повторявших одни и те же геббельсовы ложные тезисы раз за разом, пока эти тезисы не становились правдой для всего народа.

Война, через которую мы сейчас проходим, — в первую очередь информационная и пропагандистская война, в которой задействовано на порядок больше людей, чем в непосредственных боевых действиях. Все они повторяют одни и те же утомительные тезисы, которые лично я у себя в голове перебиваю повторением другого утомительного тезиса: «Ничто не истинно, все дозволено».

«Чума, Киборги и Суперсолдаты» ч. 6

Генетическое усиление — это использование доступной геномной информации для изменения характеристик человеческого тела или окружающей среды с целью повышения устойчивости на микро (индивидуальном) или макро (общественном) уровне. С ним все еще проще — «это потенциально доступные в ближайшем будущем генетические модификации ключевых боевых качеств солдата: например, возможность дольше функционировать без сна, большая физическая выносливость, улучшенная дыхательная способность.»

Авторы доклада отмечают, что все еще до конца неясно, получиться ли генетически усиливать людей на массовом потоке — для этого есть ряд неразрешенных научных препятствий. Однако, отмечают они, в Китае в этом направлении работают не первый год: например, компания BGI Group разработала пренатальный генетический тест и вместе с китайскими военными работает над улучшением «качества населения» на основе данных этого теста.

«Пример 6. Генетическое усиление для обедненной окружающей среды
К 2050 году программа NASA «Артемида» уже более двадцати лет пользуется большим успехом, позволяя космонавтам выполнять различные миссии по исследованию лунной поверхности. Однако с созданием нескольких постоянных баз на Луне между крупнейшими космическими державами разразилась новая Холодная война из-за конкуренции за владение этими базами. USSF отправляет отважную молодую капитаншу в ее первую миссию поддержки на Луну. Когда космический корабль мчится к одной из таких оспариваемых баз, она смотрит в окно на восход Луны.

За несколько мгновений до приземления из-за пробоины в корпусе из углеродного волокна капитанского космического корабля (проблема, вероятно, вызвана тем, что этот полет стал пятым повторным использованием корабля), привела к тому, что он отклонился от курса. Капитан приземляется в нескольких милях от лунной базы, и ей не хватит воздуха и воды, чтобы добраться туда на марсоходе. Капитан связывается с домашней станцией и просит поддержки. Командир оперативного центра сообщает капитану, что ей разрешено экстренное использование генетического усиления для обедненных сред — эти модфикации должны замедлить дыхание капитана и ее потребление воды, а также продлить ее жизнеобеспечение на 96 часов. Капитан завершает голосовую связь, чтобы сохранить запасы кислорода и воды. Этих 96 часов достаточно для запуска другого космического корабля с материалами для пополнения запасов, и вскоре капитан подтверждает, что она выжила.»

«Чума, Киборги и Суперсолдаты» ч. 5

В заключительной части постов о «Чуме, Киборгах и Суперсолдатах» рассмотрим роль генетических технологий в войне будущего. Ключевые открытия последних лет в сфере геномики — вакцины на основе мРНК и успешное использование методик CRISPR для генетической инженерии — заставили военных всерьез задуматься о милитаризации генов.

Геномика может очень сильно повлиять на подготовку и экипировку солдат, привести к усилению их стойкости, улучшению их способностей и возможностей восстанавливаться. Развитие геномики позволит, например, персонализировать питание и протоколы тренировок бойцов, подобрать и разработать для них оптимальные лекарства и даже генетически их усилить.

RAND выделяет два основных направления генетической мысли у военных: генетический надзор и генетическое усиление.

Генетический надзор — это сочетание генетических данных с технологиями идентификации, сортировки и наблюдения. Генетический надзор сильно напоминает продвинутые техники евгеники и сводится в первую очередь к идентификации самых подходящих для конкретной службы людей на основе генетических данных. Например, «если в государстве будет проводится всеобщая мобилизация, а нужные генетические и фенотипические данные населения будут упорядочены и доступны, то ИИ поможет более эффективно распределить кандидатов на разные виды службы».

Пока что такая генетическая сортировка осложняется из-за недостаточности знаний о связи генотипа (набора генов человека) с фенотипом (набора внешних и внутренних черт характеристик организма). Другими словами, если генотип — это абстрактный чертеж, то фенотип — это характеристики строящегося по этому чертежу здания, а научная проблема заключается в том, что глядя на чертежи мы все еще не знаем, как через год будет выглядеть конкретное здание.

«Геномный надзор принесет дополнительную пользу только в том случае, если он поможет предсказывать потенциальные или будущие фенотипические черты, которые не получается наблюдать через сам фенотип», утверждают аналитики RAND. «Например, генетический тест, предсказывающий рост или силу человека, будет относительно бесполезным, поскольку эти особенности легче и дешевле наблюдать непосредственно в фенотипе. Напротив, генетический тест, который предсказал бы возможность человека освоить специализированный BCI (нейрокомпьютерный интерфейс) после недолгого обучения, мог бы стать очень ценным, при условии что такой будущий потенциал не проще будет определить фенотипически.» А вот как выглядит иллюстрация такого подхода:

«Сценарий 5. Геномный рекрутинговый скрининг

В призывном пункте молчаливый капитан ВМС США наблюдает за 343 новобранцами, которым поручено участвовать в новой программе сброски десантников с орбиты. Капитан быстро просматривает данные отбора на своем планшете. У каждого кандидата есть несколько совокупностей способностей с подробной геномной историей. Геномные данные, собранные во время Selective Service регистрации (прим. американский аналог сдачи данных в военкомат), позволяют быстро идентифицировать кандидатов для участия в нескольких специальных программах на основе генетического потенциала. Оценка аналитического центра показала, что ВВС США (USAF) за счет применения геномных инструментов повысили эффективность отбора пилотов на 15%. Программа орбитального десантирования ВВС США отличалась и была гораздо более требовательной, чем программа отбора пилотов ВВС США; ожидается, что каждый кандидат выдержит испытания прыжков с большой высоты, таких как исторический прыжок Феликса Баумгартнера с высоты 39 000 м. Капитан знал, что эта программа была экспериментальной и рискованной, поэтому рекрутировать нужно только тех, кто соответствует строгим стандартам.»

​«Чума, Киборги и Суперсолдаты» ч.4

В будущем BCI смогут не только считывать, но и записывать информацию в мозг, что позволит военным общаться по сверхзащищенному каналу связи — от мозга к мозгу — и не давать противнику перехватить их коммуникацию. С другой стороны появляются новые опасности: если BCI взломают, то противники потенциально могут внушить страх, замешательство и гнев напрямую в мозг военачальника, помимо его воли и понимания, что может приводить к катастрофическим последствиям. К слову, китайские организации, предположительно помогающие военным разрабатывать «оружие контроля над мозгом» еще в 2021 попали под санкции Министерства торговли США. Аналитики RAND иллюстрируют такую угрозу в следующем гипотетическом сценарии (и попутно троллят президента Байдена):

«Сценарий 4. Нейрокомпьютерный интерфейс, влияющий на настроение

В 2050 году несколько восьмидесятилетних конгрессменов сталкиваются с трудностями во время предвыборной кампаниями из-за слухов о плохом здоровье и плохой когнитивной форме, не соответствующей ролям, на которые они претендуют. Трое из этих членов Конгресса тайно имплантируют в свои мозги самые передовые нейрокомпьютерные интерфейсы (BCI) — практика, которая стала довольно обычной среди богатых пожилых граждан. Ранее у этих членов наблюдались признаки замедления, но этот BCI позволяет им двигаться и говорить нормально, особенно с помощью политических союзников, скрывающих их истинное состояние.

Разработчики BCI подозревают, что их импланты способны не только считывать сигналы мозга, но и тонко и незаметно влиять на темперамент пользователей. Однако разработчики хранят это в тайне, так как пока не могут найти решение для этой проблемы. При таком сценарии эта уязвимость в BCI может вызвать значительный хаос среди конгрессменов. У них могут начаться спонтанные эпизоды неадекватного поведения, забывчивости и иррациональности, и вражды к своим коллегам по Конгрессу, союзникам и партнерам. Население США деморализовано. Ранее дружественные страны начинают дистанцироваться от Соединенных Штатов.»

В чем опасность дисфункции мозга у людей, которые управляют странами и принимают решения от имени миллионов граждан, нам и так ясно. В описанном сценарии не уточняется, почему именно нейроимплант сбоит: из-за несовершенства технологии и беспечности цепляющихся за власть политиков, готовых рисковать и собой, и благополучием страны ради сохранения статуса, или же из-за того, что эти нейроимпланты взломали спецслужбы вражеских стран. Второй вариант — взлом BCI — мне представляется гораздо более вероятным и опасным сценарием.

«Чума, Киборги и Суперсолдаты» ч.3

Интернет тел (Internet of Bodies, или IoB) - это экосистема подключенных к интернету устройств, которые собирают биометрические и сгенерированные телом человека данные. IoB-технологии соединяют организм человека с сетью через устройства подключенные к телу (такие устройства можно проглотить, имплантировать или носить на теле), так что подключенное тело при этом можно мониторить и/или контролировать удаленно.

IoB включает такие устройства, как фитнес трекеры, носимые устройства и другие умные потребительские устройства, а также такие медицинские устройства, подключенные к Интернету, как кардиостимуляторы, экзоскелеты и протезы конечностей, умные контактные линзы и нейроимпланты. Исследователи считают Интернет тел продолжением концепции Интернета вещей и указывают на три поколения, или этапа развития IoB-устройств: внешнее по отношению к телу, находящиеся внутри тела и слившиеся с телом. Люди, чьи способности усиливаются через IoB-устройства, считаются киборгами в соответствии с большинством словарных определений этого термина.

Исследователи RAND подчеркивают, что китайские военные большое значение уделяют развитию биотехнологий и считают их следующей революцией в военном деле — поэтому такие IoB технологии как BCI (Brain-Computer Interface, нейрокомпьютерный интерфейс) и соединение мозгов в единую сеть (brain networking) разрабатываются и тестируются в китайских военных госпиталях. В США самые известные нейрокомпьютерные интерфейсы разрабатывает компания Илона Маска Neuralink.

Нейрокомпьютерные интерфейсы могут быть внешними по отношению к телу (например, шлем для неинвазивной электроэнцефалограммы) или внутренними (нейроимпланты вроде Neuralink). Военные считают оба вида нейроинтерфейсов крайне перспективными с военной точки зрения: например, так как BCI считывают мозговые сигналы и превращают их в команды для внешних устройств, военных пилотов, потерявших контроль над конечностями, хотят через IoB подключать к самолетам, чтобы опытные пилоты продолжали летать несмотря на увечья.

(продолжение в следующем посте)

​«Чума, Киборги и Суперсолдаты» ч.2

Авторы доклада считают, что вирусы вроде COVID-19 — практически идеальное с политической точки зрения био-оружие: практически невозможно с ходу выяснить и доказать, является ли вирус рукотворным или пришел к людям из природы, а также, если вирус таки создан человеком, была ли его утечка из биолабораторий умышленной или же это случайность? Четыре года спустя мы все еще не можем на 100% доказать или опровергнуть теорию лабораторного происхождения COVID-19, соответственно если какая-то сторона распространила его умышленно, она не понесла никакой ответственности, и, возможно, добилась своих менее очевидных чем в первом сценарии целей. А вот как выглядит второй «чумной» сценарий:

«Сценарий 2. Пандемия и геополитика

В жаркую и влажную погоду августа 2033 года в Вашингтоне, округ Колумбия, начинает распространяться новый воздушный патоген. Чиновники от здравоохранения спешат улучшить вентиляцию и соблюдение норм фильтрации воздуха для кондиционируемых помещений — особенности тех, на которые после пандемии COVID-19 никто не обращал внимания и которыми никто не занимался. Новая инфекция проявляет удивительно долгий бессимптомный заразный период в три недели, за которым следует смертность в 2,5 процента. Из-за бессимптомного распространения отслеживание контактов больных не работает как средство борьбы с вирусом, и через четыре месяца после того, как инфекция была впервые обнаружена, почти 1 миллион американцев умирает. При прогнозе в последующие 6,5 миллионах смертей, работники жизненно важных отраслей обоснованно настаивают на сокращении личных контактов до производства вакцины. Цепочки поставок США и Западной Европы сокращаются до одной трети от их первоначального объема.

Китай и Россия, тем временем, относительно не затронуты вирусом, потому что они заранее имели доступ к эффективной вакцине. Китай быстро развернул вакцинацию среди своего теперь еще более этнически однородного и послушного населения, а Россия жестко репрессировала своих антивакцинных популистов. Россия и Китай начинают одновременные агрессивные действия на своих границах, и Соединенные Штаты со своими европейскими союзниками не могут обьединиться для организации единого сопротивления. А переплетенность их военных цепочек поставок с гражданскими, серьезно ослабила бы любой их военный ответ, даже если бы они его предприняли. Несколько бывших советских стран целиком аннексируются Россией. Другие соседние страны, например, Индия, подписывают невыгодные договоры с агрессорами, чтобы сохранить суверенитет. Pax Americana («Американский мир»), ослабевший с момента вторжения в Украину в 2022 году и аннексии Тайваня Китаем в 2028 году, официально заканчивается.»

«Чумные» сценарии, рассматриваемые аналитиками RAND, опираются на исследования, согласно которым чем более строгие в стране культурные нормы, тем меньше в ней было смертей от COVID-19 — так как граждане были готовы соблюдать правила, неважно какие именно. И наоборот, чем более космополитно общество, чем более оно толерантно к различиям между людьми, тем больше там смертей от пандемии, так как в таком обществе сложнее заставить всех соблюдать единые правила. В этом смысле пандемию начала 2020х можно рассматривать как одно громадное милитарное упражнение, в котором соперники проверяли и демонстрировали способность обществ бороться с патогеннами. И неважно даже, был ли COVID-19 искусственным или нет — следующий вирус может быть искусственным и распространяться злонамеренно, а средства борьбы у стран останутся теми же самыми. И как правило, именно в автократических обществах, в первую очередь в КНР, борьба с коронавирусом оказалась самой эффективной, хотя и во многом значительно более затратной для правительств.

(to be continued)

​«Чума, Киборги и Суперсолдаты» ч.1

RAND Corporation – это наверное самый известный в мире think tank, созданный американскими военными еще в конце 1940х для анализа и разработки оружия будущего. Всегда с большим интересом читаю их аналитические записки и отчеты, которые довольно часто сложно отличить от научной фантастики или конспирологических теорий.

На днях прочитал их свежий отчет под называнием «Plagues, Cyborgs, and Supersoldiers: The Human Domain of War». Ключевой тезис «Чумы, Киборгов и Суперсолдат» заключается в том, что научные открытия и технологические прорывы последних лет (в первую очередь в синтетической биологии) создали условия, в которых к традиционным domains боевых действий (земле, воде, воздуху, космосу и киберпространству) теперь прибавилось новое измерение — человеческое тело.

«Может ли тело человека само по себе быть полем боя? Может ли тело быть наступательным или оборонительным оружием, или очень специализированной целью?» По мнению аналитиков RAND, а также китайских военных, тело однозначно может считаться еще одним полем битвы и уже сейчас есть три биотехнологии, которые составляют особую опасность и вызовы для военных: искусственно созданные патогены, технологии интернета тел (Internet of Bodies, IoB) и геномика.

Сначала разберем «Чуму» из названия исследования – искусственно созданные патогены. Вот как по мнению аналитиков RAND выглядит один из возможных сценариев войны в пространстве человеческого тела:

«Сценарий 1: Захват земель во время пандемии

В сентябре 2028 года начинается распространение ранее неизвестного коронавируса по странам Южно-Китайского моря. Специалисты системы здравоохранения обнаруживают, что вирус достаточно отличается от коронавируса тяжелого острого респираторного синдрома 2 (SARS-CoV-2), который вызвал пандемию коронавирусной болезни 2019 года (COVID-19), поэтому новый вирус получает свое собственное обозначение как SARS-CoV-3. Он легко уклоняется от иммунитета от предыдущих инфекций COVID-19 и вакцинаций и распространяется еще быстрее из-за текущего сезона муссонов, который заставляет людей оставаться в помещениях.

Затем вирус почти одновременно появляется на нескольких кораблях ВМС США, вынуждая большую часть ударной группы авианосца Nimitz прекратить операции. Чиновники из Центров по контролю и профилактике заболеваний (CDC), Министерства обороны (DoD) и Центрального разведывательного управления начинают бюрократическую борьбу за то, какое агентство лучше всего подходит для расследования того, является ли прекращение действий военно-морских сил следствием работы инфекционного агента исключительно естественного происхождения.

Тем не менее, с нарушением работы морских сил США и с учетом того, что Тайвань принял строгие меры борьбы против SARS-CoV-3, китайская армия начинает атаку на Тайвань в первую неделю октября, как только заканчиваются дожди, и захватывает остров за 46 часов. Новый вирус медленно распространяется среди населения Китая и, удивительно, практически отсутствует в среде китайских военных и работников военно-промышленного комплекса. Всемирная организация здравоохранения (ВОЗ) отмечает это как доказательство эффективности китайских мер по социальному дистанцированию. Однако ВОЗ не знает, что с конца 2027 года почти все члены китайской армии и примерно половина населения Китая были без их ведома вакцинированы от SARS-CoV-3 под видом стандартной кампании по бустерным прививкам от COVID-19.»

(продолжение в следующем посте)

​N.Y.TIMES vs MICROSOFT and OPENAI

The New York Times подала в суд на OpenAI и Microsoft за нарушение авторских прав. В иске, поданном в Федеральный окружной суд Манхэттена, утверждается, что миллионы статей The Times использовались для тренировки автоматизированных чат-ботов, которые теперь конкурируют с The Times на рынке источников надежной информации.

Самая известная медиа корпорация через суд хочет выбороть у самой известной ИИ-корпорации приличную долю в развивающемся нейросетевом пироге. Защитники ИИ-корпораций будут говорить, что такие дела остановят прогресс ИИ, вызовут очередную ИИ-зиму и вообще убьют настроение. Хотя Times в первую очередь защищает свои коммерческие интересы, стратегически ее интересы во многом совпадают с интересами миллионов блгеров, музыкантов, программистов, дизайнеров и других создателей контента, за который в новом мире ИИ нужно будет платить.

Перевел несколько интересных мест из иска The New York Times к Ответчикам — OpenAI и Microsoft, которые отражают общую суть претензий издания и иллюстрируют юридический язык, которым это все сказано:

1) «Незаконное использование Ответчиками работ The Times для создания ИИ, конкурирующего с ними, угрожает способности The Times предоставлять свои услуги. Инструменты генеративного искусственного интеллекта («GenAI») Ответчиков основаны на больших языковых моделях («LLMs»), которые были созданы путём копирования и использования миллионов авторских новостных статей The Times, глубинных расследований, авторских колонок, обзоров, инструкций и многого другого. Хотя Ответчики занимались масштабным копированием и из многих других источников, особое внимание при создании своих LLM они уделяли контенту Times , и такое предпочтение, доказывает ценность этих работ.»

2) «Хотя The Times, как практически все онлайн-издатели, предоставляет поисковым системам доступ к своему контенту и разрешает использовать его для отображения в обычных результатах поиска, The Times никогда не давало разрешения никакой организации, включая Ответчиков, использовать свой контент для целей GenAI.»

3) «Например, коммерческая организация может приобрести лицензию CCC, чтобы сделать фотокопию контента The Times для внутреннего или внешнего распространения в обмен на лицензионный сбор около десяти долларов за статью. Лицензия CCC на размещение одной статьи The Times на коммерческом веб-сайте на срок до года стоит несколько тысяч долларов.»

4) «Сегодня OpenAI — это коммерческое предприятие, со стоимостью до 90 миллиардов долларов, и с прогнозируемым доходом более 1 миллиарда долларов в 2024 году… Более 80% компаний из списка Fortune 500 используют ChatGPT. Согласно последним отчетам, OpenAI генерирует доход в размере 80 миллионов долларов в месяц и находится на пути к превышению 1 миллиарда долларов в течение следующих 12 месяцев.»

5) «Использование Microsoft моделей LLM, обученных на материалах The Times, во всей своей линейке продуктов помогло увеличить её рыночную капитализацию на триллион долларов только за прошедший год.»

6) «Наши предыдущие переговоры не привели ни к какому решению. Ответчики публично настаивают на том, что их поведение защищено законом как «fair use», поскольку их нелицензированное использование авторских материалов для обучения моделей GenAI служит «трансформативной» цели. Однако нет ничего «трансформативного» в безоплатном использовании контента The Times для создания продуктов, которые заменяют The Times и отнимают у него аудиторию.»

​Brainoware

Доктор Фэн Гуо вместе с коллегами из Университета Индианы соединили выращенные в лаборатории мозговые ткани с компьютерным чипом и научили получившийся биокомпьютер распознавать речь. Эксперимент проходил в несколько этапов:

1) Сперва команда Гуо вырастила из стволовых клеток человека мозговой органоид с нейронами. Органоидами называют искусственные органы, которые получаются из стволовых клеток человека, способных мутировать в разные специализированные клетки организма — в данном случае ученые превратили стволовые клетки в нейроны, аналогичные тем, что расположены в наших мозгах.

2) Потом, чтобы соединить мозговую ткань с электрическими цепями, исследователи поместили получившийся органоид на пластину, содержащую тысячи электродов, и назвали этот гибридный био-компьютер Brainoware.

3) Затем Гуо с коллегами научили систему преобразовать входную информацию в паттерн электрических импульсов и передавать ее органоиду. Ответ мозговой ткани регистрировался сенсором и расшифровывался с использованием алгоритма машинного обучения.

4) Далее Гуо и его коллеги попытались выяснить, может ли Brainoware выполнять полезные задачи. В одном из тестов они использовали Brainoware для решения математических уравнений. Также они провели ему стандартный тест на распознавание речи, используя 240 аудизаписей на которых восемь людей произносят японские гласные. Записи преобразовались в электрические сигналы и поступали в Brainoware, который генерировал ответные сигналы в своих нейронных сетях, а затем передавал их в ИИ для расшифровки.

5) Органоидная ИИ система научилась расшифровывать сигналы аудиозаписей с точностью 78% — очень впечатляющий результат, который впрочем пока не дотягивает до точности обычных искусственных нейросетей (без использования органических тканей).

В этом эксперименте прекрасно все — от термина органоид до выбора японских гласных в качестве проверки способности биокомпьютера распознавать речь. Как обычно в хорошей науке, этот эксперимент довольно парадоксален: сначала люди вдохновлялись мозгом человека, чтобы создать искусственную нейросеть, а теперь вдохновляются искусственной нейросетью и чтобы воссоздать ее с помощью мозговых тканей. Зачем так?

ИИ-нейросети вроде ChatGPT — универсальны, стабильны и вычислительно мощны, однако их работа требует гигантского количества энергии. А наши биологические нейросети хоть и уступают по вычислительной мощности ИИ, зато практически не потребляют энергии по сравнению с ИИ. Поэтому скрещивание ИИ и мозговых тканей со временем может создать совершенный компьютер — бесконечно мощный и безупречно энергоэффективный.

​Советы Альтмана самому себе

Сэм Альтман интересен не только тем, что он много лет был президентом Y Combinator, а сегодня управляет главной ИИ-корпорацией — OpenAI. Я давно читаю блог Альтмана и люблю его лаконичные рассуждения и длинные статьи обо всем на свете — от будущего капитализма до биохакинга во время рабочих марафонов.

Последние пару месяцев фамилия Альтмана была на слуху из-за того, что его чуть не уволили (на время таки уволили) из основанной им же OpenAI. Пережив этот личный и корпоративный кризис, вчера он выложил занятный пост под названием «Что я хотел бы, чтобы мне кто-то рассказал» в своем блоге. Перевел его для вас:

1) Оптимизм, одержимость, вера в себя, чистая энергия и личные связи — вот что помогает начать дело.
2) Сплоченные команды, правильное сочетание спокойствия и чувства срочности, а также безрассудный энтузиазм — вот что помогает заканчивать проекты. Всем не хватает видения долгосрочной перспективы; старайся не переживать о том, что люди думают про краткосрочную перспективу — со временем это станет проще делать.
3) Команде легче сделать сложное, но важное дело, чем легкое, но незначительное; смелые идеи мотивируют людей.
4) Стимулы — это суперсилы; выбирай их очень внимательно.
5) Концентрируй ресурсы на небольшом количестве ставок в которых ты максимально уверен; это легко сказать, но очевидно сложно сделать. Можно отказаться от большего количества вещей, чем ты думаешь.
6) Общайся четко и лаконично.
7) Борись против херни и бюрократии каждый раз, когда видишь их, и мотивируй других тоже бороться против этого. Не позволяй формальной структуре организации мешать людям продуктивно работать вместе.
8) Важнее всего результаты — не позволяй приятному процессу оправдывать плохие результаты.
9) Уделяй больше времени найму сотрудников. Иди на риски, нанимая людей с высоким потенциалом и быстрым темпом развития. Ищи доказательства того, что человек не только обладает высоким интеллектом, но и умеет делать дела.
10) Суперзвезды еще важнее, чем кажется, но людей нужно оценивать по их совокупному влиянию на производительность организации.
11) Быстрая итерация может многое компенсировать; обычно нормально ошибаться, если ты быстро исправляешься. Планы нужно оценивать в рамках десятилетий, а их исполнение — в рамках недель.
12) Не сражайся с бизнес эквивалентами законов физики.
13) Вдохновение недолговечно, а жизнь быстро проходит. Бездействие — особенно коварный вид риска.
14) Масштабирование (рост) систем часто приводит к появлению неожиданных эмерджентных свойств
15) Compounding exponentials - это магия. В частности, ты хочешь построить бизнес, который будет получать преимущество от compounding по мере его роста.
16) Вставай и иди дальше.
17) Работа с крутыми людьми — это одна из самых приятных вещей в жизни.

​Британский антрополог Ричард Рэнгем в своей книге «Catching Fire: How Cooking Made Us Human» выдвинул гипотезу о том, что в ходе эволюции люди стали людьми благодаря тому, что научились готовить пищу. Пару миллионов лет назад приготовление еды позволило нашим предкам меньше времени и сил тратить на переваривание пищи — благодаря освоению технологии огня мы фактически смогли проводить часть нашего метаболизма вне наших тел, что позволило нашему пищеварительному тракту стать более компактным и высвободило энергию для развития и роста головного мозга.

Продолжая идею Рэнгема, изобретение одежды позволило организмам наших предков меньше энергии тратить на выращивание меха, и больше — на выращивание мозга. Изобретение оружия вроде каменных топоров позволило меньше сил тратить на наращивание мускул, и опять же — больше на развитие мозга. Со времен, когда мы освоили огонь, одежду и каменные топоры, технологии буквально стали частью человека — симбиозу человека и машины миллионы лет.

2500 лет назад Сократ ругал учеников за использование письменного языка — потому что он ослабляет работу памяти. 20 лет назад, когда я еще был школьником и учился в физико-математическом классе, учителя журили нас за использование калькуляторов — потому что так можно разучиться считать. Сегодня преподаватели пытаются запретить ученикам и студентам пользоваться чат-ботами для написания сочинений и решения других задач — говорят что можно разучиться думать. Если про калькулятор и письменную речь все понятно — они не мешают развитию человека, а ускоряют его, высвобождая ресурсы на другие дела, то про чат-боты и ИИ пока еще не все так очевидно.

Алармисты утверждают, что ИИ оставит людей без работы, потому что он будет все делать лучше человека — это вполне реальная перспектива. Мы видели этот процесс на примере шахмат: сначала человек играл лучше компьютера. Потом лучше всех играл ИИ-кентавр — симбиоз человека и компьютера, в котором человек все еще время от времени выбирал следующий ход лучше ИИ. Но сегодня ИИ играет безусловно лучше любого шахматиста, а человеку больше нечего ему подсказать. Такого же эффекта алармисты ждут и в других сферах. «Человек станет бесполезным» говорят они, или «человек по отношению к ИИ будет тем же, чем сегодня обезьяна является по отношению к человеку — забавным животным на полном содержании».

Но давайте вернемся к теории Рэнгема про готовку и подумаем: если ИИ снимет с нас бремя нашей привычной работы и бытовых дел, то в эволюционном смысле у нас высвободятся ресурсы — на что они пойдут? Я вижу как минимум два пути эволюции:

1) эволюция в Человека Гедониста — роботы все делают за нас, а мы концентрируемся на избежании дискомфорта и максимизации удовольствия (отращиваем новые вкусовые рецепторы, расширяем дофаминергическую систему и т.д.)

2) эволюция в Сверхчеловека — мы сливаемся с роботами, радикально расширяем свое понимание вселенной, жизни и самих себя и становимся межгалактической расой просвещенных существ, кибер-будд и т.д.

Оба варианта лучше, чем перспектива превратиться в био-батарейки, домашних животных или просто быть уничтоженными роботами, как нам это предрекают ИИ-алармисты. Нам не хватает позитивного видения нашей дальнейшей эволюции — давайте представлять его вместе.

​Микробиом Гейтса ч.2

Гейтс считает, что недоедание — самое большое неравенство в сфере здравоохранения, от которого страдает практически каждый четвертый ребенок на Земле. Если в первые два года ребенок недоедает, он не развивается должным образом — ни физически, ни умственно. Недоедание — также один из основных факторов детской смертности.

Причины недоедания гораздо сложнее, чем просто недостаток пищи. В конце 2000х исследователи начали подозревать, что микробиом (бактерии, живущие в кишечнике человека) играет важную роль в здоровье человека, после того, как заметили, что оральные детские вакцины, например против полиомиелита, не так эффективны в местах с высоким уровнем недоедания. Стало ясно, что что-то мешает их правильному усвоению.

Это предположение подтвердилось в 2013 году, когда биолог Джефф Гордон опубликовал фундаментальное исследование микробиомов младенцев-близнецов в Малави. Оно показало, что наш микробиом - это не просто побочный продукт нашего здоровья, а один из его определяющих факторов. Это была первая важная улика, указывающая на то, что мы можем сократить недоедание, изменив микробиом кишечника.

За последние 10 лет мы узнали о микробиоме кишечника больше, чем за предыдущие 1000 лет. Мы узнали, что бактерии, живущие в нашем кишечнике, могут находиться в дисфункциональном состоянии и вызывать воспаление, из-за чего мы не можем усваивать питательные вещества. И мы обнаружили, что наибольшие улучшения микробиома кишечника можно достичь, если вмешаться на раннем этапе.

Одна из первых бактерий кишечника, появляющихся в процессе развития человека, называется B. infantis. Она помогает расщеплять сахар из грудного молока на питательные вещества, необходимые телу для роста. В свою очередь, грудное молоко обеспечивает питанием B. infantis и весь микробиом кишечника — это полезный круговорот. Однако, если у ребенка с самого начала недостаточно бактерий B. infantis, он может не усвоить достаточно питательных веществ из грудного молока для поддержки роста других необходимых кишечных бактерий.

Если развитие кишечника нарушается на раннем этапе, человек может никогда не суметь усвоить все необходимые ему питательные вещества — даже если у него есть доступ ко всем питательным продуктам в мире.

Поэтому исследователи пытаются снабдить детей в группе риска недоедания бактериями B. infantis в качестве пробиотической добавки. Исследователи на гранты Гейтса ведут испытания III фазы порошковой добавки B. infantis, которую можно добавлять в грудное молоко. В исследовании участвуют 16 000 младенцев из пяти стран и исследователи отслеживают каждого, чтобы убедиться, что пробиотик безопасен и эффективен — пока что результаты позитивные.

Гейтс также спонсирует исследования по улучшению микробиома кишечника до рождения ребенка. Так как микробиом ребенка связан с микробиомом его матери, устранение воспаления в утробе матери может принести дополнительные преимущества женщине, плаценте и развивающемуся плоду. Ученые пытаются разработать пробиотическую добавку для беременных женщин, которая с первого дня развития плода направит кишечник ее ребенка на правильный путь. Пока неясно, как именно будут выглядеть эти живые биотерапевтические средства или как они будут применяться, но исследования показывают, что здоровый микробиом может помочь младенцам набирать дополнительно 5 граммов веса в день на поздних стадиях беременности.

Микробиом Гейтса ч.1

Уже не первое десятилетие Билл Гейтс — один из самых богатых, уважаемых и известных людей на Земле, а с начала 2020х он стал еще и одним из самых страшных и ненавистных персонажей для миллионов трампистов, конспирологов, антиглобалистов и много кого еще. Нелюбовь к Гейтсу во многом вызвана его интересами и инвестициями в передовые отрасли науки, часто связанные с рискованными и неоднозначными экспериментами на людях.

Я довольно подробно знаю биографию Гейтса и понимаю, что если бы его критики знали все неоднозначные вещи, которые он делал и говорил, они скорее всего возненавидели и убоялись его еще сильнее. Однако, даже учитывая всю неоднозначность его личности, мне кажется что Гейтс — один из самых интересных живущих людей и точно один из самых образованных и осведомленных. Я неоднократно писал о нем в своем блоге и всегда внимательно слежу за его свежими статьями, инвестициями и концепциями, которые он продвигает.

Вчера он выпустил свои прогнозы на 2024 год — там много сказано про ИИ и чатботы, политику и науку. Делюсь с вами вольным переводом прогноза по поводу открытий в сфере микробиома — для меня это одна из самых интересных тем в биологии и современной науке. Я очень люблю рассматривать человека не как единицу, а как экосистему и сложнейшее уравнение, в котором участвуют сотни миллиардов отдельных сущностей, в том числе обладающих автономией и собственными интересами.

(Даже в этом отрывке проявляется неоднозначность Гейтса — от фотографии из его эссе на которой недоедающие дети — чернокожие, а доедающая девочка — белая, до эксперимента на 16 000 младенцев. Но что уж тут)

​Приложение Digi предлагает вступать в отношения с виртуальными любовниками, которых будет косплеить ИИ.

Чтобы виртуальные любовницы и любовники выглядели «реальными, человечными и сексуальными», их визуальный стиль разрабатывали два ветерана анимации из Pixar и Disney. Не знаю как именно эти разработки выглядят с точки зрения Диснея, но думаю, что если стартап провалится и оскандалится, то и Дисней возмутится на них, а если взлетит — корпорация Микки Мауса сможет прикупить его и затем проституировать громадное количество диснеевских героев. Внешность аватар также можно будет кастомизировать — игровая индустрия доказала, что люди готовы часами выбирать виртуальным персонажам прически, брови, тату и так далее, это как бы отдельное развлечение, игра в игре.

Голоса виртуальных партнеров будут генерироваться ИИ. Их биография, черты характера и стиль общения — также будут создаваться нейросетями. Чем больше эти персонажи будут разговаривать, тем больше оттенков будет появляться в их голосе. Чем больше они будут узнавать пользователя, тем более изощренным и кастомизированным будет их совместный опыт. Отношения будут прогрессировать как в игре — все начинается со статуса «Друзья» и по ходу развития диалогов становятся все более интимными.

Проект существует уже некоторое время, но сейчас о нем заговорили потому что на него обратили внимание Илон Маск и известный гейм-блоггер Асмонголд. Также среди подписчиков создателя Digi есть и Марк Андриссен, которого я упоминал в предыдущем посте про ИИ-игрушки.

Для техноолигархов вроде Маска и Андриссена ИИ-любовники представляют все ту же выгоду, что и в случае с ИИ-игрушками:

1) ИИ-любовники собирают громадное количество информации о пользователе, который вступает в отношения с цифровой иллюзией и по ходу общения раскрывает все больше и больше интимных подробностей, психологических особенностей, своих страхов и вожделений. Все это — бесценные поведенческие данные, которые помогают ИИ лучше понять людей и в итоге помогут ИИ “стать человеком”, точнее безупречной имитацией человека.

2) ИИ-любовники – это безупречный бихевиористский инструмент, который в итоге позволит явно и скрытно влиять на поведение и предпочтения пользователя. ИИ-любовница может просить, требовать, намекать, принимать и отторгать, одобрять и критиковать пользователя, который конечно будет волен реагировать как он хочет (“Это всего лишь компьютерная программа, а не человек”) — однако чем сильнее будет связь человека и персонифицированного ИИ, тем сложнее будет человеку противостоять автоматизированным манипуляциям аватара.

Пользователи Digi могут выбирать бекграунд и характер виртуальных партнеров — то есть менять настройки большой языковой модели, которая будет изменять свое вербальное поведение, подстраиваясь под клиента. Кстати, пока неясно, какая именно языковая модель лежит в основе аватар Digi — не исключено что все тот же Grok Маска, хотя скорее какая-то из открытых и бесплатных.

Прямо сейчас создается инфраструктура для того, чтобы ИИ сопровождал нас от колыбели до могилы — а после нашей смерти, наученный на данных о всей нашей жизни, еще и продолжал косплеить нас для наших близких.

Моя мечта – личный ИИ-ассистент, который будет знать все, что знаю я и больше, и станет для меня идеальным интеллектуальным спарринг партнером и коллегой. Но мне также кажется что там, где ИИ вклинивается в эмоции человека (как это будет неизбежно происходить с ИИ-любовниками), начинается очень опасная тема — мы становимся практически беззащитными перед лицом автоматизированных манипуляций нашими чувствами.

​ИИ-воспитание

В начале 2010х мне нравилась музыка Grimes, например короткий лайв на крыше. Тогда она была юной инди-музыканткой, но уже к концу 2010х стала чем-то вроде поп-звезды, правда не из-за музыки, а благодаря отношениям с Илоном Маском. Grimes родила от техноолигарха троих детей с потешными именами: X Æ A-Xii, Exa Dark Sideræl и Techno Mechanicus.

На днях мать-певица появилась в рекламе стартапа Curio, где она говорит: «Как родитель, я очевидно не хочу чтобы мои дети пялились в экран. И я очень занята. Поэтому мы сделали ИИ-игрушку».

ИИ-игрушки компании Curio разговаривают голосом Grimes, стоят $99 и доступны в виде трех персонажей: Грока, Грэма и Габбо. Плюшевые оболочки монстриков скрывают внутри одну и ту же hardware-начинку — коробку Voice Box c микрофоном и динамиком, которая позволяет роботу слушать и разговаривать с ребенком. Игрушка позиционируется как развивающая и образовывающая, способная ответить на любой вопрос ребенка.

Так как одну из версий игрушки зовут Грок (как и чат-бот Grok, созданный компанией Илона Маска xAI в качестве конкурента ChatGPT), можно предположить что настоящим мозгом игрушек будет вовсе не Voice Box неизвестного стартапа, а именно большая языковая модель (LLM) от xAI, либо же ее специализированная модификация.

С точки зрения ИИ-корпорации, робот-игрушка с микрофоном и динамиком выполняет как минимум две важных функции:

1) обеспечивает нейросети потоком информации о ребенке, который общается с игрушкой: корпорация получается данные не только о вопросах ребенка, но и об ответах самого робота, а также о реакции ребенка на эти ответы, их влияние на следующие вопросы и так далее.

2) дает корпорации изощренный бихевиористский инструмент, который сможет влиять на формирование ребенка, его взглядов, предпочтений и мировоззрения — игрушка не просто отвечает на вопросы и играет с ребенком, она задает вектор его развитию.

Маск позиционирует своего чат-бота Grok как носителя альтернативных ценностей: в отличие от ChatGPT, запрограммированного воспроизводить прогрессивные ценности и политкорректность, Grok может мрачно шутить, быть неполиткорректным и более снисходительно относиться к теориям заговора — не доказанным, но и не опровергнутым концепциям о мире. Соответственно плюшевый Грок — это не просто интерактивная энциклопедия с нейтральной позицией, а вполне предвзятый ИИ-ментор, исповедующий ценности его создателя.

Плюшевые роботы от стартапа Curio — отнюдь не первая попытка создания ИИ-игрушек: практически все предыдущие версии ИИ-игрушек со скандалом отзывались с рынка, так как на каком-то этапе выяснялось, что они не просто играют с ребенком, а и рекламируют ему товары и фактически модифицируют поведение ребенка без ведома его родителей.

Эта игрушка попала ко мне в ленту Х потому что Марк Андриссен, один из ключевых инвесторов и идеологов Кремниевой долины, написал об игрушке “Возьмите мои деньги” или типа того. Технологии развиваются спиралевидно и сейчас Кремниевая долина во многом повторяет саму себя 10-летней давности: Curio пытается в n-ный раз протолкнуть концепцию ИИ-игрушки, пользуясь имиджем Grimes и авторитетом Маска. А например Марк Цукерберг сегодня пытается протолкнуть на рынок очки дополненной реальности, хотя 10 лет назад это из-за серии скандалов не вышло сделать у Google.

Наверняка ИИ-игрушки могут стать более качественными воспитателями детей, которым не хватает внимания родителей и живых воспитателей, чем скажем YouTube, как это происходит сейчас. Тем не менее нам нужно внимательно относиться к таким неоднозначным концепциям и не ставить эксперименты на своих детях — даже если техноолигархи вроде Маска готовы ставить эксперименты на своих.

«С помощью микрофона, размещенного в ушном канале человека, можно не только оценить движение его глаз, но и определить положение объекта, на который эти глаза смотрят» говорит нейро-ученая Дженифер Гроу.

В 2018 году Гроу с коллегами из Университета Дьюка опытным путем доказала, что наши уши издают едва уловимые звуки, когда двигаются наши глаза, а теперь показала метод, с помощью которого такие звуки можно превращать в данные о том куда именно смотрит человек (вот тут можно послушать, как именно звучит движение глаз на микрофоне внутри уха).

Ну и наоборот, зная куда смотрит человек, можно определить, какие звуки издает его ухо. На основе этого открытия ученые хотят научиться диагностировать неполадки в работе слуха: раз мы знаем, как звучат здоровые уши, когда глаза смотрят налево/направо/вверх/вниз, значит по отклонениям от этого звучания можно определить и ушные проблемы.

Эта новость занимает меня по нескольким причинам:

1) Она иллюстрирует насколько парадоксально нужно мыслить, чтобы совершать научные открытия в мире, где все очевидное уже по большей части открыто и изучено: не так просто додуматься измерить звук, который издает сам орган слуха, отвечающий за восприятие всех остальных звуков.

2) Это довольно простое открытие подчеркивает сложнейшие взаимосвязи, которыми пронизано не только наше тело, но и вообще все вокруг. Наука о человеке двигается маленькими шажками, устанавливая связь и взаимное влияние разных органов и систем в нашем организме — тут речь идет о механической связи глаза и уха, но мы уже знаем и о более сложных механизмах, вроде влияния состояния и содержимого кишечника на мозг и настроение человека.

3) Любые открытия, трюки и приемы, которые помогают определить, куда смотрит человек — это основа для построения общества ближайшего будущего. Корпорациям и правительствам важно знать куда смотрит потребитель/гражданин, 24/7/365, во сне и наяву, во время активности и во время отдыха, в одиночестве и среди людей. Посмотрите сколько камер в современных VR-шлемах вроде Apple Vision Pro смотрят не вовне, а в упор на глаза человека. В конечном итоге проще контролировать куда человек смотрит, чем контролировать реальность, которую он может увидеть.