Зона полифуркации


Гео и язык канала: не указан, не указан
Категория: не указана


Канал о возможном и невозможном будущем через призму эволюции технологий, сознания и природы by Pavel Luksha

Связанные каналы

Гео и язык канала
не указан, не указан
Категория
не указана
Статистика
Фильтр публикаций


Предыдущий пост вдохновлен этими рассуждениями из "Кота Шредингера": https://t.me/kot_sh/10994
Но я бы назвал эту дискуссию между нынешним поколением " физиков и лириков" (кто-то ещё помнит о таких?) куда более широкой и острой. К примеру, мы каждый день читаем о новых кейсах взаимодействия человека и ИИ: вот ИИ сводит людей с ума (https://t.me/theworldisnoteasy/2267), вот его используют для масштабного мошенничества (https://www.jpmorgan.com/insights/fraud/fraud-protection/ai-scams-deep-fakes-impersonations-oh-my), и это только начало.


В современной науке и секторе инноваций есть два полюса. С одной стороны, те, кто безоговорочно верит в силу прогресса и его способность в конечном итоге создавать благо для людей. Этот полюс полагает, что любые барьеры, кроме совсем базовой этики, должны быть убраны - вплоть до позиции, которую выражает известный венчурный инвестор Питер Тиль, называющий авторов подобных ограничений "коллективным Антихристом" (я про это писал в канале сообщества эволюционных лидеров https://t.me/evoleadership/419)

А с другой стороны - те, кто видит в стремительно развивающейся техносфере источник угроз, а не возможностей - от роста неравенства до угроз всей жизни на планете. Они смотрят на нанотехнологии и видят сценарий "серой слизи", смотрят на биотех и представляют сюжет о корпорации Umbrella.

Истина, конечно, где-то посредине. Объективно говоря, человечество уже так далеко от "естественной среды обитания", что вернуться в эту среду можно только путем масштабной цивилизационной катастрофы (к примеру, почти вся еда на нашем столе - результат многолетней селекции растений и животных, в естественной среде ее просто не может быть, и мы выживаем благодаря этой "неестественности"). Продолжение роста населения и сохранение роста его запросов никак не могут быть сохранены без прогресса, и остановка этого прогресса в неустойчивой цивилизации (каковой мы являемся) приведет к ещё более негуманным исходам. Но риски сложных технологий реальны, а сами технологии все менее понятны. Как чеховское ружье, рано или поздно они выстрелят.

Вопрос скорее в том, чтобы найти баланс между растущей сложностью цивилизации и нашей способностью этой сложностью управлять. Акоп Назаретян называл этот процесс поиска "техногуманитарным балансом", а Джозеф Тейтнер (которого, кроме меня, любит вспоминать Женя Кузнецов) указывал на него в своей схеме "коллапса сложности". Иными словами, ответ на эту проблему лежит не в постоянном перетягивании каната между прогрессивизмом и риск-менеджментом, а в усложнении мышления и систем управления.


В нынешнее время - ни дня без новостей об ИИ, вот и сегодня новость об исследовании, опубликованном в журнале Nature. Многие, возможно, сталкивались с таким явлением как "brainrot", "мозгогниение" - в прошлом году Оксфордский словарь даже выбрал его "словом года". Brainrot - это странный виральный контент, обычно сгенерированнный с помощью ИИ и особенно популярный в Инстаграме и Тиктоке, такая "мусорная пища" для мозга, которую смотрят и не могут оторваться, не смотря на ее очевидную бессмысленность и бесполезность. К примеру, в начале 2025-го по сетям прокатилась волна "итальянского брейнрота" типа Крокодило Бомбардило.

И вот исследователи решили посмотреть, что будет с большими языковыми моделями, если они начнут учиться на популярном виральном контенте социальных сетей. Результаты оказались удручающими: модели по сути теряли способность логически рассуждать и начинали выдавать логически неверные ответы. С точки зрения личностных характеристик, модели "скатывались" в сторону нарциссизма и психопатии. Все эффекты становились тем сильнее, чем больше "мусорного" контента соцсетей было в материале, на котором обучались нейросети.

Иными словами, интуитивное название соцмедиа контента оказалось довольно точным. Хотя одного исследования вряд ли достаточно, чтобы сделать долгоидущие выводы, но предварительно можно сказать: если вам кажется, что регулярный просмотр вирального контента не идет на пользу вашему собственному мозгу или мозгам ваших детей или друзей - то вам не кажется.

Ну и да - то, что я писал про роль живых сообществ как "фильтра безопасности" - на этом примере становится очень хорошо видно. Когда вы (а) берете контент в первую очередь из проверенных каналов и (б) регулярно сверяетесь с близкими по ценностям людьми относительно смыслов и целей - ваша способность рассуждать и выбирать будет, вероятно, в куда большей безопасности (что не отменяет негативных эффектов сектантства, куда без них, но об этом в другой раз).


Репост из: Мельничек: Среда оживления
🌍 Тезисы с Форсайта: Живые сообщества в эпоху ИИ

0. Когда единая картина мира рушится, сообщества становятся основным "пространством доверия"
Алгоритмы подсовывают нам только удобные мнения, «факты» всё труднее проверить. В реальности пост-правды люди перестают полагаться на универсальные источники и начинают доверять лишь своим кругам.

1. Борьба за внимание превращается в борьбу за смыслы
Если раньше зацепить человека можно было ярким заголовком, то теперь манипуляция уходит глубже — в сами слова и культурные коды. Сообщества становятся щитом, защищающим смысловое пространство своих участников.

2. Сообщества берут на себя работу медиа-фильтров
Когда доверие к новостным медиа падает, роль фильтра информации и интерпретатора происходящего переходит к сообществам. В группах единомышленников информация не просто передаётся, а обсуждается и осмысляется в кругу тех, кому можешь доверять. Обратная сторона этого - уязвимость сообществ перед "теориями заговора", распространение эзотерических и сектантских групп.

3. Впереди новое "смешение языков" - теперь смысловых
Разрыв между поколениями, профессиями, социальными слоями — уже не только метафора, и дело не только в актуальных мемах, но и в деятельности, которая у каждой группы все больше своя. В стремительно ускоряющемся мире, где экспоненциально накапливаются данные, возникают специализированные агенты и новые форматы работы - люди буквально перестают понимать друг друга. Искусственный интеллект может помочь наводить мосты, стать "переводчиком смыслов" - если его правильно настроить на эту задачу.

4. Человеческая близость перестает быть данностью — теперь её приходится создавать
В мире, где "все связаны со всеми" через алгоритмически управляемую среду, глубокие связи тонут в потоке поверхностных контактов и бесконечных новостей. Чтобы вернуть тепло и доверие, сообщества учатся проектировать общение так же тщательно, как архитекторы проектируют дома.

5. Жизнь в лиминальном пространстве перехода "между мирами" будет нормой, а сообщество — может стать проводником трансформации
Всё больше людей живут в состоянии перемен: меняют профессию, место жительства, взгляды. Сообщество становится безопасным пространством, где можно искать новое, не боясь потерять почву под ногами. Все больше сообществ будут организовываться как места трансформации, где люди будут находить новые идентичности, смыслы и способы действия.

6. В мире, перегруженном знаниями и информацией, главной ценностью становится совместное мышление
В мире, где любые сведения можно запросить у ИИ систем, и где контент генерируется быстрее, чем люди успевают его осваивать, важнее не накапливать или запоминать новую информацию, а уметь вместе с другими рождать новые смыслы. Живой диалог, в котором люди находят собственный и коллективный смысл, становится гораздо ценнее готовых ответов.

7. Эксперты и ИИ — партнёры, а не конкуренты
Машины уже участвуют в большинстве разговоров, но именно экспертные сообщества определяют, как они это делают. Там, где люди управляют контекстом и нормами, ИИ остаётся помощником, а не заменой общения.

8. Когда техносреда помнит всё, нужно заново учиться забывать
Записанные и сохранённые в цифровой памяти разговоры меняют саму природу общения. Сообществам предстоит выработать новые правила — где балансировать между прозрачностью и правом на приватность или прощение.

9. В ИИ-насыщенном мире, жизнь на природе становится шансом обрести себя
Стремительный рост информационной перегрузки рождает запрос на тишину, уединение, человеческий контакт и связь с природой. Контакт с природой помогает нам вспомнить себя и живое в себе, открыть свою собственную природу ума и тела.

Благодарю Пашу Лукшу за смыслы и сборку и Никиту Колбовского за картинки.

🤝 Пост с контактами 50+ участников Форсайта

⚡️Если хотите участвовать в будущем — напишите боту @melnichek_bot

—

Канал про сообщества: Среда Оживления

240 0 14 1 10

Некоторое время продолжу делиться в этом канале архивными материалами, опубликованными в других моих каналах

В конце этого лета мы с моим другом Алексеем Мельничком делали интересный и глубокий разговор о роли живых сообществ в эпоху стремительно развивающегося ИИ. Понятно, что с приходом ИИ будет падать цена контента и контакта, но расти цена глубины и подлинности. Сообщества становятся своего рода "живыми клетками", мембрана которых отделяет искреннее, осмысленное, высокоценное - от всего прочего. Другими словами, мы на пороге колоссального информационного хаоса, и только в сообществах "своих", где будут рождаться и транслироваться смыслы, мы будем чувствовать жизнь и радость. Поэтому - время искать своих, время объединяться.


Интересная работа 👆, предлагающая взгляд на то, как можно определить "общий ИИ" по совокупности характеристик, описывающих когнитивные мастерство и универсальность взрослого хорошо образованного человека.

Полезно увидеть, что существующие модели хороши в чтении и написании текстов, но только начинают осваивать другие измерения. Но одновременно с этим - то, что исследователи смотрят на интеллект как на феномен "персональный", принадлежащий одной системе, а не интер-персональный, кажется мне главным тупиком парадигмы.

Здесь кажется многообещающей провокативная мысль Андрея Карпатны из его недавнего интервью: общий ИИ способен написать текст, который может "вдохновить" другой общий ИИ. То есть, в пространстве "между ОИИ" рождается подлинная содержательная новизна.


Репост из: Boresight // Tech Futures by Constantin Kichinsky
Тут подогнали очередную попытку определить, что же такое AGI. На этот раз на базе теории Кеттелла — Хорна — Кэрролла.

По мнению группы исследователей, "AGI -- это ИИ, который соответствует или превосходит когнитивные мастерство и универсальность хорошо-образованного взрослого человека."

Для оценки фреймворк предлагает делать замеры по 10 "когнитивным направлениям" вроде общего знания или способностью оперировать рабочей памятью.

В этом фреймворке, например, хорошо виден прогресс GPT5 относительно предыдущего поколения.

===

На что тут интересно обратить внимание, учитывая, что эта работа сейчас активно циркулируется и местами воспевается в духе "наконец-то стало понятно, что такое AGI".

1. У модели CHC, лежащей в основе, несмотря на широкую популярность, есть критика, указывающая на неполноту, излишнее упрощение и т.п.

В этом смысле хорошо иметь модель, которая шире, чем "давайте посмотри, сколько баллов GPT-N наберет в очередных тестах", но это по-прежнему модель модели мира человека.

2. Фреймворк подготовлен допольно специфичной организацией Center for AI Safety (тут широта представительства в списке контрибьюторов звучит скорее как армия агитаторов).

Это группа алармистов, которым нужна измеримая метрика "приближения" катастрофы, причем желательно в управляемом фреймворке, который можно подкручивать.

===

Вообще попытка дать метрическое измерение для AGI -- кажется правильным как операционный показатель, но стольже неправильным как абсолютно неуправляемый и, вероятно, неадекатный и манипулируемый.

Это будет как часы судного дня и прочие страшилки.


Репост из: Промпт - Наука и Техника
Учёные из Огайо превратили грибы — шампиньоны и шиитаке — в живые микросхемы, способные обрабатывать до 5 850 сигналов в секунду и запоминать их с точностью 90%. Такие «грибные чипы» не требуют редких металлов, потребляют мало энергии и полностью разлагаются в природе. Исследователи использовали мицелий для создания мемристоров — устройств, сохраняющих память о электрической активности, что может стать основой для экологичных вычислительных систем. Эти органические микросхемы потенциально могут заменить традиционные в низкоэнергетичных и специализированных приложениях, от носимых гаджетов до космических сенсоров, хотя пока они уступают по скорости и надёжности кремниевым чипам.


А пока мы ждём ответа от индусов, другой дорогой друг прислал информацию о том, что освоение биосубстрата машинной цивилизацией идёт не только по линии насекомых, но и по линии грибов


Дорогой друг @vitaly_nedelskiy посоветовал сделать чат. Абсолютно с ним согласен, простите, что не сделал сразу же. Если кому есть что сказать по поводу предыдущих постов, комментируйте здесь (в предыдущие посты добавить комментарии не смогу) 🦄


История с некроботами получила неожиданное развитие. Один мой хороший друг усомнился в реалистичности утверждений испанского профессора и считает их фейком. Не потянуть, мол, паукам операцию по удалению катаракты, физических параметров не хватит. А я верю в могучую силу индийской медицины и тропических пауков. Запросим доказательства. Что ж, теперь в их руках (или лапах) вопрос о том, кому достанется бутылка хорошего виски 🥃


На прошлой неделе я выступал в качестве keynote одной глобальной конференции, но хочу поделиться не этим, а историей человека, который выступал прямо передо мной. Рауль Родригес - один из основателей направления, которое называется "некроботика". Греческое слово "некрос" означает "мертвый", и это именно то, что вы подумали.

Но сначала контекст. Университет Рауля много работает с проектами, ориентированными на сельскую Индию. Эта часть Индии очень многочисленна (более 700 миллионов человек) и чудовищно бедна - большинство живёт на 1.5-2 доллара в день, в условиях, когда нет ни электричества, ни водопровода, ни другой инфраструктуры, привычной городскому человеку. Медицинского обслуживания тоже, по сути, нет - один врач приходится в среднем на 100 тысяч человек населения. Соответственно, многие типы болезней в сельской Индии не лечатся просто потому, что это некому делать. Среди них - относительно простые в медицинском смысле, такие как удаление катаракты.

И как-то раз Раулю пришла в голову мысль: а что, если такую операцию мог бы взять на себя медицинский робот, но не классический из стали и кремния, а частично состоящий из органической материи? И они с коллегами стали экспериментировать с возможностью создать такого робота из.. мертвого паука. Засушенный паук с внедренными в него наночипами оказывается тонким и точным манипулятором, который может провести операцию на катаракте за семь минут (человеку требуется около получаса). Управлять таким некроботом может медсестра со средней квалификацией - с учётом того, что основную работу делает ИИ, запущенный на портативном компьютере (вся система может питаться от солнечной батареи и не нуждаться в подключении к сети). В итоге - пациенты, у которых, по сути, нет никакой надежды (скорее ослепнут, чем до них доберется очередь плановой операции), получают свой шанс. Проект активно растет, сейчас уже действует в 80+ сельских клиниках.

Звучит это очень футурологично - и одновременно очень жутко. Понятно, что в природе круговорот живой и мертвой материи идёт постоянно. Человеческая цивилизация тоже окружает себя управляемой смертью разного рода: нам привычно есть мертвые тела животных, носить одежду и строить жилища из мертвых растений, и прочее. Но есть чувство нарушенного табу, когда цифровые системы анимируют умершее живое и превращают его в органы своих неживых систем. Словно открывается дверь в кошмарные миры, которую совсем не стоит открывать - и теперь уже по-настоящему, а не в научно-фантастических фильмах.

Можете почитать статью в Википедии и сами решить о своем отношении к этому направлению: https://en.wikipedia.org/wiki/Necrobotics


Одна из основных идей статьи 👆 - о том, что роль исследователя принципиально меняется, как и сам способ создания научного знания. Более простыми словами: роль интуиции и даже трансцендентного знания, особенно создаваемого в сообществах "тех кто понимает", будет всё выше и выше. Граница между учёным, жрецом и шаманом будет удивительным образом стираться самым непонятным для традиционных учёных образом. В конечном итоге, вопрос будет не к тому, "как" узнать, а к тому, "что" и главное "зачем" узнать. То есть, к определяющему смыслу или собственному вектору познающего процесса.


Для начала хочу поделиться своей недавней статьей "ИИ как катализатор новой парадигмы науки", которая вышла летом в журнале Cadmus.

Традиционные реферируемые журналы имеют длинный цикл публикаций - текст был написан еще осенью 2024, но выходит только сейчас. Поэтому самых последних новостей о том, как ИИ меняет науку, в этой статье нет (уверен, что некоторые из вас регулярно натыкаются на соответствующие публикации). Зато есть максимально системное описание того, что ИИ даст науке уже в ближайшее время - и куда наука может проэволюционировать в эпоху ОИИ (Общего ИИ) - вплоть до вопроса "а что останется исследователям-людям", когда наступит "пятая парадигма" науки (модель науки, в которой полный цикл познания, от постановки исследовательского вопроса до проведения экспериментов и подготовки итоговых результатов - автоматизирован).

К слову, хочу заметить, что первая версия части этой статьи была опубликована в нашем докладе "Будущее образования: глобальная повестка" еще в далеком 2014-м. Тогда большая часть идей о "познании с использованием ИИ" выглядела глубоко футорологическими изысканиями - пока будущее не стало внезапно наступать в начале 2020х.

https://cadmusjournal.org/article/volume-5-issue-4/ai-catalyst-new-paradigm-science


Привет! Меня зовут Павел Лукша. Мне не так много лет, но мне повезло уже прожить несколько крайне интересных жизней. В одной из них я был успешным топ менеджером, работал с одними из самых богатых людей России и мира, помогая им увеличивать свои немалые состояния. В другой я отказался от этой корпоративной карьеры для того, чтобы помогать людям совсем небогатым, но зато с горящими сердцами - учителям, социальным активистам, экологам. Я был одним из создателей самого успешного, на мой взгляд, эксперимента по сотрудничеству государства, бизнеса и гражданского общества в современной России, и под благосклонным взором государства запускал одно из самых массовых в мире движений по созданию "лучшего будущего". Я наблюдал, как многие из этих искренних начинаний стали симулякрами или "дымовой завесой" для коррупции и системного насилия. Я начал много работать с международными структурами, от ООН и ОЭСР до БРИКС, консультировал правительства более чем 20 стран, и должен сказать, что нет места на планете, где жизнь была бы намазана медом (хотя есть места, где жить очень и очень неплохо). Я также много пытался понять происходящее в мире и вокруг меня, занимался (и продолжаю заниматься) научными исследованиями, хотя принципиально решил не становиться академическим учёным. Я много исследовал человеческую историю, погружаясь всё глубже к ее многотысячелетним корням, серьезно погружался в разные духовные традиции, сидел випассаны, совершал паломничества на Афон и к шиваистским святыням, прошел сотни шаманских церемоний и учился в двух шаманских традициях. Я объехал более 80 стран мира, из континентов пока не добрался только до Антарктиды, и надеюсь, быть может, до конца жизни в этом теле ступить на грунт другой планеты. Я имел счастье познакомиться с большим количеством легендарных мыслителей и лидеров, о которых многие, наверное, только читали в книгах.

Я перечислил всё это не для того, чтобы хвастаться, а чтобы объяснить то, что я пытаюсь делать в жизни и чему хочу посвятить этот канал. Я убежден, что мы живём в одном из самых драматических моментов человеческой истории. Для среднего обывателя это утверждение совсем не так очевидно, средний городской житель среднеразвитой страны живёт в целом спокойно и размеренно, но на самом деле и человечество, и планета переживают мощнейший скачок, последствия которого будут отдаваться на тысячи, а может, и миллионы лет. Появление искусственного интеллекта и искусственной жизни - одно из проявлений этого скачка, но совсем не единственное.
Суть в том, что мы, люди, как вид и как одна из важнейших форм Эволюции и Жизни как таковой, уже "прыгнули", мы уже в разворачивающемся прыжке. Вполне возможно, что "прыгнули" вовсе и не мы как отдельный вид - "прыгнула" (то есть, вошла в эволюционный переход) вся биосфера планеты Земля. Исход этого "прыжка" не определен и не гарантирован. Мы можем прорваться к "лучшему будущему", а можем приземлиться неудачно и сломать ногу (а то и разбиться об острые камни). Этот момент мировой истории - точка максимальной неустойчивости. В такой период каждое микровоздействие может оказаться решающим для нашей коллективной судьбы.

Поэтому я хочу в этом канале обсуждать: что происходит, куда мы идём, что за будущее маячит впереди. И как именно судьба каждого отдельного человека, подобно фрактальному зеркалу, собирает в себе все линии общечеловеческой судьбы.

Добро пожаловать!

Показано 15 последних публикаций.

196

подписчиков
Статистика канала