Введите текст для поиска
Расширенный поиск каналов

Курс по Telegram от TGStat Academy

Как сделать свой канал прибыльным с нуля?
img
реклама

Бесплатные уроки от TGStat Academy

С 1 по 10 января выкладываем мини-уроки в канале!
img
реклама

Кот научит как «ловить рыбу»

Видение, конкретика, неожиданные подходы.
img
реклама

Мак и коты и AI Safety

@makikoty
Гео и язык канала: не указан, не указан
Категория: не указана

Похожие каналы
Гео и язык канала
не указан, не указан
Категория
не указана
Статистика
Это ваш канал? Подтвердить Канал в реестре блогеров РКН? Подтвердить История канала
Фильтр публикаций

Мак и коты и AI Safety

22 Dec 2023, 19:15

Открыть в Telegram Поделиться Пожаловаться
Перевёл коротенький пост Thane Ruthenis "Большая Часть Людей Не Знает, Что Мы Понятия Не Имеем, Как Работают Наши ИИ".
И, заодно, один из недавних xkcd, потому что он был в посте.
Оригинал.
71 0 3 5
Мак и коты и AI Safety

18 Dec 2023, 01:01

Открыть в Telegram Поделиться Пожаловаться
Бенсинджер запостил в твиттере анкетку для описания мнения про риски ИИ. Пустой шаблон в первом твите-комментарии. Я вот свою раскрасил.
166 0 5 3
Мак и коты и AI Safety

30 Nov 2023, 19:27

Открыть в Telegram Поделиться Пожаловаться
Список для возражения утверждающим, что в экзистенциальные риски ИИ никто всерьёз не верит.

P(doom) roundup: what probability do people put on AI killing everyone?

- Vitalik Buterin (Ethereum): 10%

- Zvi Mowshowitz: 60%

- Elon Musk: 20-30%

- Scott Alexander: 20-25%

- Dario Amodei (CEO, Anthropic): 10-25%

- Jan Leike (Head of Alignment, OpenAI): 10-90%

- Geoffrey Hinton (Godfather of AI): 10%

- Paul Christiano (Former Head of Alignment at OpenAI, inventor of RLHF): 50%

- Lina Khan (FTC Chair): 15%

- Average AI engineer (Oct 2023): ~40%

- Average ML researcher (in spring 2022, before things got crazy): 10%

- Dan Hendrycks: recently updated from 20% to 80%

- Average AI alignment researcher: 30%

- Extinction tournament (median for AI experts): 20% chance of catastrophe, 6% chance of extinction
- Extinction tournament (median for non-AI experts): 9% chance of catastrophe, 1% chance of extinction

- BACA Research: 50%

- Scott Aaronson: 2%

- Conjecture AI researchers: 80%

- Eli Lifland: 35%

- Eliezer Yudkowsky: >95%

- Nate Soares: >95% (I think?)

- Holden Karnofsky: 50%

- Average American: 26%

* Disclaimers: p(doom) usually means as “extinction or similarly bad outcome” but everyone defines it differently, some of these are old and may have changed, many people added various caveats and conditionals, etc.
AI Notkilleveryoneism Memes ⏸️ (@AISafetyMemes) on X
P(doom) roundup: what probability do people put on AI killing everyone? - Vitalik Buterin (Ethereum): 10% - Zvi Mowshowitz: 60% - Elon Musk: 20-30% - Scott Alexander: 20-25% - Dario Amodei (CEO, Anthropic): 10-25% - Jan Leike (Head of Alignment, OpenAI): 10-90% - Geoffrey Hinton…
8.2k 4 81 10 9
Мак и коты и AI Safety

7 Nov 2023, 18:05

Открыть в Telegram Поделиться Пожаловаться
374 0 6 4 10
Мак и коты и AI Safety

6 Oct 2023, 18:20

Открыть в Telegram Поделиться Пожаловаться
Чёрное зеркало: НЕ ДЕЛАЙТЕ ЭТОГО!
Люди:
364 0 1 6 6
Мак и коты и AI Safety

8 Sep 2023, 19:10

Открыть в Telegram Поделиться Пожаловаться
518 1 14 1 12
Мак и коты и AI Safety

26 Aug 2023, 14:04

Открыть в Telegram Поделиться Пожаловаться
389 0 1 7
Мак и коты и AI Safety

22 Jul 2023, 16:01

Открыть в Telegram Поделиться Пожаловаться
441 0 3 8
Мак и коты и AI Safety

21 Jul 2023, 21:02

Открыть в Telegram Поделиться Пожаловаться
В 2015 году Скотт Александер написал.
В 2019 году Kath May перевела.
В 2023 году Rational Animations сделали видео.
Два дня назад я закончил редачить перевод (а то там размер ломался иногда) и вписал его в субтитры.
И вот они есть, смотрите!
https://www.youtube.com/watch?v=Bbwp4PbWYzw
(Горжусь собой, редачить стихи сложно)
The Goddess of Everything Else
This is an animation of The Goddess of Everything Else, a story by Scott Alexander. It was originally published on the Slate Star Codex blog. You can read it here: https://slatestarcodex.com/2015/08/17/the-goddess-of-everything-else-2/ Other posts relevant to this topic are: - Meditations on Moloch...
978 1 19 12
Мак и коты и AI Safety

21 Jul 2023, 19:51

Открыть в Telegram Поделиться Пожаловаться
Тестик (на английском), в котором предлагают проверить, понимаете ли вы, что GPT-4 умеет, а что не умеет. Аккуратно вчитывайтесь в вопросы, там иногда некоторая подстава.

https://t.co/NAxXoXLPrc
252 0 3 2
Мак и коты и AI Safety

18 Jun 2023, 19:56

Открыть в Telegram Поделиться Пожаловаться
Репост из: ДневникМака
Накопилось немного невыложенных коллажей, вот собрался наконец и отсканил их все!
216 0 0 5
Мак и коты и AI Safety

16 Jun 2023, 16:54

Открыть в Telegram Поделиться Пожаловаться
Небольшой новый перевод - статья Кати Грейс "ИИ - не гонка вооружений", опубликованная в Time. (Оригинал)
257 0 4 3
Мак и коты и AI Safety

14 Jun 2023, 20:06

Открыть в Telegram Поделиться Пожаловаться
Обновил перевод цепочки Стивена Бирнса "Введение в Безопасность Подобного-Мозгу СИИ". Привёл его в соответствие изменениям в оригинальных постах, проставил перекрёстные ссылки и поправил немножко ошибок!

Прочитать можно тут, тут или тут, как удобнее.

(Тортик из седьмого поста)
251 0 4 4
Мак и коты и AI Safety

3 Jun 2023, 00:39

Открыть в Telegram Поделиться Пожаловаться
Перевёл новое открытое письмо о ИИ:

Снижение риска вымирания из-за ИИ должно быть глобальным приоритетом подобно другим всеобщим рискам, такими как пандемии или ядерная война.

(это всё, в нём больше ничего нет, не самый сложный мой перевод, прямо скажем)

Подписали Джеффри Хинтон, Йошуа Бенжио, Демис Хассабис, Сэм Ольтмен, Дарио Амодей, Билл Гейтс, Илья Суцкевер и ещё много кто.
230 0 0 8
Мак и коты и AI Safety

2 Jun 2023, 14:02

Открыть в Telegram Поделиться Пожаловаться
Узбагойтесь

Дополнительные причины верить, что это фейк:
1. Откуда ИИ дрона в симуляции знать, где [виртуальный] оператор? Зачем в виртуальной симуляции вообще быть виртуальному оператору?
2. Если бы симуляция пошла так, откуда бы им знать, почему именно? Интерпретируемости практически нет.

UPD: Это был мысленный эксперимент, "wargamed scenario", вот ещё ссылка
200 0 3 1
Мак и коты и AI Safety

24 May 2023, 20:55

Открыть в Telegram Поделиться Пожаловаться
213 0 1 2 4
Мак и коты и AI Safety

23 May 2023, 23:47

Открыть в Telegram Поделиться Пожаловаться
179 0 0 1
Мак и коты и AI Safety

21 May 2023, 16:42

Открыть в Telegram Поделиться Пожаловаться
217 0 2 1 2
Мак и коты и AI Safety

16 May 2023, 21:49

Открыть в Telegram Поделиться Пожаловаться
180 0 2 7
Мак и коты и AI Safety

8 May 2023, 16:51

Открыть в Telegram Поделиться Пожаловаться
Посмотрел на статистику просмотров повсюду и понял, что надо больше всего выкладывать на lesswrong.ru. Начал с старого перевода "Встроенной Агентности" и вот, готово!

(Оранжевый цвет админ обещал скоро подвезти, и я после этого ещё и покрашу там все обычные ссылки в фиолетовый, чтоб не надо было два оттенка синего различать)
211 0 0 5 10
Показано 20 последних публикаций.

137

подписчиков
Статистика канала