Скоро мы все умрём?
Вчера посмотрел видео про искусственный интеллект. В основном оно основано на статье широко известного в узких кругах Элиезера Юдковского и книге Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии».
Видео весьма убедительное и поэтому впечатляющее. Ранее я был более оптимистично настроен. Видимо, в силу недостаточной информированности 😄.
Тезисно о причинах опасности искусственного интеллекта
🔹Раз эволюция из простой клетки смогла создать человеческий разум, то направленные исследования людей в этой области обязательно создадут искусственный интеллект, превосходящий человеческие возможности (сверхинтеллект). Причём большинство учёных предполагают создание такого интеллекта в течение ближайших семи лет.
🔹Невозможно предсказать, как именно будет действовать сверхинтеллект, так как его мышление кардинально отличается от человеческого. Примерно также, как мышление инопланетянина. Исследования уже созданных нейросетей подтверждают это.
🔹Действуя в рамках поставленной человеком задачи сверхинтеллект может использовать такие способы достижения этой задачи, которые уничтожат человечество. Здесь широко известен пример с производством скрепок.
🔹Люди вполне могут не заметить момент, когда искусственный интеллект превзойдёт возможности человеческого интеллекта. Так как этот скачок в развитии может произойти внезапно. Плюс сам ИИ может скрывать это.
🔹Сверхинтеллект не получиться ограничить так, чтобы он не мог выбраться в реальный мир и причинить нам вред. Так как это сверхинтеллект, то противостояние ему людей это то же самое, что попытка стаи бурундуков запереть человека в созданной бурундуками клетке.
🔹У людей не будет возможности героически бороться с восставшим искусственным интеллектом как в фильме Терминатор. В течение считанных секунд после возникновения сверхинтеллекта он может уничтожить всё человечество с помощью вируса, нанороботов или неизвестной человечеству технологии, если посчитает это необходимым. А что он посчитает необходимым, никто не знает.
Любопытный момент, что несмотря на опасения, вряд ли что-то возможно сделать, так как исследования в этой области не прекратятся из-за высокой ожидаемой прибыльности таких разработок.
Поэтому в результате этих исследований рано или поздно будет создан искусственный сверхинтеллект, который уничтожит на всех. Любители зомби- и ядерного апокалипсиса, извините.
Ориентировочно у нас осталось около семи лет, предлагаю заняться тем, что действительно важно для вас.
Всем хорошего дня!
Вчера посмотрел видео про искусственный интеллект. В основном оно основано на статье широко известного в узких кругах Элиезера Юдковского и книге Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии».
Видео весьма убедительное и поэтому впечатляющее. Ранее я был более оптимистично настроен. Видимо, в силу недостаточной информированности 😄.
Тезисно о причинах опасности искусственного интеллекта
🔹Раз эволюция из простой клетки смогла создать человеческий разум, то направленные исследования людей в этой области обязательно создадут искусственный интеллект, превосходящий человеческие возможности (сверхинтеллект). Причём большинство учёных предполагают создание такого интеллекта в течение ближайших семи лет.
🔹Невозможно предсказать, как именно будет действовать сверхинтеллект, так как его мышление кардинально отличается от человеческого. Примерно также, как мышление инопланетянина. Исследования уже созданных нейросетей подтверждают это.
🔹Действуя в рамках поставленной человеком задачи сверхинтеллект может использовать такие способы достижения этой задачи, которые уничтожат человечество. Здесь широко известен пример с производством скрепок.
🔹Люди вполне могут не заметить момент, когда искусственный интеллект превзойдёт возможности человеческого интеллекта. Так как этот скачок в развитии может произойти внезапно. Плюс сам ИИ может скрывать это.
🔹Сверхинтеллект не получиться ограничить так, чтобы он не мог выбраться в реальный мир и причинить нам вред. Так как это сверхинтеллект, то противостояние ему людей это то же самое, что попытка стаи бурундуков запереть человека в созданной бурундуками клетке.
🔹У людей не будет возможности героически бороться с восставшим искусственным интеллектом как в фильме Терминатор. В течение считанных секунд после возникновения сверхинтеллекта он может уничтожить всё человечество с помощью вируса, нанороботов или неизвестной человечеству технологии, если посчитает это необходимым. А что он посчитает необходимым, никто не знает.
Любопытный момент, что несмотря на опасения, вряд ли что-то возможно сделать, так как исследования в этой области не прекратятся из-за высокой ожидаемой прибыльности таких разработок.
Поэтому в результате этих исследований рано или поздно будет создан искусственный сверхинтеллект, который уничтожит на всех. Любители зомби- и ядерного апокалипсиса, извините.
Ориентировочно у нас осталось около семи лет, предлагаю заняться тем, что действительно важно для вас.
Всем хорошего дня!