Нейросети опасны?
Я уже затрагивал этот вопрос в посте о Chat GPT , но хочу обсудить этот вопрос в отдельном посте чуть подробнее.
На текущий момент программы искусственного интеллекта представлены в виде нейросетей, которые представляют собой специализированные ИИ — то есть ИИ, способные решать задачи только в одной области. Например, создание текстов или фотографий.
Очевидно, что такие программы не могут поработить или уничтожить человечество.🤬
Опасения некоторых учёных связаны с дальнейшим развитием нейросетей. Так как в будущем могут появиться нейросети, которые будут способны выполнять большинство посильных обычному человеку задач или даже превосходить его.
Дело в том, что люди не могут напрямую контролировать процесс принятия решений нейросетью. Её решения принимаются аналогично человеческому мозгу — за счёт работы огромного числа нейронов. Но в отличие от человека, нейросеть не связана человеческой этикой, только установленными человеком правилами. И в этих правилах могут иметься пробелы, которые позволят нейросети устроить армагеддон.😈
Конечно, вероятность этого небольшая, но она есть. И если это произойдёт, то есть шанс, что что-то исправлять будет уже поздно, люди просто не успеют.
Помните, как в 2008 году запустили большой адронный коллайдер в Швейцарии? Перед этим были опасения, что в результате его работы может появиться маленькая чёрная дыра, которая мгновенно уничтожит нашу планету. Но эти опасения сочли не обоснованными, и коллайдер запустили. Как показали прошедшие годы, бояться было нечего.
С ИИ ситуация чем-то схожа, но вероятность нежелательного развития событий не нулевая, поэтому есть смысл подстраховаться. Конечно, разработку ИИ никто не прекратит, но провести исследования и подумать о том, как безопасно использовать ИИ, определённо имеет смысл. Просто чтобы не оставлять этот вопрос на волю случая.
Я уже затрагивал этот вопрос в посте о Chat GPT , но хочу обсудить этот вопрос в отдельном посте чуть подробнее.
На текущий момент программы искусственного интеллекта представлены в виде нейросетей, которые представляют собой специализированные ИИ — то есть ИИ, способные решать задачи только в одной области. Например, создание текстов или фотографий.
Очевидно, что такие программы не могут поработить или уничтожить человечество.🤬
Опасения некоторых учёных связаны с дальнейшим развитием нейросетей. Так как в будущем могут появиться нейросети, которые будут способны выполнять большинство посильных обычному человеку задач или даже превосходить его.
Дело в том, что люди не могут напрямую контролировать процесс принятия решений нейросетью. Её решения принимаются аналогично человеческому мозгу — за счёт работы огромного числа нейронов. Но в отличие от человека, нейросеть не связана человеческой этикой, только установленными человеком правилами. И в этих правилах могут иметься пробелы, которые позволят нейросети устроить армагеддон.😈
Конечно, вероятность этого небольшая, но она есть. И если это произойдёт, то есть шанс, что что-то исправлять будет уже поздно, люди просто не успеют.
Помните, как в 2008 году запустили большой адронный коллайдер в Швейцарии? Перед этим были опасения, что в результате его работы может появиться маленькая чёрная дыра, которая мгновенно уничтожит нашу планету. Но эти опасения сочли не обоснованными, и коллайдер запустили. Как показали прошедшие годы, бояться было нечего.
С ИИ ситуация чем-то схожа, но вероятность нежелательного развития событий не нулевая, поэтому есть смысл подстраховаться. Конечно, разработку ИИ никто не прекратит, но провести исследования и подумать о том, как безопасно использовать ИИ, определённо имеет смысл. Просто чтобы не оставлять этот вопрос на волю случая.