Что профессоры университетов говорят про ИИ
Ещё одна заметка с WebSummit, которая может быть интересна всем увлечённым AI.
• Необходимость глубокой философии: Развитие ИИ часто опирается на поверхностный подход, ориентированный на оптимизацию и прибыль, а не на более глубокие философские основы. Для создания этичных и полезных систем важно закладывать философские принципы на всех этапах — от разработки и инженерии до регулирования и этики.
• Искусственная интегритет: В книге “Artificial Integrity” поднимается вопрос о том, что системы ИИ должны обладать чем-то, напоминающим человеческий интегритет. Это важно, поскольку интеллект и энергия без интегритета могут быть разрушительными.
• Человеческий фактор стал избыточным: Современные ИИ-системы ориентированы на максимальную оптимизацию, что делает человеческий фактор второстепенным. Это создает дисбаланс, когда решения принимаются исходя из экономической выгоды, а не из соображений общего блага.
• Поиск “доброты” в ИИ: Сейчас введение философских элементов на любом этапе разработки ИИ (инженерия, регулирование, этика) не всегда успешно, поскольку основная мотивация — прибыль, а не благо общества. Необходимо находить баланс между коммерческой и этической составляющими.
• Отсутствие эмоционального интеллекта: Современные системы ИИ не способны на эмоционально ориентированный интеллект, основанный на восприятии, который присущ человеку. Несмотря на развитие нейронных сетей, такие аспекты, как эмоции, мечты и ожидания, остаются вне досягаемости ИИ.
• Невозможность полной замены человеческого интеллекта: Человеческий мозг обладает уникальными когнитивными возможностями, которые не могут быть полностью воспроизведены в искусственных системах, даже при использовании самых современных технологий. Полная замена человеческого интеллекта пока невозможна.
• Создание более “человеческого” ИИ: Для достижения подлинного искусственного интеллекта необходимо обратиться к человеческим архетипам и когнитивным способностям, сформированным за века эволюции. Это позволит создать системы, которые будут более адаптированы к человеческому восприятию и ожиданиям.
• Философия как основа для этичного ИИ: Внедрение философских и этических принципов в основу разработки ИИ может помочь создать системы, способные интегрироваться в общество без нанесения вреда, сохраняя баланс между экономической выгодой и общественным благом.
Кто о чём, а профессорам универов положено поднимать филосовские темы. Что важно нам: когда такие тезисы звучат с высоких сцен, это стоит воспринимать как сигнал к тому, что вопросам гуманизации ИИ будет уделяться внимание хотим мы этого или нет. А значит, чтобы остаться актуальным через несколько лет, сегодняшние разработчики должны закладывать зачатки интегритета в свои модели. Так победят.
@ProstoVenture #websummit
Ещё одна заметка с WebSummit, которая может быть интересна всем увлечённым AI.
1. Философский подход к ИИ
• Необходимость глубокой философии: Развитие ИИ часто опирается на поверхностный подход, ориентированный на оптимизацию и прибыль, а не на более глубокие философские основы. Для создания этичных и полезных систем важно закладывать философские принципы на всех этапах — от разработки и инженерии до регулирования и этики.
• Искусственная интегритет: В книге “Artificial Integrity” поднимается вопрос о том, что системы ИИ должны обладать чем-то, напоминающим человеческий интегритет. Это важно, поскольку интеллект и энергия без интегритета могут быть разрушительными.
2. Проблема избыточной оптимизации
• Человеческий фактор стал избыточным: Современные ИИ-системы ориентированы на максимальную оптимизацию, что делает человеческий фактор второстепенным. Это создает дисбаланс, когда решения принимаются исходя из экономической выгоды, а не из соображений общего блага.
• Поиск “доброты” в ИИ: Сейчас введение философских элементов на любом этапе разработки ИИ (инженерия, регулирование, этика) не всегда успешно, поскольку основная мотивация — прибыль, а не благо общества. Необходимо находить баланс между коммерческой и этической составляющими.
3. Ограничения ИИ и человеческая природа
• Отсутствие эмоционального интеллекта: Современные системы ИИ не способны на эмоционально ориентированный интеллект, основанный на восприятии, который присущ человеку. Несмотря на развитие нейронных сетей, такие аспекты, как эмоции, мечты и ожидания, остаются вне досягаемости ИИ.
• Невозможность полной замены человеческого интеллекта: Человеческий мозг обладает уникальными когнитивными возможностями, которые не могут быть полностью воспроизведены в искусственных системах, даже при использовании самых современных технологий. Полная замена человеческого интеллекта пока невозможна.
4. Необходимость гуманизации ИИ
• Создание более “человеческого” ИИ: Для достижения подлинного искусственного интеллекта необходимо обратиться к человеческим архетипам и когнитивным способностям, сформированным за века эволюции. Это позволит создать системы, которые будут более адаптированы к человеческому восприятию и ожиданиям.
• Философия как основа для этичного ИИ: Внедрение философских и этических принципов в основу разработки ИИ может помочь создать системы, способные интегрироваться в общество без нанесения вреда, сохраняя баланс между экономической выгодой и общественным благом.
Мой вывод:
Кто о чём, а профессорам универов положено поднимать филосовские темы. Что важно нам: когда такие тезисы звучат с высоких сцен, это стоит воспринимать как сигнал к тому, что вопросам гуманизации ИИ будет уделяться внимание хотим мы этого или нет. А значит, чтобы остаться актуальным через несколько лет, сегодняшние разработчики должны закладывать зачатки интегритета в свои модели. Так победят.
@ProstoVenture #websummit