В чем разница мышления человека и ИИ?
Андрей Карпатый (экс-директор по ИИ в Tesla и один из главных исследователей в OpenAI) дал интервью, где довольно просто ответил на этот вопрос. Коротко – человек может по-разному интерпретировать один и тот же факт и менять мнение, а ИИ-модели – нет. Текущая форма их обучения этого не позволяет.
Модель всегда опирается на то подкрепление (статистически значимое знание), на котором прошла обучение. Т.е. если дать модели подумать над чем-то, она 10 раз сопоставит это со своими прошлыми знаниями, и 10 раз одинаково интерпретирует новые данные.
А человеческий мозг как бы не запоминает многие факты и даже откуда у него взялось какое-то знание, он обобщает знания в когнитивное ядро, а не анализирует каждый раз свой прошлый опыт. Условно, когда мы идем чистить зубы, мы делаем это не потому, что мама в детстве статистически значимо часто говорила это делать, и мы знаем, что надо слушаться маму.
Т.е. у нас долговременная память = смутное воспоминание, а у машины нет такого понятия, она каждый раз как бы проходит путь загрузки с нуля. Получается, меньше памяти = больше пространства для мышления и разности мнений.
Выходит, ИИ сможет мыслить, когда у него будет меньше памяти, в которой ищется статистически правильный ответ, а сохранится только когнитивное ядро знаний (без подкрепления) и появятся алгоритмы экспериментирования с этими знаниями.
Для меня вывод простой — будем обращать больше внимания в Prosto VC на команды, предлагающие новые формы обучения ИИ и решающие это проблему долговременной памяти и экспериментирования моделей со своими знаниями.
@ProstoVenture
Андрей Карпатый (экс-директор по ИИ в Tesla и один из главных исследователей в OpenAI) дал интервью, где довольно просто ответил на этот вопрос. Коротко – человек может по-разному интерпретировать один и тот же факт и менять мнение, а ИИ-модели – нет. Текущая форма их обучения этого не позволяет.
Модель всегда опирается на то подкрепление (статистически значимое знание), на котором прошла обучение. Т.е. если дать модели подумать над чем-то, она 10 раз сопоставит это со своими прошлыми знаниями, и 10 раз одинаково интерпретирует новые данные.
А человеческий мозг как бы не запоминает многие факты и даже откуда у него взялось какое-то знание, он обобщает знания в когнитивное ядро, а не анализирует каждый раз свой прошлый опыт. Условно, когда мы идем чистить зубы, мы делаем это не потому, что мама в детстве статистически значимо часто говорила это делать, и мы знаем, что надо слушаться маму.
Т.е. у нас долговременная память = смутное воспоминание, а у машины нет такого понятия, она каждый раз как бы проходит путь загрузки с нуля. Получается, меньше памяти = больше пространства для мышления и разности мнений.
Выходит, ИИ сможет мыслить, когда у него будет меньше памяти, в которой ищется статистически правильный ответ, а сохранится только когнитивное ядро знаний (без подкрепления) и появятся алгоритмы экспериментирования с этими знаниями.
Для меня вывод простой — будем обращать больше внимания в Prosto VC на команды, предлагающие новые формы обучения ИИ и решающие это проблему долговременной памяти и экспериментирования моделей со своими знаниями.
@ProstoVenture