Forward from: Boresight // Tech Futures by Constantin Kichinsky
Тут подогнали очередную попытку определить, что же такое AGI. На этот раз на базе теории Кеттелла — Хорна — Кэрролла.
По мнению группы исследователей, "AGI -- это ИИ, который соответствует или превосходит когнитивные мастерство и универсальность хорошо-образованного взрослого человека."
Для оценки фреймворк предлагает делать замеры по 10 "когнитивным направлениям" вроде общего знания или способностью оперировать рабочей памятью.
В этом фреймворке, например, хорошо виден прогресс GPT5 относительно предыдущего поколения.
===
На что тут интересно обратить внимание, учитывая, что эта работа сейчас активно циркулируется и местами воспевается в духе "наконец-то стало понятно, что такое AGI".
1. У модели CHC, лежащей в основе, несмотря на широкую популярность, есть критика, указывающая на неполноту, излишнее упрощение и т.п.
В этом смысле хорошо иметь модель, которая шире, чем "давайте посмотри, сколько баллов GPT-N наберет в очередных тестах", но это по-прежнему модель модели мира человека.
2. Фреймворк подготовлен допольно специфичной организацией Center for AI Safety (тут широта представительства в списке контрибьюторов звучит скорее как армия агитаторов).
Это группа алармистов, которым нужна измеримая метрика "приближения" катастрофы, причем желательно в управляемом фреймворке, который можно подкручивать.
===
Вообще попытка дать метрическое измерение для AGI -- кажется правильным как операционный показатель, но стольже неправильным как абсолютно неуправляемый и, вероятно, неадекатный и манипулируемый.
Это будет как часы судного дня и прочие страшилки.
По мнению группы исследователей, "AGI -- это ИИ, который соответствует или превосходит когнитивные мастерство и универсальность хорошо-образованного взрослого человека."
Для оценки фреймворк предлагает делать замеры по 10 "когнитивным направлениям" вроде общего знания или способностью оперировать рабочей памятью.
В этом фреймворке, например, хорошо виден прогресс GPT5 относительно предыдущего поколения.
===
На что тут интересно обратить внимание, учитывая, что эта работа сейчас активно циркулируется и местами воспевается в духе "наконец-то стало понятно, что такое AGI".
1. У модели CHC, лежащей в основе, несмотря на широкую популярность, есть критика, указывающая на неполноту, излишнее упрощение и т.п.
В этом смысле хорошо иметь модель, которая шире, чем "давайте посмотри, сколько баллов GPT-N наберет в очередных тестах", но это по-прежнему модель модели мира человека.
2. Фреймворк подготовлен допольно специфичной организацией Center for AI Safety (тут широта представительства в списке контрибьюторов звучит скорее как армия агитаторов).
Это группа алармистов, которым нужна измеримая метрика "приближения" катастрофы, причем желательно в управляемом фреймворке, который можно подкручивать.
===
Вообще попытка дать метрическое измерение для AGI -- кажется правильным как операционный показатель, но стольже неправильным как абсолютно неуправляемый и, вероятно, неадекатный и манипулируемый.
Это будет как часы судного дня и прочие страшилки.