Если вы читали мою книжку, то вас может мучить тот же вопрос, то и меня.
Получается, через несколько лет в офисе будет два типа людей.
Первые задают команды агенту. Вторым ИИ даёт команды.
Первые проектируют процесс. Вторые выполняют шаги по инструкции, которую агент сгенерировал.
Первые читают eval-отчёты. Вторые — фигурируют в этих отчётах как "human intervention".
Прикол в том, что это раздвоение внутри одной и той же профессии: один юрист стал "Legal Process Architect", а у другого ИИ стал начальником.
Кажется это разделение посильнее физиков и лириков или интеллигентов и пролетариев.
Люди второго типа и сейчас есть. Какой-нибудь курьер Яндекс лавки. Они сейчас гадают почему алгоритм им снизил рейтинг. И почему такие заказы падают.
Только теперь это проникнет в офис.
Печаль в том, что у тебя нет даже самого базовой защиты при помощи самоиндентификации. Типа ты очень давно тут и всех знаешь. Или ты симпатяга и тебе помогают. Ну или ты мачо и все тебя боятся. Ты взаимозаменяем.
Ты как бы каждый день начинаешь заново на работе. Тебе падают задачки как в сериале Severance а ты их делаешь даже не особо понимая глобальный смысл.
Конечно, вы скажете ИИ этика. Что системы должны строится так, чтобы было она всегда объяснялся сотруднику изменения. Всегда была возможность аппеляции к человеку. Правила должны быть четко описаны. Решения, которые влияют на судьбу - только через живого человека. Но это же залипон. Глобально не на что не влияет.
Или вот если ты накосячил. В реальной конторе все через месяц забыли. Новый начальник так вообще не в курсе. А теперь все твои косяки часть базы знаний и учитываются при принятии решений до конца твоего срока работы. Имею ли я право на забвение?
Мы же знаем, что люди с удовольствием строят тюрьмы и не секунды не будут сомневаться как далеко закрутить гайки ради пары процентов эффективности.
И как далеко мы зайдем? Например, сейчас на принятие решений предлагать скидку или нет вляют такие вещи как является ли ваш контрагент/начальник/подчиненный конченной сукой или там нытиком и плаксой. Буквально. Пишем ли мы такие вещи в КБ? Хотели бы вы, чтобы какие то глубинные черты вашего характера были в базе знаний компании? Ну пожалуйста, ради еще полпроцента прибыли акционерам можно же потерпеть?
Или нет?
Получается, через несколько лет в офисе будет два типа людей.
Первые задают команды агенту. Вторым ИИ даёт команды.
Первые проектируют процесс. Вторые выполняют шаги по инструкции, которую агент сгенерировал.
Первые читают eval-отчёты. Вторые — фигурируют в этих отчётах как "human intervention".
Прикол в том, что это раздвоение внутри одной и той же профессии: один юрист стал "Legal Process Architect", а у другого ИИ стал начальником.
Кажется это разделение посильнее физиков и лириков или интеллигентов и пролетариев.
Люди второго типа и сейчас есть. Какой-нибудь курьер Яндекс лавки. Они сейчас гадают почему алгоритм им снизил рейтинг. И почему такие заказы падают.
Только теперь это проникнет в офис.
Печаль в том, что у тебя нет даже самого базовой защиты при помощи самоиндентификации. Типа ты очень давно тут и всех знаешь. Или ты симпатяга и тебе помогают. Ну или ты мачо и все тебя боятся. Ты взаимозаменяем.
Ты как бы каждый день начинаешь заново на работе. Тебе падают задачки как в сериале Severance а ты их делаешь даже не особо понимая глобальный смысл.
Конечно, вы скажете ИИ этика. Что системы должны строится так, чтобы было она всегда объяснялся сотруднику изменения. Всегда была возможность аппеляции к человеку. Правила должны быть четко описаны. Решения, которые влияют на судьбу - только через живого человека. Но это же залипон. Глобально не на что не влияет.
Или вот если ты накосячил. В реальной конторе все через месяц забыли. Новый начальник так вообще не в курсе. А теперь все твои косяки часть базы знаний и учитываются при принятии решений до конца твоего срока работы. Имею ли я право на забвение?
Мы же знаем, что люди с удовольствием строят тюрьмы и не секунды не будут сомневаться как далеко закрутить гайки ради пары процентов эффективности.
И как далеко мы зайдем? Например, сейчас на принятие решений предлагать скидку или нет вляют такие вещи как является ли ваш контрагент/начальник/подчиненный конченной сукой или там нытиком и плаксой. Буквально. Пишем ли мы такие вещи в КБ? Хотели бы вы, чтобы какие то глубинные черты вашего характера были в базе знаний компании? Ну пожалуйста, ради еще полпроцента прибыли акционерам можно же потерпеть?
Или нет?