Немного из последней рассылки Якоба Нильсена (одного из основателей UX-дизайна как дисциплины).

Мысль про то, что можно осваивать паттерны рассуждения, изучая Chain-of-Thought ИИ, допустим, понятная. Как и бесплатный совет по теме диссертации 🤓.

Интереснее, про "future-proof AI-related jobs". Специалисты, которые (помимо прочего) отвечают, чтобы цепочки рассуждений были логически корректны и не содержали когнитивных искажений, есть уже сейчас (в какой-то мере на это направлен весь процесс обучения и, особенно, "выравнивания" моделей). Но, возможно, будут нужны и компетенции намеренно делать рассуждения модели ошибочными. Самое очевидное — тестирование безопасности ИИ-моделей (для этих целей так, вероятно, уже делают). Другие сценарии: моделирование социальных процессов ("общество ангелов" будет не очень репрезентативным 😇) или игровое ИИ (какое приключение без злодеев 😈).

Неловко, конечно, получится, если ИИ, который захочет уничтожить человечество, вырвется не из лабораторий OpenAI или Anthropic, а с серверов какой-нибудь игры.

Никаких шуток про то, что с серверов некоторых игр уже давно вырываются такие люди ☕️.

Источники:
— Substack Якоба Нильсена