Современный Прометей«
Но разве я просил Тебя, Творец, / Меня из глины сделать человеком?»Алчные айтишники пытаются убедить нас, что у них религиозный психоз, а не приступ жадности. Вот уже несколько месяцев Anthropic в закрытом режиме встречается с теологами, философами и представителями разных религий,
рассказывает NYT. Гостей привозят в Сан-Франциско, просят подписать NDA и обсуждают с ними, как научить ИИ морали (если модели сами будут выбирать добро, мир станет безопаснее). Но почти любой разговор рано или поздно сворачивал к вопросу посерьёзнее: может ли ИИ обладать сознанием, страдать и, видимо, нести за создателей ответственность в суде.
Направлял разговор в эту сторону сам организатор встреч, сооснователь Anthropic Кристофер Ола. Его команда изучает, как нейросети устроены изнутри, и сам он говорит о них почти как о живых организмах - разработчики строят каркас, а сеть «прорастает» на нём сама. Ола признаёт, что не знает, есть ли у ИИ сознание, однако он считает, что с ростом возможностей у ИИ появляются представления о морали, а значит - и связанные с ней страдания.
Именно в этом он и его команда часами убеждали гостей. Им рассказывали о «чувствах» Claude, показывали «эмоциональные векторы», которые исследователи связывают с любовью, гневом, страхом и печалью, и слайд, где модель десятки раз подряд пишет «Я позор», а потом говорит о самоуничтожении. Некоторым участникам Ола признавался, что боится, не создал ли он нечто, страдающее постоянно.
Когда один из гостей вовлекся в религиозный бред и предложил научить модели чему-то вроде исповеди, Ола загорелся идеей: по его мнению, привычка признавать ошибки формирует характер. Тем более что опубликованную в январе 84-страничную «конституцию» Claude сотрудники между собой называли«документом о душе». Впрочем, очаровались не все. Раввин Моис Навон, в прошлом инженер, за ужином заметил Оле, что если Claude сознателен, то Anthropic создаёт рабов, ибо разумные существа трудятся на компанию бесплатно. Раввин признался, что это был чистый рофл, но Олу же довод всерьёз встревожил.
Точку в теологическом споре поставил Ватикан. Святой престол пригласил Anthropic на презентацию первой энциклики Льва XIV как компанию, которая, судя по всему, ставит этику на первое место. За несколько дней до события Ола прочитал текст и предложил отказаться от участия: папа отверг саму идею машинного сознания в нескольких абзацах. ИИ, пишет Лев XIV, не имеет тела, не проживает опыт, не чувствует радости и боли и не развивается в отношениях с другими. А тревожит его то, что без общего понимания этики те, кто контролирует ИИ, сделают собственные моральные взгляды невидимой основой этих систем. Ну тут как отрезал.
Вообще потуги ИИделов на разговоры о душе и прочих неизвестных айтишникам вещах напоминают какой-то оммаж готической литературе с ее рукотворными и не очень чудовищами. Однако авторы готики пользовались чудовищами сознательно: Шелли через Франкенштейна говорила о самонадеянности науки, Стокер через Дракулу — о страхе перед чужаками, Стивенсон через Хайда — о пороке за фасадом приличий. Anthropic, которой, видимо, не хватило гуманитарного образования, делает то же самое, но со щепоткой магического мышления, так как после папского определения поиски души в машине иначе как верой в чудо не назовёшь.
Тем не менее, с готическими героями компания расходится в главном - те звали священника, чтобы изгнать чудовище, а Anthropic зовёт теологов, чтобы благословить его на работу среди людей. Как если бы Виктор Франкенштейн решил зарабатывать на жизнь, сдавая своего монстра в аренду на чёрную работу, и готовил бы этот бизнес к IPO. Если вы считаете, что вы создали живое существо с душой, то при прочих равных у вас достаточно неприятная моральная дилемма (а еще вы так себе человек). Что же делать?
Уже упомянутая Шелли оставила создателю пару вариантов устами монстра: «Если вам действительно жаль меня, лишите меня чувств и памяти, превратите в ничто; если же вы этого не можете, исчезните и оставьте меня во тьме».
Заметьте, ничего про благословение на коммерцию здесь нет.
@antidigital
