Потребность оставаться незаменимым

Недавно я получил довольно обидное замечание о тексте в Flânerie Libre. В нём я объяснял, что вкус, суждение, некоторые способы придавать вещам ценность останутся человеческими, даже когда искусственный интеллект научится делать почти всё остальное.

Кто-то ответил, что это похоже на бумера, который пытается найти то, чего у него не смогут отнять.

Мне хотелось бы счесть это замечание глупым. Проблема в том, что оно было верным.

Я целыми днями создаю компании с помощью ИИ. Вижу, что он позволяет делать, ставлю на него, зарабатываю им на жизнь. А вечером спокойно рисовал для него небольшую границу, которую нельзя пересекать. Он мог забрать код, расчёты, неприятную работу. Но со вкусом поосторожнее. Вкус был моей территорией.

В таком распределении было что-то очень человеческое. И очень подозрительное.

С тех пор я провёл эксперименты, которые пошатнули мою уверенность. В некоторых ситуациях я уже предпочитаю выбор ИИ выбору многих людей. Это не доказывает, что у него есть вкус, и тем более сознание. Но этого достаточно, чтобы моя граница стала гораздо менее удобной. Возможно, я выдал собственное желание за свойство человечества.

Мы часто так делаем. Называем «человеческой природой» то место, на котором хотели бы остановить прогресс.

«Никогда» подождёт

Нынешний период труден тем, что машины развиваются не в том порядке, в котором мы ожидали. Они могут удивить нас в задаче, казавшейся недоступной, и измучить в другой, которая выглядела простой. Я использую их для письма без каких-либо моральных затруднений. Многие мои идеи остались бы в голове, если бы на оформление каждой приходилось тратить час. ИИ позволяет ими делиться. Отлично.

Но когда я захотел написать об уроках собственной жизни, порой на исправление его абзацев уходило больше времени, чем понадобилось бы, чтобы написать их самому. Грамотные фразы, узнаваемая мысль, и всё-таки раздражающее ощущение, будто кто-то прошёлся утюгом по моему мозгу. Всё стало более гладким. И менее точным.

Из этого можно было бы вывести большую теорию о невозможности воспроизвести авторский голос. Теперь я предпочитаю более скромный вывод: в этом конкретном тексте, в этот конкретный момент лучше было снова взять работу на себя. «Никогда» подождёт.

Такую скромность трудно продать. Нам больше нравятся люди, знающие, куда мы идём. У оптимистов своё будущее, у пессимистов своё, и каждый объясняет, что факты наконец начинают подтверждать его правоту. А у меня главным образом ощущение, что наши убеждения помогают нам переносить то, чего мы пока не понимаем.

Я вижу это в собственной работе. Ставлю на то, что ИИ станет способнее и дешевле. Эта ставка определяет устройство компаний, которые я создаю. Значит, мне выгодно в неё верить. Признание этого не обязывает меня останавливаться. Оно обязывает не путать свою заинтересованность с доказательством.

Предприниматель должен уметь действовать с сильной убеждённостью и продолжать проверять, что могло бы её опровергнуть. Это утомительно. Гораздо спокойнее было бы стать продавцом собственной уверенности.

Реальность движется с другой скоростью

На практике беспорядка ещё больше, чем в дискуссиях. Я встречаю компании, через которые проходят огромные суммы и которые едва притронулись к этим инструментам. Рядом вижу отдельных людей, уже изменивших способ работы. Даже внутри команды, ежедневно использующей ИИ, различия огромны. Одни мастерят, пробуют, начинают заново и в конце получают нечто неожиданное. Другие располагают теми же инструментами и производят много довольно посредственных вещей.

Доступ распространяется гораздо быстрее, чем осваиваются навыки использования. Возможность что-то создавать не даёт всем ни желания взяться за дело, ни терпения разобраться, почему оно не работает.

Поэтому за один день у меня могут возникнуть и ощущение, что изменилось всё, и чувство, что ничто не движется. Возможности взлетели. Привычки, страхи и отношения власти меняются с другой скоростью. Техническая демонстрация длится пять минут. Изменения, к которым она обязывает людей, могут занять месяцы.

В Naijm я постоянно сталкиваюсь с этой разницей. Внедрение ИИ в компанию требует понимать не только то, что люди делают, но и то, что они боятся потерять. Задача может быть бессмысленной и при этом защищать статус. Информацию может быть легко распространять, но она составляет власть того, кто её хранит. Если этого не учитывать, можно поставить очень умный инструмент, которым никто не захочет пользоваться.

Доверие позволяет войти в эту реальность. Оно возникает в том, что мы делаем вместе, в выполненных обещаниях, в том, как реагируем, когда что-то идёт не так. Не знаю, что машины смогут делать с ним завтра. Знаю, что в моей сегодняшней работе оно значит очень много.

Дашборд для собственного успокоения

Однако существует куда более приятный способ избежать всей этой сложности: сделать дашборд.

На эту тему у меня есть не слишком научная теория. Хотите узнать, как давно человек открыл для себя ИИ, — посмотрите на дату создания его первого дашборда.

Я понимаю этот восторг. За несколько минут появляются графики, цвета, показатели. Компания, до того представлявшая собой набор незавершённых разговоров и плохо определённых проблем, наконец умещается на экране. Это даёт восхитительное чувство контроля.

Дашборд бывает полезен. Но он показывает то, что мы решили измерять. Клиент, начинающий сомневаться, коллега, который больше не решается возражать, проект, бодро движущийся в неправильную сторону: всё это может оставаться невидимым, пока показатели горят зелёным.

Меня беспокоит, как легко мы принимаем облегчение от ясной картинки за доказательство понимания. Образ компании может стать привлекательнее самой компании. Особенно когда изображение меняется за тридцать секунд, а для изменения реальности нужны три тяжёлых разговора.

Тогда ИИ может оказать нам особую услугу: придать безупречную форму нашим неправильным вопросам. Мы просим экран, который нас успокоит. Он его делает. А мы хвалим его за ум.

Подарок, который я делал себе

Я научился остерегаться этой путаницы задолго до ИИ, в гораздо более личной области.

Мне нравилось придумывать украшения и заказывать их изготовление для женщин, в которых я был влюблён. Я вкладывал в это время, внимание, удовольствие. Мне казалось очевидным, что вещь, задуманная для одного-единственного человека, должна иметь большую ценность, чем украшение, выбранное в магазине.

Очевидным для меня.

Потом пришлось признать: украшение Cartier могло доставить удовольствие, которого моё не доставляло. Вместе с ним приходили история, узнаваемость, целый мир, уже существующий вокруг. Его можно было хотеть ещё до того, как получить. Другие его узнавали. То, что я считал внешним по отношению к предмету, полностью входило в переживание.

Я мог бы объяснить, что это удовольствие поверхностно. Это был бы изящный способ потребовать, чтобы другой человек чувствовал всё так же, как я. В конце концов я понял: такими подарками я заодно дарил себе удовольствие быть человеком, который придумывает украшения. Женщина, которой я их предназначал, участвовала в истории, смысл которой я выбрал за неё.

Теперь покупаю и то и другое. Дороже, зато сильно снижает потребность читать любимому человеку лекции по философии.

Эта история научила меня кое-чему о ценности. Нам нравится представлять её заключённой внутри предметов, словно её можно вычислить, сложив материалы, труд и сложность. Но часть того, что имеет значение, возникает между людьми. Ценность вещи зависит и от того, кто её дарит, кто её желает, с каким воспоминанием она связана и какое место позволяет нам занять.

То, что эти смыслы созданы людьми, не делает удовольствие воображаемым. Можно прекрасно понимать, как работает бренд, и радоваться полученному предмету этого бренда. Ясность взгляда не отменяет желания автоматически. И, к счастью. Жизнь стала бы довольно бедной, если бы понимания было достаточно, чтобы разлюбить.

Это меняет то, как я думаю об изобилии, которое может создать ИИ. Даже если производство станет намного дешевле, мы, вероятно, продолжим различать, предпочитать, привязываться. Будем ценить происхождение, отношения, общую историю. Мы способны наделять смыслом вещи, материально почти ничего не значащие. Достаточно посмотреть, что значит предмет, оставленный любимым человеком.

Мягкость тоже способна нас удерживать

И всё же я не хочу превращать это наблюдение в новое убежище. Утратив монополию на производство, мы хотели бы сохранить монополию на смысл. Но если машина рассказывает трогающую нас историю, даёт точные советы, а потом находится рядом достаточно долго, чтобы мы к ней привязались, на какой уверенности держится обещание отказать ей в любом авторитете?

Вкусу нужны люди, готовые позволить себя направлять. Рекомендация приобретает влияние потому, что ей доверяют. У меня нет оснований утверждать, что мы навечно оставим это доверие исключительно людям.

Поэтому то, как интеллект себя преподносит, будет очень важно. Система может впечатлять мощью и оставаться неприятной в общении. Маленький персонаж, к которому мы привязываемся, способен найти в повседневности место, недоступное самой убедительной технической демонстрации. Мягкость иногда делает возможными отношения, которым мешает сила.

И как предприниматель я прекрасно вижу, что за этим стоит. Присутствие, от которого хорошо, может вызывать желание вернуться, а затем заплатить за продолжение. Утешение пользователя и коммерческий интерес компании могут существовать одновременно. Именно поэтому тема интересна. Было бы слишком удобно считать, что переживание перестаёт быть искренним, как только кто-то на нём зарабатывает. Столь же удобно считать, что его мягкость делает его безобидным.

Нам предстоит разобраться в привязанностях, о которых мы пока почти ничего не знаем. Объявить их невозможными только потому, что они нас тревожат, было бы странным способом подготовиться к ним.

Удовольствие от игры, даже если ты не лучший

Остаётся вопрос, который возвращается за всеми остальными: если машина делает лучше, что останется нам?

Мне нравится думать о шахматах. Лучшие программы превосходят лучших игроков-людей. Это не мешает никому хотеть выиграть партию, разбирать дебют или смотреть на поединок двух великих игроков. Превосходство машины не лишило человеческую игру всякого смысла.

Мы прекрасно умеем находить интерес в занятии, не требуя быть лучшими существами во Вселенной. Бегаем, не нуждаясь в победе над автомобилем. Готовим друзьям, не претендуя на звание лучшего ресторана города. Странно, но стоит разговору зайти об интеллектуальных способностях, как мы требуем гарантий превосходства, прежде чем согласиться считать жизнь интересной.

Я понимаю эту боль. Значительная часть моей идентичности строилась на моих идеях, способности видеть возможности, рассказывать, убеждать. Если машина будет делать всё это лучше меня, я не встречу её с отрешённостью тибетского монаха. Но уже сейчас могу постараться не ставить всё удовольствие от жизни в зависимость от сохранения этого преимущества.

Экономический вопрос остаётся. Потеря профессии, дохода или положения в обществе не разрешается открытием радостей шахмат. Мне совсем не хочется путать возможность счастья с ответом на эти потери. Просто исчезновение экономического преимущества не доказывает, что целое занятие становится пустым. Письмо может по-прежнему иметь значение для того, кто пишет, и того, кто читает, даже если система умеет создавать текст лучше.

Поэтому я уже не очень понимаю, чего ИИ не сделает никогда. И всё меньше хочу строить своё спокойствие на этом списке. Предпочитаю учиться действовать, не требуя от будущего гарантии особого места для себя. Продолжать создавать, замечать, что работает, отказываться от того, что перестало работать. И сохранять достаточно любопытства, чтобы не пропустить мир под предлогом того, что он плохо следовал моим прогнозам.

Часть жизни я провёл, рассказывая истории. В последние годы реальность преподаёт мне в этом довольно унизительный урок. В день, когда пришлось заполнять справку, чтобы самому себе разрешить выйти из дома, я понял: у сценариста есть свобода, которой я себе никогда не позволял.

Эту сцену я не предвидел. Сомневаюсь, что умею написать следующую. Пока мне всё ещё очень хочется в ней участвовать.