Генезис. Искусственный интеллект, надежда и душа человечества
Урок, который преподала нам жизнь Генри Киссинджера, очевиден. Последствия технологических достижений могут быть как благотворными, так и разрушительными – все зависит от того, каким образом человечество решит ими распорядиться. ИИ, конечно, во многом отличается от ядерного расщепления. Но наивно полагать, будто человечество станет использовать эту технологию только в созидательных, а не в разрушительных целях.
Именно эта проницательность, рожденная сочетанием исторического знания и личного опыта, побудила Генри Киссинджера посвятить большую часть своей жизни изучению мирового порядка и предотвращению мировой войны. Именно поэтому он с такой готовностью и трепетом откликнулся на последние достижения в области ИИ. И по этой же причине данное посмертное издание имеет не меньшую ценность, чем все труды, созданные им за долгую и невероятно насыщенную жизнь.
Нил Фергюсон
Оксфорд, июль 2024
В память о Генри А. Киссинджере
Пережив вековой рубеж, доктор Генри А. Киссинджер скончался 29 ноября 2023 года. До своего последнего дня он не прекращал работы над этой книгой, двадцать второй по счету в списке его работ. Такая сила характера, конечно, вдохновляла всех, кто его знал. В последний год своей жизни во время наших частых встреч он неизменно подчеркивал важность нашей общей темы и настоятельную необходимость донести до ее читателя – как призыв, как тревожное послание. Мы, его соавторы, были среди последних, кто виделся и общался с ним за несколько дней до его смерти. И вот теперь, завершая этот проект от его имени и выполняя его последнюю волю, мы приложили все усилия, чтобы сохранить неповторимый строй его мысли и четкую интонацию его суждений по вопросу, который определит судьбу человечества. Закончить начатое, чтобы этот последний литературный труд не ушел вместе с ним, а выполнял свою миссию для тех, кто остался, живет и продолжит жить, – это лишь наш скромный вклад в сохранение памяти об этом человеке.
Он выстраивал этот мир всю жизнь – и до последнего часа боролся за него. Его заключительной просьбой было обращение ко всему человечеству – продолжать этот масштабный «проект», дающий нашему виду надежду на будущее. В середине прошлого века доктор Киссинджер разрабатывал основные философские и дипломатические подходы к предотвращению ядерной катастрофы – так человечество XX века впервые осознало всю тяжесть экзистенциального риска. В тот период его воля и решимость помогли обществу уберечься от опасности, но теперь, когда мы стоим перед новой угрозой, этому человеку выпала судьба покинуть нас. Он ушел как раз тогда, когда мир впервые увидел очертания иной формы жизни. Сегодня, стоя на пороге эры ИИ, мы понимаем: лишь единицы – подобно доктору Киссинджеру, этому студенту XIX-го, ученому XX-го и провидцу XXI столетия – смогли заложить столь значимые основы для будущего человечества.
Прежде всего, доктор Киссинджер был философом истории. Результатом его глубоких размышлений о природе трагедии стало вечное стремление доказать, что идеализм сердца может гармонично сосуществовать с реализмом разума, и даже возвысить его. Можно, по выражению французского писателя Ромена Роллана, сочетать «пессимизм интеллекта» с «оптимизмом воли». Если оптимист верит в возможность сохранить контроль над собственной судьбой, то пессимист видит нашу реальность как процесс, управляемый непреодолимыми силами – законами природы или, например, историческими циклами.
Конечно, ему слишком хорошо было известно, как пылкий идеализм может стать инструментом в опытных руках циничных идеологов, без колебаний готовых пролить чью-то кровь или применить силу в том или ином масштабе. Фашизм, тоталитаризм, воинствующий религиозный фанатизм – все они, казалось бы, ставили перед собой самые благие цели в истории человечества. Пройдя путь от жертвы до борца с бесчеловечными режимами, он создавал новый миропорядок – где безопасность не требует жертв, а достоинство не нуждается в оправданиях. Доктор Киссинджер виртуозно управлял международными делами и вел свою страну, ставшую ему родиной – равно как и весь мир, – через непредсказуемые потрясения, руководствуясь историческим опытом и национальными интересами.
Прекрасно понимавший избирательную необходимость политического реализма, он оставался при этом идеалистом – тем, кто, по словам его биографа Нила Фергюсона, уважал «роль человеческой свободы, выбора и воли в формировании мира». В теории и на практике он продемонстрировал свою убежденность в том, что люди не живут и не могут жить так, будто будущее неизбежно и предопределено. В своей выпускной диссертации в Гарварде The Meaning of History («Смысл истории») 27-летний Генри Киссинджер размышлял о тех же философских дебатах, что теперь оказались в основе его последней работы: «Каковы бы ни были наши представления о необходимости событий, [и]… как бы мы, оглянувшись назад ни объясняли свои давние поступки, мы совершали их, руководствуясь внутренней убежденностью в правильности собственного выбора».
Для него не существовало никаких гарантий того, что человечество переживет бесчеловечные замыслы, вышедшие из огней наших же кузниц. Столкнувшись с пугающей перспективой ядерной катастрофы, он не поддался ни убеждению в фатальности, ни пророчествам о гибели цивилизации. Безусловно, экзистенциальные страхи могут порождать нигилизм, но им также свойственно наполнять лучших из нас решимостью противостоять злу и защищать то, что необходимо сохранить ради будущего людей. В начале 1950-х годов, будучи молодым профессором Гарварда, Генри Киссинджер участвовал в ряде встреч, на которых ведущие ученые и академики, такие же, как и он сам, обсуждали возможные последствия ядерной войны и меры, необходимые для ее предотвращения. И все высказанные тогда сомнения, рассуждения, дебаты послужили основой доктринам, которые до сих пор оберегают наш мир от худших опасений участников тех собраний.
Спустя десятилетия, во время наших с ним бесед он часто возвращался к тем встречам – вспоминал их участников, обсуждаемые задачи и то значение, которое они, как теперь видно, в итоге обрели. Никогда не меняя своей точки зрения, он не прогибался под жизненные обстоятельства и не скатывался в утопическое теоретизирование. В контексте применения ИИ сохраняется тот же баланс, что и в проблематике ядерного вооружения: небольшие группы преданных своему делу людей способны изменить ход истории, вмешавшись в него и продемонстрировав свои ценности. Но в то же время, считал Киссинджер, независимо от гения ученых, создающих новые формы интеллекта, их подготовленности все равно будет недостаточно, чтобы обеспечить хотя бы минимальный уровень безопасности во время применения человечеством этих новейших инструментов.
Поэтому его вклад в сферу ИИ выходит за рамки теоретических исследований: он включает и конкретные практические решения. Спустя полвека после его тайного перелета в Пекин и последующего установления отношений между США и КНР доктор Киссинджер совершил еще одну поездку в столицу Китая. Он отправился туда по настоятельному приглашению Председателя КНР Си Цзиньпина, чтобы обсудить в качестве ключевой темы риски, которые несет для человечества развитие ИИ. Это была последняя в его жизни зарубежная поездка и последняя дипломатическая миссия.
Если раньше доктор Киссинджер превратил изучение государственного управления в искусство, то теперь его подход к ИИ преодолел границы науки. В соавторстве с одним из нас, а также с профессором Массачусетского технологического института Дэниелом Хаттенлокером он написал книгу The Age of AI: And Our Human Future («Искусственный разум и новая эра человечества»), опубликованную 2021 году. В этой работе он утверждал, что появление ИИ ознаменует новую историческую эпоху, сопоставимую по влиянию на общество с эпохой Просвещения XVIII века, поскольку ИИ обладает способностью фундаментально преобразовывать человеческое сознание. Однако в наш новый век мы уже столкнулись с тем, что вместо того, чтобы руководствоваться нашими запросами, ИИ вдруг начал выдавать ответы на те вопросы, которые ему никто и никогда не задавал. По мере того как ИИ все увереннее проникает в новые области интеллектуальной деятельности, доктор Киссинджер призывает нас искать внутреннюю опору в человеческой мудрости и историческом опыте.