Роль искусственного интеллекта — не управлять миром, а помогать находить равновесие

Учёные Калеви Кулль и Меэлис Кулль считают, что главный потенциал искусственного интеллекта заключается не в управлении обществом, а в формировании устойчивых механизмов равновесия. По их мнению, главная задача человечества — осознанное установление границ потребления ресурсов, и искусственный интеллект может стать в этом процессе незаменимым инструментом.

Биолог Калеви Кулль и Меэлис Кулль пишут, что подлинная ценность искусственного интеллекта (ИИ) состоит не в том, чтобы он взял на себя управление обществом, а в том, чтобы помочь создать механизмы, позволяющие жизни самостоятельно поддерживать равновесие.

Что ИИ уже умеет

У искусственного интеллекта уже сегодня есть ряд доказанных возможностей: с его помощью существенно улучшилось качество прогнозирования погоды, а также ведутся эксперименты по раннему выявлению общественных конфликтов. ИИ способен быстро обрабатывать огромные массивы данных, находить закономерности и сходства, однако, по оценке авторов, эта способность пока по-настоящему открытий не делает.

Демис Хассабис предложил так называемый тест Эйнштейна: если обучить искусственный интеллект только на знаниях, существовавших до 1911 года, сможет ли он самостоятельно вывести общую теорию относительности? Ответ на этот вопрос пока неизвестен.

Кризис гомеостаза как глобальная проблема

Куллы проводят аналогию с природой: стабильность как организмов, так и экосистем обеспечивается механизмами гомеостаза — процессами равновесия, которые не дают системе саморазрушиться. В человеческом обществе эти барьеры, однако, во многом утрачены с изобретением искусственных средств.

По словам авторов, ИИ в принципе мог бы подсказывать, как обществу поддерживать равновесие и избегать глобальных бед. Но это не означает, что ИИ должен стать командиром или правителем. «Как мудрый царь, правящий чернью» — такое решение авторы не поддерживают, поскольку история показывает: одиночные предупреждающие голоса — будь то учёные или мудрецы — не могли оказывать на общество достаточного влияния.

ИИ как проектировщик, а не руководитель

Главный тезис Куллов состоит в том, что искусственный интеллект должен быть не управляющим системой, а её проектировщиком. Хорошему институту не нужен в каждый момент гений, принуждающий людей вести себя правильно — точно так же, как мосту не нужен каждую секунду инженер, чтобы он стоял. Равновесие должно быть заложено в саму систему.

Равновесие жизни означает, что и потреблению, и росту необходимо устанавливать предел. Перед человечеством стоит выбор: сознательно ввести ограничение на использование ресурсов и решить, где его провести. Однако переход к такому спокойному жизнеустройству — настолько сложный процесс, что помощь ИИ может оказаться жизненно необходимой.

Кризис обратной связи как общий знаменатель

Авторы предлагают считать общим знаменателем глобальных проблем кризис обратной связи: системы недостаточно быстро получают сигналы о последствиях своих действий. Искусственный интеллект мог бы помочь найти механизмы, способные преодолеть этот разрыв.

Итоговый вывод на удивление скромен: лучший искусственный интеллект — тот, который со временем становится всё менее нужным, потому что хорошие механизмы работают самостоятельно. Это искусство, которое не разрушает, а сохраняет.