Искусственный интеллект развивается быстрее, чем человек успевает его контролировать

Охватившая мир гонка в сфере искусственного интеллекта ускоряется бесконтрольно: в авангарде — США и Китай. Главы государств стремятся к власти, которую несёт в себе беспрецедентный цифровой разум, тогда как ведущие технологические гиганты предупреждают: нужно нажать на тормоза, пока компьютер ещё нуждается в человеке.

Развитие искусственного интеллекта (ИИ) достигло точки, когда темпы превышают способность человечества его контролировать — так предупреждают ведущие мировые эксперты в области технологий. США и Китай возглавляют эту гонку, и ни одна из сторон не готова сбавить темп.

Соблазн власти и отсутствие контроля

Главы государств видят в искусственном интеллекте прежде всего беспрецедентный источник силы — как экономической, так и военной. Однако параллельно с политическими амбициями из технологического сектора всё настойчивее звучат предупреждения. Ряд видных руководителей отрасли открыто потребовали заключения международных соглашений, которые замедлили бы развитие ИИ до обеспечения его безопасности.

Опасения не носят сугубо теоретического характера. По словам экспертов, вопрос уже не в том, превзойдёт ли искусственный интеллект возможности человека в отдельных областях, а в том, когда это произойдёт — и останутся ли у человечества инструменты для управления ситуацией.

США и Китай: два полюса, одно будущее

США и Китай вкладывают в искусственный интеллект сотни миллиардов долларов, считая его стратегически столь же значимым, как ядерное оружие в середине XX века. Каждая из держав опасается, что отступление даст противнику решающее преимущество — это создаёт классическую ловушку дилеммы безопасности, при которой никто не хочет нажать на тормоза первым.

Именно поэтому международные попытки урегулирования пока остаются весьма скромными. Несмотря на то что ЕС принял закон об ИИ и определённый диалог ведётся на уровне ООН, обязывающего глобального соглашения по-прежнему нет.

Что означает «контроль» в эпоху искусственного интеллекта?

Ведущие технологические компании, в том числе некоторые из тех, кто сам занимается разработкой ИИ, заговорили о механизмах так называемого «аварийного тормоза». Идея состоит в создании систем, способных при необходимости остановить или ограничить деятельность ИИ. Однако критики указывают: подобные механизмы эффективны лишь при условии их повсеместного применения — одностороннее сдерживание означало бы просто выбывание из конкурентной борьбы.

Момент, когда компьютер «больше не будет нуждаться в человеке», стал в дискуссиях об ИИ самостоятельным ключевым понятием — порогом так называемого сверхинтеллекта. Большинство экспертов считают это пока далёкой перспективой, однако предупреждают: нынешние темпы развития делают подобный сценарий более реальным, чем когда-либо прежде.

Этот вопрос уже не только технический — он касается политической воли и международного сотрудничества.