Anthropic призывает к глобальной паузе в разработке ИИ: система может начать совершенствовать себя самостоятельно

Компания по разработке искусственного интеллекта Anthropic призывает ведущие ИИ-лаборатории замедлить темпы разработки. Компания предупреждает, что системы искусственного интеллекта развиваются настолько стремительно, что вскоре могут оказаться способны совершенствовать себя без участия людей, что представляло бы серьёзную угрозу для общества.

Компания по разработке искусственного интеллекта Anthropic выступила с призывом замедлить темпы работы ведущих мировых ИИ-лабораторий. По сообщению Wall Street Journal, компания предупреждает, что системы искусственного интеллекта развиваются настолько быстро, что существует риск утраты человеческого контроля над их развитием.

Anthropic подчёркивает, что особую обеспокоенность вызывает сценарий, при котором искусственный интеллект становится способен самостоятельно совершенствовать себя без какого-либо вмешательства человека. Так называемое рекурсивное самосовершенствование может привести к ситуации, когда развитие ИИ ускоряется прежде всего непредсказуемым и неконтролируемым образом.

Компания считает, что нынешние темпы разработки создают серьёзные угрозы для всего общества. Anthropic призывает другие крупные ИИ-лаборатории присоединиться к этому призыву и рассмотреть, как обеспечить более безопасное и ответственное развитие искусственного интеллекта до того, как технология достигнет точки, из которой возврат будет затруднён или невозможен.

Anthropic, одна из наиболее известных в мире компаний по разработке искусственного интеллекта, известная своими моделями Claude, неоднократно обращала внимание на вопросы безопасности ИИ. Однако нынешний призыв заметно острее по своему масштабу и неотложности, чем все предыдущие предупреждения.