Маргус Латтик: с точки зрения технологий тоталитаризм, не такая уж плохая идея

Писатель Маргус Латтик (пишущий под псевдонимом Mathura) рассуждает о том, как идеи Станислава Лема предостерегают общество от делегирования моральных и этических решений алгоритмам и машинам. Кто несёт ответственность, если решение принимает машина? Колонка посвящена опасной связи между технологиями и тоталитаризмом.

Может ли тоталитаризм казаться привлекательным, если его лицо, чистый алгоритм? Писатель Маргус Латтик, публикующийся под псевдонимом Mathura, задаёт этот неудобный вопрос, опираясь на идейное наследие польского писателя-фантаста Станислава Лема.

Решения без лица

Лем неоднократно подчёркивал в своих произведениях, что общество не должно передавать моральные и этические решения безымянным и безликим системам, даже если кажется, что это сулит практическую выгоду или повышение эффективности. По словам Латтика, сегодня это актуально как никогда: искусственный интеллект и автоматизированные системы всё глубже проникают в коллективный процесс принятия решений.

От одного клика, к большой системе

Проблема начинается с малого: одного согласия, одного клика, одного удобства. Постепенно ответственность переходит от человека к машине, и в какой-то момент уже никто не знает, кто же на самом деле принял решение. Латтик предупреждает: именно такое размывание ответственности является питательной средой для авторитарных систем, навязанных не обязательно силой оружия или насилием, а тихо, под видом технической оптимизации.

Вопрос ответственности

Если решение принимает алгоритм, кто несёт ответственность? Именно на этот вопрос ищет ответ колонка Латтика. Литературное предостережение Лема звучит сегодня особенно остро: технологический прогресс сам по себе не является этически нейтральным, и любая система, устраняющая человека из цепочки принятия решений, требует от общества критической бдительности.