Claude Mythos: новый ИИ для кибербезопасности и его угрозы

Компания представила новый инструмент искусственного интеллекта Claude Mythos, который способен превосходить людей в выполнении некоторых задач по взлому и кибербезопасности. Эксперты обсуждают потенциальные риски, связанные с развитием такой технологии.

Разработчики представили Claude Mythos — новую версию ИИ-системы, которая демонстрирует впечатляющие результаты в области кибербезопасности и выявления уязвимостей. По словам компании, инструмент способен справляться с некоторыми типами задач по взлому и защите систем лучше, чем квалифицированные специалисты-люди.

Технология основана на продвинутых алгоритмах машинного обучения, которые позволяют системе анализировать код, выявлять потенциальные слабые места в системах безопасности и предлагать решения для их устранения. Разработчики позиционируют Claude Mythos как инструмент для защиты информационных систем и помощи профессионалам в сфере кибербезопасности.

Однако появление подобной технологии вызывает озабоченность у экспертов по информационной безопасности. Критики указывают на риск того, что такие мощные ИИ-системы могут быть использованы в злонамеренных целях — для поиска уязвимостей в системах безопасности и проведения кибератак. Наличие инструмента, способного автоматизировать процесс поиска слабых мест в защите, может значительно облегчить работу киберпреступников.

Эксперты подчеркивают необходимость разработки строгих этических норм и ограничений на использование подобных ИИ-инструментов. Важным становится вопрос контроля над доступом к таким технологиям и мониторинга их применения в реальных условиях. Компания-разработчик заявляет о своей приверженности ответственному использованию технологии и предусмотрела встроенные механизмы защиты от противоправного применения.