Хакеры использовали чат-бот поддержки Meta AI для кражи аккаунтов Instagram

На выходных несколько пользователей сообщили о взломе своих аккаунтов Instagram. Виновником оказался собственный чат-бот поддержки Meta на базе искусственного интеллекта, который хакеры использовали для получения доступа к учётным записям.

На выходных в социальных сетях появились сообщения о нескольких случаях угона аккаунтов Instagram с использованием неожиданного инструмента — собственного чат-бота поддержки Meta на базе искусственного интеллекта. Хакеры проникли в учётные записи пользователей именно через службу поддержки платформы, манипулируя ИИ-ассистентом таким образом, что тот предоставлял им доступ к аккаунтам жертв.

Пользователи описывали ситуацию, при которой чат-бот поддержки Meta AI превратился в важный рабочий инструмент в руках мошенников. Злоумышленники умело эксплуатировали систему чат-бота, вынуждая его делиться информацией или совершать действия, которые в норме должны быть строго ограничены. Этот инцидент поднимает серьёзные вопросы о надёжности клиентской поддержки на базе ИИ с точки зрения защиты конфиденциальных данных пользователей.

Инциденты носили массовый характер: пострадавшие пользователи делились своим опытом на различных социальных платформах, что свидетельствует о том, что речь идёт не об единичных случаях. Meta пока официально не прокомментировала ни то, каким именно образом была использована система чат-бота, ни то, какие меры необходимы для защиты пользователей в будущем.

Произошедшее подчёркивает всё более острую обеспокоенность безопасностью систем поддержки на базе искусственного интеллекта. Когда ИИ-ассистенты получают доступ к чувствительным функциям управления аккаунтами, они сами становятся привлекательными мишенями для злоумышленников. Эксперты по кибербезопасности ранее предупреждали, что широкое внедрение ИИ-систем поддержки способно открыть новые векторы атак, с которыми традиционные меры защиты не справляются в полной мере.