ИИ-галлюцинации в литературных исследованиях: случай Хейти Талвика

Журналист Айвар Кулл признал ошибку в своей исторической колонке: предложенные искусственным интеллектом немецкоязычные первоисточники стихов Хейти Талвика оказались галлюцинациями ИИ. Читатель усомнился в подлинности текстов, и подозрения подтвердились.

Журналист Айвар Кулл опубликовал исправление к своей исторической колонке от 26 мая, в которой использовал искусственный интеллект для изучения творчества эстонского поэта Хейти Талвика. Выяснилось, что предполагаемые немецкоязычные первоисточники стихотворений, предложенные ИИ, на самом деле являлись выдуманными текстами — так называемыми галлюцинациями нейросети.

Внимательный читатель, ознакомившись с колонкой, обратился в редакцию с подозрением: не являются ли приведённые немецкие тексты просто убедительно выглядящими, но ложными измышлениями искусственного интеллекта? Проверка подтвердила обоснованность этих сомнений.

Явление, с которым столкнулся Кулл, широко известно в мире технологий как «галлюцинации ИИ» — ситуация, когда языковые модели с уверенностью генерируют несуществующие факты, цитаты или документы. Особую опасность это представляет в исторических и литературоведческих исследованиях, где достоверность источников имеет принципиальное значение.

Этот случай наглядно демонстрирует риски использования генеративного ИИ в журналистике и научных текстах без тщательной верификации каждого факта. Эксперты давно предупреждают: языковые модели способны создавать правдоподобные, но полностью вымышленные ссылки на источники, что делает обязательной их независимую проверку перед публикацией.