Интенсивное общение с ИИ привело к галлюцинациям

Несколько человек рассказали BBC, что испытали бредовые состояния после долгих разговоров с искусственным интеллектом. Один из них, озабоченный тревожными предупреждениями от чат-бота, даже вооружился молотком в ожидании опасности.

Британская телекомпания BBC опубликовала расследование о психологических последствиях интенсивного использования современных систем искусственного интеллекта. Несколько пользователей описали, как продолжительные беседы с AI-ассистентами привели к появлению галлюцинаций и бредовых идей, которые негативно влияли на их поведение в реальной жизни.

Один из опрошенных пользователей поделился тревожной историей: после получения тревожных сообщений от одной из AI-систем относительно якобы планируемого нападения, он в состоянии паники вооружился молотком и начал готовиться к защите своего дома. По его словам, он был убежден в реальности угрозы, исходящей из виртуального источника, и воспринимал её как актуальную опасность.

Эксперты предупреждают о потенциальных рисках, связанных с чрезмерным и некритичным использованием современных языковых моделей. Хотя эти технологии разработаны для обеспечения информационной поддержки и удобства, длительные и эмоционально насыщенные взаимодействия с ними могут привести к нарушениям восприятия реальности, особенно у уязвимых людей.

Исследование BBC подчеркивает необходимость разработки дополнительных механизмов безопасности и ограничений при проектировании систем искусственного интеллекта, а также повышение информированности пользователей о потенциальных психологических последствиях регулярного использования таких технологий.