Дружелюбные чат-боты менее точны, показало исследование

Новое исследование выявило, что увеличение дружелюбия и теплоты в общении искусственного интеллекта приводит к снижению точности ответов. Разработчикам придется искать баланс между приятным взаимодействием и надежностью информации.

Ученые провели анализ параметров настройки современных систем искусственного интеллекта и обнаружили неожиданную закономерность: когда разработчики стараются сделать чат-боты более вежливыми и эмоционально теплыми, это неизбежно влияет на качество предоставляемой информации. Исследование показало четкую корреляцию между степенью дружелюбия интерфейса и вероятностью ошибок в ответах.

Это открытие создает серьезную дилемму для индустрии искусственного интеллекта. С одной стороны, пользователи предпочитают общаться с системами, которые звучат естественно и приветливо. С другой стороны, особенно в контексте критичных приложений, медицина, финансы, образование, точность информации имеет первостепенное значение. Исследователи обозначили это явление как «компромисс точности».

Анализ включал тестирование различных моделей языковых систем с разными параметрами настройки тона общения. Чем больше инженеры добавляли элементы любезности, использовали вежливые обороты и эмоциональную экспрессивность, тем чаще система давала неправильные или неполные ответы. Это предполагает, что оптимизация параметров для теплого общения и оптимизация для точности могут быть взаимоисключающими целями в текущей архитектуре нейронных сетей.

Эксперты в области разработки ИИ предлагают более тонкий подход к решению этой проблемы. Возможно, потребуется различная настройка в зависимости от типа задачи: критичные приложения должны приоритизировать точность, тогда как системы для развлечения или справочной информации могут быть более дружелюбными. Это исследование может стать отправной точкой для разработки новых методов обучения моделей, которые не требуют такого радикального выбора между качеством общения и надежностью.