OpenAI исправляет ошибку ChatGPT с упоминаниями гоблинов

Компания OpenAI обнаружила и исправляет техническую проблему в моделях ChatGPT, которая приводила к неожиданному упоминанию гоблинов в диалогах. По словам разработчиков, эта ошибка отличалась от предыдущих проблем тем, что проявлялась постепенно и незаметно.

OpenAI столкнулась с необычной технической ошибкой в своих популярных моделях искусственного интеллекта ChatGPT. Проблема заключалась в том, что система начала неконтролируемо вставлять упоминания гоблинов в различные контексты разговоров, что явно не являлось нормальным поведением для языковой модели.

По заявлению компании, данная ошибка отличалась от других выявленных ранее проблем своим характером. В отличие от явных сбоев, которые проявляются резко и заметно, эта неполадка "крепко вкралась" в систему постепенно, что затрудняло её обнаружение на ранних этапах. Специалисты OpenAI отметили, что подобные скрытые ошибки представляют особую сложность при диагностике и исправлении.

Компания активно работает над устранением проблемы, чтобы обеспечить корректную работу ChatGPT и предотвратить подобные инциденты в будущем. Этот случай подчёркивает сложность разработки и тестирования больших языковых моделей, которые обрабатывают миллиарды параметров и взаимодействий.

Данный инцидент демонстрирует, что даже при наличии продвинутых систем контроля качества технологические гиганты сталкиваются с непредсказуемыми ошибками при работе с искусственным интеллектом. OpenAI продолжает совершенствовать свои модели и методы отладки для повышения надёжности.