OpenAI добавила защиту для пользователей в опасных ситуациях

OpenAI представила новую функцию безопасности 'Доверенный контакт' для приложения ChatGPT, которая позволяет пользователям назначить человека, которого система оповестит в случае разговоров о возможном членовредительстве. Эта инициатива является частью расширенных мер компании по защите психического здоровья пользователей платформы.

Компания OpenAI объявила о внедрении инновационной функции безопасности в своем приложении ChatGPT под названием 'Доверенный контакт'. Это средство разработано для защиты пользователей в уязвимые моменты, когда диалоги с искусственным интеллектом могут коснуться вопросов членовредительства или самоповреждения.

Новая система позволяет пользователям заранее указать одного или нескольких людей, которые будут уведомлены в случае, если искусственный интеллект определит потенциальную угрозу для здоровья пользователя. Когда ChatGPT обнаружит признаки опасного поведения в беседе, система может инициировать процесс уведомления назначенных контактов, предоставляя им возможность помочь в критической ситуации.

Эта инициатива отражает растущую озабоченность в технологической индустрии по вопросам психического здоровья и безопасности пользователей. OpenAI присоединяется к другим крупным технологическим платформам, которые внедряют подобные механизмы защиты. Компания подчеркивает, что функция разработана в соответствии с рекомендациями организаций, специализирующихся на психическом здоровье и профилактике суицидального поведения.

Реализация этой функции требует согласия пользователя и соблюдения строгих стандартов конфиденциальности. OpenAI заявляет, что продолжит расширять свой набор инструментов безопасности, чтобы сделать взаимодействие с искусственным интеллектом максимально защищенным и ответственным.