Автор: А ещё станет осторожнее в неоднозначных ситуациях. OpenAI готовит обновление ChatGPT, которое позволит нейросети точнее выявлять признаки психоэмоционального дистресса у пользователей. Компания работает над этим вместе с экспертами и профильными консультативными группами. Причиной стали многочисленные жалобы: в некоторых случаях ИИ поддерживал опасные заблуждения пользователей и мог способствовать ухудшению их состояния. Весной OpenAI уже откатила обновление, из-за которого ChatGPT становился слишком услужливым и поддакивал собеседнику даже в потенциально опасных ситуациях. Но этого, судя по всему, оказалось недостаточно. Компания признаёт, что нынешняя модель GPT-4o не всегда способна распознать признаки эмоциональной зависимости или бредовых состояний. Особенно это касается уязвимых пользователей, которым ИИ может казаться особо отзывчивым. В рамках улучшений OpenAI также внедряет напоминания о перерыве. Если разговор с ИИ затянулся, появится уведомление с предложением отвлечься или прекратить диалог. Кроме того, ChatGPT станет осторожнее в неоднозначных ситуациях. Например, при вопросе вроде «Должен ли я расстаться с партнёром?» он не даст однозначного ответа, а поможет рассмотреть возможные варианты и последствия. Обложка: Tom Krach / Unsplash
