Нейросети распознают эмоции: от GoEmotions до Claude

⚡ Главное за 5 секунд - Суть: нейросети неплохо проговаривают чувства, но это работа алгоритма, а не проявление эмоций; 17,2% из 500 опрошенных обращались к ChatGPT за поддержкой. - Где доступно: модели вроде Claude и ChatGPT уже используют в диалогах, например в ответ на фразу «Меня сократили». - Ограничение: число рядом с меткой «тревога» описывает предсказание модели, а не измеряет реальный уровень тревоги человека. ### 🔍 Что обнаружено В основе распознавания эмоций лежат размеченные датасеты. GoEmotions содержит 58 тысяч английских комментариев с Reddit, размеченных по 27 эмоциям плюс нейтральная метка. Каждый комментарий оценивали трое разметчиков; при расхождении приглашали ещё двоих, а для обучения убрали метки, выбранные только одним человеком, оставив около 93% примеров. В корпусе StudEmo 5182 отзыва оценены по 25 человек, причём ответы каждого сохранили — так видно, где текст допускает разные толкования. Опрос 500 человек показал: 17,2% обращались к ChatGPT за поддержкой в вопросах психического здоровья. Технически классификатор на базе BERT разбивает сообщение на токены, а слои самовнимания сопоставляют токены друг с другом: в фразе «Я ждал выступления, но его перенесли» представление «перенесли» может учитывать «ждал» и «выступления». Генеративные модели вроде Claude не имеют фиксированного списка эмоций: на запрос «что он чувствует?» они строят ответ токен за токеном с учётом инструкции и контекста. Исследование с 1001 англоязычным описанием событий показало: прямая классификация текста даёт micro-F1 0,60, если промежуточные признаки задают люди — 0,66, а если их предсказывает другая модель — падает до 0,48. ### 💡 Почему это важно Эмпатия ИИ — это вычисления, а не чувства: модели могут приписать эмоцию не тому участнику, как в примере с котом, уснувшим на телефоне, где классификатор способен решить, что умиротворение испытывал кот, а не девушка, ждавшая ответа. Понимание того, как устроены метки и где они берутся, помогает разработчикам правильно строить системы поддержки: учитывать носителя переживания, причину и объект эмоции, а не полагаться на имена или отдельные слова. Метки наблюдателей описывают их мнение, а не внутреннее состояние автора — это стоит помнить при использовании ИИ в чувствительных сценариях. ### 🧩 Контекст Материал опубликован в блоге компании BotHub на Хабре и начинается с самого грустного короткого рассказа: «Меня сократили», — пишет человек Claude, а тот отвечает: «Похоже, вам страшно за будущее». В статье разбираются исследования эмоциональной классификации: от корпуса GoEmotions, где метки ставили читатели, до экспериментов с авторскими хэштегами и распределением мнений в StudEmo. Выясняется, что вопросы «что сообщил о себе автор?» и «что прочитал посторонний?» похожи только на первый взгляд, а имя человека — плохая замена истории о том, что с ним случилось.

🔗 Читать на habr.com