Система распознавания эмоций ИИ может оценить, насколько «счастливы» китайские сотрудники в офисе

Система, которая наблюдает за вашим эмоциональным состоянием это не сюжет фантастического фильма или очередного эпизода «Черного зеркала». Это уже реальность для некоторых китайских сотрудников, работающих в крупных технологических корпорациях.

Система распознавания эмоций ИИ, разработанная китайской компанией Taigusys, может обнаруживать и отслеживать выражения лиц нескольких людей и создавать подробные отчеты по каждому человеку, чтобы выявлять, как они себя чувствуют. Однако исследователи говорят, что такие системы не только часто неточны, но и что изначально они также глубоко неэтичны.

Впервые о системе было сообщено в мае этого года в расследовании The Guardian. Taigusys перечисляет транснациональные корпорации, такие как Huawei, China Mobile, China Unicom и PetroChina, среди своих основных клиентов, хотя неясно, лицензируют ли эти компании этот конкретный продукт для использования.

Как это работает?

Taigusys утверждает на своем веб-сайте, что его система помогает «решать новые задачи» и может «минимизировать конфликты», вызванные эмоциональным и конфронтационным поведением.

Это делается с помощью системы искусственного интеллекта, которая может одновременно проверять выражения мнений нескольких людей. Затем алгоритм оценивает движения лицевых мышц каждого человека и биометрические сигналы, а затем оценивает их по нескольким шкалам, указанным Taigusys.

«Хорошие» эмоции, которые ищет программа, включают счастье, удивление и позитивное настроение. Система искусственного интеллекта также проверяет лицо человека на наличие негативных эмоций, таких как отвращение, печаль, замешательство, презрение и гнев. Также учитываются нейтральные эмоции - например, насколько человек «сосредоточен» на задаче.

Taigusys утверждает, что его программное обеспечение настолько тонко, что может определять, когда кто-то симулирует улыбку.

Программное обеспечение для распознавания эмоций сообщает, что оно также может создавать отчеты о людях, чтобы рекомендовать им «эмоциональную поддержку», если они превышают рекомендуемые маркеры для «отрицательных эмоций».

«Основываясь на анализе черт лица, система может вычислить, насколько человек конфронтационен или напряжен и как часто он нервничает, среди других показателей. Мы также можем проанализировать эмоциональную реакцию человека и выяснить, замышляет ли он что-нибудь подозрительное», - говорят в компании.

Активисты призывают проявлять осторожность при развертывании таких программ, подчеркивая проблемы этики и прав человека.

Помимо этических последствий программного обеспечения для распознавания эмоций, многие сомневаются, что технология достаточно совершенна, чтобы нарисовать точную картину.