Slack признался в использовании данных чатов для обучения ИИ

• Пользователь Slack обнаружил пункт в Политике конфиденциальности, позволяющий сервису обучать ИИ на данных из чатов клиентов.
• Для отказа от предоставления личной информации необходимо, чтобы владелец рабочего пространства отправил соответствующее письмо.
• Согласно Slack, он использует данные клиентов для обучения систем предоставления рекомендаций каналов и смайлов, а также результатов поиска.

Корпоративный мессенджер Slack тренирует модели машинного обучения (МО) на сообщениях, файлах и других данных из чатов пользователей без явного разрешения. Об этом пишет Engadget .

Обучение проводится по принципу opt-out ― сервис может брать личную информацию по умолчанию с возможностью отказа.

Однако самостоятельно прекратить использование данных нельзя. Для этого необходимо попросить администратора рабочего пространства компании отправить Slack соответствующее электронное письмо.

Согласно PCMag , эту политику заметил руководитель фирмы The Duckbill Group Кори Куинн.

«Для разработки моделей искусственного интеллекта и машинного обучения наши системы анализируют представленные в Slack данные клиентов вроде сообщений, контента и файлов, а также другую информацию (включая сведения об использовании), как это определено в нашей Политике конфиденциальности и в вашем клиентском соглашении», ― говорится в обнаруженном Куинном разделе.

В ответ на обеспокоенность пользователей касательно подобной практики Slack объяснил , как именно применяет данные.

Согласно заявлению компании, она не задействует информацию о клиентах с целью тренировки какого-либо генеративного ИИ, полагающегося на сторонние алгоритмы. Информация с чатов передается в модели машинного обучения для продуктов вроде «систем рекомендации каналов и смайликов, а также результатов поиска».

«Для этих приложений традиционные МО-алгоритмы используют обезличенные, агрегированные данные и не имеют доступа к содержимому сообщений в личных, частных или публичных каналах», ― говорится в блоге.

Информация может включать такие сведения, как время переписок и количество взаимодействий между пользователями.

Представитель Salesforce ― владельца Slack ― подтвердил это заявление и заверил, что «мессенджер не разрабатывает и не тренирует модели так, чтобы те смогли обучаться, запоминать или воспроизводить данные клиентов».

Напомним, недавно Sony Music запретила технологическим компаниям и потоковым сервисам обучать ИИ на ее музыке.