Slack ユーザーは AI のトレーニングに使用されたメッセージを発見して恐怖を感じる

後 リリース Slack AI 2 月、Slack は自らの足を踏み入れ、その神秘性を擁護しているようだ ポリシー これはデフォルトで、メッセージ、コンテンツ、ファイルを含む顧客データを取り込み、Slack の世界クラスの AI モデルをトレーニングします。

Slack エンジニアの Aaron Maurer 氏によると、、Slack で説明しました。 ブログ Salesforce が所有するチャット サービスは、顧客データに基づいて大規模言語モデル (LLM) をトレーニングしません。 しかし、Slackのポリシーは「これらのプライバシー原則がSlack AIでどのように機能するかをより慎重に説明する」ために更新する必要があるかもしれない、とMaurer氏はThreadsで書いた。その理由の一部は、このポリシーが「もともと私たちが何年も行ってきた検索/推奨作業を中心に書かれたものであるため」であるスラックの前に。」 アムネスティ・インターナショナル。”

マウラーはトピックに反応しました 郵便 エンジニアで作家のGergely Oros氏は、ブログではなく実際のポリシーの言葉で、ポリシーが明確になるまでデータ共有をオプトアウトするよう企業に呼び掛けた。

「Slack のある ML エンジニアは、LLM モデルのトレーニングにメッセージを使用していないと述べています」と Oros 氏は書いています。 「私の返答は、現在の規約ではそれが許されているというものです。それが政治に携わる際のポリシーだと思います。そして、ブログ投稿はプライバシーポリシーではありません。真面目な企業なら誰でもそれを知っています。」

Slack のプライバシー原則と、同社が Slack AI を推進している方法を比較すると、ユーザーの緊張はさらに明らかになります。

Slack のプライバシー原則には、「機械学習 (ML) と人工知能 (AI) は、製品の使命を推進するために限られた方法で使用される便利なツールです。AI/ML モデルを開発するために、当社のシステムは顧客データ (データなど) を分析します。」 Slack に提供されたメッセージ、コンテンツ、ファイルなど）、および当社のプライバシー ポリシーおよび顧客契約で定義されているその他の情報（使用情報を含む）。」

その間、 Slack AI ページ 「安心して作業してください。あなたのデータはあなたのデータです。私たちはそれを Slack AI のトレーニングに使用しません。」と彼は言います。

この矛盾のため、ユーザーは Slack に対してプライバシー原則を更新し、Slack AI や将来の AI アップデートでデータがどのように使用されるかを明確にするよう求めています。 Salesforceの広報担当者によると、同社はアップデートが必要であることに同意したという。

Salesforceの広報担当者は「昨日、Slackコミュニティの一部のメンバーから当社のプライバシー原則についてもっと明確にするよう求められた」とSalesforceの広報担当者はArsに語った。 「今日、これらの原則を更新して、Slack における顧客データと生成 AI の関係をより適切に説明する予定です。」

広報担当者は Ars に対し、ポリシー更新により、Slack が「顧客データを使用して LLM やその他の生成モデルを開発」しないこと、「顧客データを使用してサードパーティ LLM をトレーニング」しないこと、または「これらのモデルを次のような方法で構築またはトレーニングしない」ことが明確になると語った。彼らは顧客データを学習、記憶、再現することができます。」 このアップデートではまた、「Slack AI は、モデルが顧客データを保持しない既製の LLM を使用する」ことを明確にし、「顧客データが Slack の信頼の範囲を離れることはなく、LLM プロバイダーが顧客データにアクセスできない」ことを保証します。

ただし、これらの変更は、AI トレーニングで使用するチャットやその他の Slack コンテンツの共有に明示的に同意したことがないユーザーにとっての主要な懸念には対処していないようです。

ユーザーは Slack とチャットを共有しないことを選択します

この物議を醸す政策は新しいものではない。 有線 注意する TechCrunch が 4 月に報告 言及された この政策は少なくとも2023年9月から実施されている。

しかし昨夜から広範な反発が拡大し始めた 海賊ニュースで、Slack ユーザーは、チャット サービスが明らかにポリシーの変更をユーザーに通知せず、代わりにデフォルトで静かに有効にしていたとして、チャット サービスを批判しました。 批評家にとっては、Slack 以外を選ぶのは意味がないと感じました。

そこから反発はソーシャルメディアに飛び火し、SlackHQ はすぐに Slack の用語を明確にし、すべての批判に対処しているようには見えない説明を行いました。

「ごめんなさい、Slack さん、ユーザーの DM、メッセージ、ファイルなどはどうしていますか?」 コスト管理会社ダックビル・グループのチーフクラウドエコノミスト、コーリー・クイン氏は次のように述べています。 出版する X について。「きっとこれを正しく読んでいません。」

Slack本社 彼は答えた 経済学者が「私はこれが大嫌いだ」と宣言し、有料ワークスペースでのデータ共有をオプトアウトしたことを認めた後、クインにこう言った。

「明確にしておきますが、Slack にはチャンネルのレコメンデーション、絵文字、検索結果などのプラットフォーム レベルの機械学習モデルがあります」と SlackHQ は投稿しました。 「そして、はい、顧客は（非生成的な）機械学習モデルのトレーニングから自分のデータを除外することができます。顧客データは Slack AI（もともと Slack に組み込まれた生成 AI エクスペリエンス）に属します。」[and] 「これは、ラージ言語モデル (LLM) を使用する個別に購入したアドオンですが、顧客データに基づいて LLM をトレーニングすることはありません。」