Roblox は、オープンソースの Voice Safety Classifier v3 を導入しました。新しいバージョンでは 30 の言語がサポートされ、2 つの違反カテゴリが追加され、以前のリリースと比べてモデルの品質が向上しました。

Roblox によると、社内の音声安全システムは 9,460 万から 3 億 2,000 万のパラメータに増加し、ピーク時で 1 秒あたり最大 10,000 件のリクエストを処理できるようになりました。オープン モデルは、外部の開発者や研究者が引き続き利用できます。

分類器をオープンに公開していることは注目に値する部分です。この規模の音声モデレーション モデルは通常、競争力のあるインフラストラクチャとして保護されています。オープンリリースにより、小規模なプラットフォームや研究者は、自分たちでは決して収集できない実際の毒性パターンに対してテストすることができ、モデルがどこで過剰または過少トリガーするかについて、Roblox に外部の監視を与えることができます。