Roblox представил v3 своей open-source модели Voice Safety Classifier. Новая версия поддерживает 30 языков, добавляет две категории нарушений и улучшает качество по сравнению с предыдущей версией.
По данным Roblox, внутренние системы обработки голосовой безопасности выросли с 94,6 млн до 320 млн параметров и работают на масштабе до 10 000 запросов в секунду на пике. Открытая версия модели остается доступной для внешних разработчиков и исследователей.
Примечательна именно открытая публикация: голосовые модерационные модели такого масштаба обычно охраняют как конкурентную инфраструктуру. Открытый релиз позволяет небольшим платформам и исследователям тестироваться на паттернах реальной токсичности, которые им самим никогда не собрать, а Roblox получает внешний контроль над тем, где модель срабатывает избыточно или недостаточно.