Inside the Tech - حل برای ایمنی در ارتباطات صوتی همه جانبه - وبلاگ Roblox

Inside the Tech - حل امنیت در ارتباطات صوتی همهجانبه - وبلاگ Roblox

تمبر زمان: 18 ژانویه 2024، 4:44 بعد از ظهر

Inside the Tech یک سری وبلاگ است که ما را همراهی می کند پادکست Tech Talks. در قسمت 20 پادکست، تکامل آواتارهای Roblox، دیوید بازوکی، مدیر اجرایی Roblox، با مدیر ارشد مهندسی Kiran Bhat، مدیر ارشد محصول، ماهش راماسوبرامانیان، و مدیر محصول اصلی Effie Goenawan، در مورد آینده ارتباطات فراگیر از طریق آواتارها و چالش های فنی که برای تقویت آن حل می کنیم. در این نسخه Inside the Tech، با مدیر ارشد مهندسی اندرو پورتنر صحبت کردیم تا در مورد یکی از آن چالش های فنی، ایمنی در ارتباطات صوتی فراگیر، و اینکه چگونه کار تیم به ایجاد یک محیط دیجیتال امن و مدنی برای همه افراد کمک می کند، بیشتر بیاموزیم. پلت فرم ما

بزرگترین چالش های فنی تیم شما چیست؟

ما حفظ یک تجربه ایمن و مثبت برای کاربران خود را در اولویت قرار می دهیم. ایمنی و مدنیت همیشه برای ما مهم هستند، اما مدیریت آن در زمان واقعی می تواند یک چالش فنی بزرگ باشد. هر زمان که مشکلی وجود دارد، می‌خواهیم بتوانیم آن را بررسی کنیم و در زمان واقعی اقدام کنیم، اما با توجه به مقیاس ما، این موضوع چالش برانگیز است. برای مدیریت موثر این مقیاس، باید از سیستم های ایمنی خودکار استفاده کنیم. 

یکی دیگر از چالش های فنی که ما روی آن تمرکز کرده ایم، دقت اقدامات ایمنی ما برای اعتدال است. دو رویکرد تعدیل برای رسیدگی به تخلفات خط مشی و ارائه بازخورد دقیق در زمان واقعی وجود دارد: تعدیل واکنشی و پیشگیرانه. برای تعدیل واکنشی، ما در حال توسعه مدل‌های یادگیری ماشینی (ML) برای شناسایی دقیق انواع مختلف نقض خط‌مشی هستیم که با پاسخ دادن به گزارش‌های افراد در پلتفرم کار می‌کنند. به طور فعال، ما در حال کار بر روی تشخیص همزمان پتانسیل هستیم محتوایی که خط‌مشی‌های ما را نقض می‌کند، آموزش دادن به کاربران در مورد رفتارشان. درک کلمه گفتاری و بهبود کیفیت صدا یک فرآیند پیچیده است. ما در حال حاضر شاهد پیشرفت هستیم، اما هدف نهایی ما داشتن یک مدل بسیار دقیق است که بتواند رفتارهای نقض کننده خط مشی را در زمان واقعی تشخیص دهد. 

برخی از رویکردها و راه حل های نوآورانه ای که برای مقابله با این چالش های فنی استفاده می کنیم چیست؟

ما یک مدل ML سرتاسر ایجاد کرده‌ایم که می‌تواند داده‌های صوتی را تجزیه و تحلیل کند و بر اساس نوع نقض خط‌مشی (مثلاً میزان احتمال این قلدری، ناسزاگویی و غیره) یک سطح اطمینان ارائه می‌کند. این مدل توانایی ما را برای بستن خودکار گزارش‌های خاص به طور قابل توجهی بهبود بخشیده است. ما زمانی اقدام می کنیم که مدل ما مطمئن باشد و مطمئن باشد که از انسان ها بهتر است. تنها در عرض چند ماه پس از راه‌اندازی، ما توانستیم تقریباً تمام گزارش‌های سوء استفاده از صدای انگلیسی را با این مدل تعدیل کنیم. ما این مدل‌ها را در داخل توسعه داده‌ایم و این گواهی بر همکاری بین بسیاری از فناوری‌های منبع باز و کار خودمان برای ایجاد فناوری پشت آن است. 

تعیین اینکه چه چیزی در زمان واقعی مناسب است بسیار پیچیده به نظر می رسد. چطور کار میکند؟

فکر زیادی برای آگاه کردن سیستم از نظر زمینه ای وجود دارد. ما همچنین قبل از اقدام به الگوها در طول زمان نگاه می کنیم تا بتوانیم از موجه بودن اعمالمان مطمئن شویم. خط‌مشی‌های ما بسته به سن افراد، خواه در یک فضای عمومی یا یک چت خصوصی، و بسیاری عوامل دیگر متفاوت است. ما در حال بررسی راه‌های جدیدی برای ترویج مدنیت در زمان واقعی هستیم و ML در قلب آن قرار دارد. ما اخیراً اعلان‌های فشار خودکار (یا «تکان») را راه‌اندازی کردیم تا خط‌مشی‌های خود را به کاربران یادآوری کنیم. ما همچنین به دنبال عوامل دیگری مانند لحن صدا برای درک بهتر مقاصد یک فرد و تشخیص چیزهایی مانند طعنه یا شوخی هستیم. در نهایت، ما همچنین در حال ساخت یک مدل چند زبانه هستیم زیرا برخی از افراد به چندین زبان صحبت می‌کنند یا حتی زبان را در میان جمله تغییر می‌دهند. برای اینکه هر یک از اینها امکان پذیر باشد، باید یک مدل دقیق داشته باشیم. 

در حال حاضر، ما بر روی برجسته‌ترین اشکال سوء استفاده، مانند آزار و اذیت، تبعیض، و ناسزا تمرکز داریم. اینها اکثر گزارش های سوء استفاده را تشکیل می دهند. هدف ما این است که تأثیر قابل توجهی در این زمینه ها داشته باشیم و هنجارهای صنعت را برای ترویج و حفظ مکالمه آنلاین مدنی تعیین کنیم. ما در مورد پتانسیل استفاده از ML در زمان واقعی هیجان زده هستیم، زیرا ما را قادر می سازد تا به طور موثر تجربه ای امن و مدنی را برای همه ایجاد کنیم. 

چالش هایی که در Roblox حل می کنیم چگونه منحصر به فرد هستند؟ ما در موقعیتی هستیم که ابتدا چه چیزی را حل کنیم؟

با صدای فضایی چت کنید فناوری با تقلید از ارتباطات دنیای واقعی، تجربه ای فراگیرتر ایجاد می کند. به عنوان مثال، اگر من در سمت چپ کسی بایستم، او صدای من را در گوش چپ خود خواهد شنید. ما در حال ایجاد یک آنالوگ برای نحوه کار ارتباطات در دنیای واقعی هستیم و این چالشی است که ما در موقعیتی هستیم که ابتدا آن را حل کنیم. 

به عنوان یک گیمر، من شاهد آزار و اذیت و آزار و اذیت های زیادی در بازی های آنلاین بوده ام. این مشکلی است که اغلب به دلیل ناشناس بودن کاربر و عدم عواقب آن بررسی نمی شود. با این حال، چالش‌های فنی که ما در مورد این موضوع با آن مقابله می‌کنیم، منحصربه‌فرد است که سایر پلتفرم‌ها در چند زمینه با آن مواجه هستند. در برخی از پلتفرم های بازی، تعاملات به هم تیمی ها محدود می شود. Roblox راه‌های مختلفی برای پاتوق در یک محیط اجتماعی ارائه می‌کند که بیشتر شبیه زندگی واقعی است. با پیشرفت‌هایی در ML و پردازش سیگنال بلادرنگ، ما می‌توانیم به طور موثر رفتارهای توهین‌آمیز را شناسایی کرده و به آنها رسیدگی کنیم، به این معنی که ما نه تنها یک محیط واقعی‌تر هستیم، بلکه محیطی هستیم که در آن همه برای تعامل و ارتباط با دیگران احساس امنیت می‌کنند. ترکیبی از فناوری ما، پلت فرم همهجانبه ما، و تعهد ما به آموزش کاربران در مورد خط‌مشی‌هایمان، ما را در موقعیتی قرار می‌دهد که با این چالش‌ها مقابله کنیم.

برخی از نکات کلیدی که از انجام این کار فنی آموخته اید چیست؟

احساس می کنم چیز قابل توجهی یاد گرفته ام. من یک مهندس ML نیستم. من بیشتر در قسمت جلویی در بازی کار کرده‌ام، بنابراین اینکه می‌توانم در مورد نحوه عملکرد این مدل‌ها عمیق‌تر از آنچه که داشتم صحبت کنم بسیار عالی بوده است. امید من این است که اقداماتی که برای ترویج مدنیت انجام می دهیم به سطحی از همدلی در جامعه آنلاین تبدیل شود که فاقد آن بوده است.  

آخرین آموخته این است که همه چیز به داده‌های آموزشی بستگی دارد که شما وارد می‌کنید. و برای اینکه داده‌ها دقیق باشند، انسان‌ها باید روی برچسب‌هایی که برای دسته‌بندی برخی رفتارهای نقض‌کننده خط‌مشی استفاده می‌شوند توافق کنند. آموزش داده های باکیفیت که همه بتوانند روی آن توافق داشته باشند، واقعاً مهم است. حل این مشکل واقعاً سخت است. شما شروع به دیدن مناطقی می کنید که ML بسیار جلوتر از هر چیز دیگری است، و سپس مناطق دیگری که هنوز در مراحل اولیه است. هنوز زمینه های زیادی وجود دارد که ML هنوز در حال رشد است، بنابراین آگاهی از محدودیت های فعلی آن بسیار مهم است. 

تیم شما با کدام ارزش Roblox هماهنگی بیشتری دارد؟

احترام به جامعه ارزش راهنمای ما در طول این فرآیند است. اول، ما باید بر بهبود مدنیت و کاهش نقض سیاست در پلت فرم خود تمرکز کنیم. این تأثیر قابل توجهی بر تجربه کلی کاربر دارد. دوم، ما باید به دقت در نظر بگیریم که چگونه این ویژگی‌های جدید را عرضه می‌کنیم. ما باید مراقب نکات مثبت کاذب (مانند علامت گذاری نادرست چیزی به عنوان سوء استفاده) در مدل باشیم و از جریمه نادرست کاربران خودداری کنیم. نظارت بر عملکرد مدل های ما و تأثیر آنها بر تعامل کاربر بسیار مهم است. 

چه چیزی شما را بیشتر در مورد جایی که Roblox و تیم شما هدایت می کند هیجان زده می کند؟

ما پیشرفت قابل توجهی در بهبود ارتباطات صوتی عمومی داشته ایم، اما هنوز کارهای بیشتری باید انجام شود. ارتباطات خصوصی یک منطقه هیجان انگیز برای کشف است. من فکر می‌کنم فرصت بزرگی برای بهبود ارتباطات خصوصی وجود دارد، به کاربران اجازه می‌دهیم خود را با دوستان نزدیک خود بیان کنند، در حین تعامل با دوستان خود یک تماس صوتی داشته باشند. من فکر می کنم فرصتی برای تقویت این جوامع با ابزارهای بهتر وجود دارد تا کاربران را قادر سازد تا خود سازماندهی شوند، به جوامع بپیوندند، محتوا را به اشتراک بگذارند و ایده ها را به اشتراک بگذارند.

همانطور که به رشد خود ادامه می‌دهیم، چگونه فناوری چت خود را برای حمایت از این جوامع در حال گسترش مقیاس کنیم؟ ما فقط داریم روی بسیاری از کارهایی که می‌توانیم انجام دهیم، روی سطح کار می‌کنیم، و فکر می‌کنم فرصتی برای بهبود مدنیت ارتباطات آنلاین و همکاری در سراسر صنعت وجود دارد، به گونه‌ای که قبلاً انجام نشده است. با فناوری مناسب و قابلیت های ML، ما در موقعیت منحصر به فردی برای شکل دادن به آینده ارتباطات آنلاین مدنی قرار داریم.

تمبر زمان:

بیشتر از Roblox