YouTube во војна со штетна содржина! Како компанијата се бори да го запре феноменот

Автор: Богдан Унгуреану/Датум на објавување: 03-09-2019 19:09

војна

Јутјуб платформата е во трка со часовникот да ги отстрани штетните содржини, без разлика дали станува збор за поттикнување омраза, тероризам, злоупотреба на деца или повеќе. Технологијата за машинско учење е многу важна во овој случај.

YouTube ја отстрани штетната содржина од самиот почеток, но напорите во оваа насока се забрзаа во последниве години, главно со ажурирање на правилата што заедницата мора да ги следи, подобрување на упатствата, воведување системи за машинско учење, развој на тимови кои анализирајте ја неговата содржина или посветени програми во партнерство со разни организации. Само во 2018 година, YouTube изврши над 30 измени во политиките што ја регулираат платформата.

Како резултат, во вториот квартал на 2019 година, YouTube отстрани над 4 милиони канали и 9 милиони видеа за кршење на правилата на заедницата. Кон крајот на август, Јутјуб објави квартален извештај за содржината отстранета од платформата, која дава информации за обемот на содржината отстранета, зошто и кога е избришана.

Пред да ја отстраните содржината, границата помеѓу прифатеното и избришаното мора да се повлече онаму каде што треба. Целта е да се обезбеди слобода на изразување, истовремено заштитувајќи ја и поддржувајќи ја заедницата на YouTube. За таа цел, YouTube има тим за развој на политики во заедницата што постојано ги прегледува за да бидат сигурни дека се ажурирани, да ја одржуваат заедницата безбедна и да не ја ограничуваат слободата на YouTube.

Во некои сложени случаи, тимот за анализа може да помине неколку месеци во развој на ново правило. Ова се прави со консултација со надворешни експерти и креатори на содржини на YouTube, за да се види каде тековните правила ги покажуваат своите граници, кои се особеностите на различните региони во светот, така што предложените измени ќе се применуваат прилично глобално.

Една таква фундаментална промена е ажурирање на политиките за говор на омраза. Нивната промена се случи во понеделникот, а новиот пакет на политики започна во почетокот на јуни 2019 година. Влијанието на новиот пакет на политики за поттикнување на омраза беше забележано во вториот квартал на 2019 година:

  • Отстранети над 100.000 видеа, што е за 5 пати поголемо зголемување
  • Бројот на избришани канали поради „говор на омраза“ се зголеми 5 пати, на над 17.000
  • Бројот на коментари отстранети од YouTube скоро двојно се зголеми во Q2 2019, на над 500 милиони, делумно поради бришењето на коментарите за „говор на омраза“

YouTube се потпира на комбинација на луѓе и технологија за обележување на содржината што треба да се анализира. Во некои случаи, „отпечатоци од прсти“ се користат за наоѓање копии од несоодветна содржина пред прегледување. За одредени видови на содржина, како што се сексуално злоставување на деца или тероризам, YouTube придонесува во базата на податоци на индустријата за содржина за да се зголемат шансите блокирање на овој вид содржина пред да се постави.

Во 2017 година, YouTube ја прошири употребата на технологија за машинско учење во откривање на потенцијално несоодветна содржина, а потоа испратена за анализа на луѓето. Оваа технологија е погодна за откривање на обрасци, што помага да се најде содржина слична - но не баш иста - на друга содржина што веќе е отстранета, дури и пред да биде прегледана од корисниците. Така, над 87% од 9 милиони видеа отстранети во втората половина на 2019 година првично беа идентификувани од автоматизираните системи на YouTube. Ажурирање на системите за автоматско откривање на спам во вториот квартал од 2019 година доведе до 50% зголемување на бројот на избришани канали за кршење на правилата за несакана пошта.

Во целиот овој напор да се отстрани содржината што ги крши правилата, важен аспект е видеата од овој вид да не се гледаат во големи размери или воопшто, пред да се отстранат. Овде клучен елемент е автоматскиот систем за предупредување, кој помогна да се открие и оцени содржината пред таа да биде сигнализирана од заедницата. Како резултат, повеќе од 80% од содржината пријавена од системите за автоматизација беше отстранета пред да добие единствен преглед во вториот квартал на 2019 година.

Јутјуб започна со почетокот на 2018 година Intelligence Desk, тим што ги следи вестите, социјалните медиуми и извештаите на корисниците за да открие нови трендови во областа на несоодветната содржина. Гугл ангажираше над 10.000 луѓе да откриваат, анализираат и отстрануваат содржина што ги крши политиките на ЈуТјуб.