Tapaustutkimus: sisällön moderointi
Yli 30 XNUMX dokumenttia verkossa romutettu ja merkitty sisällön valvontaa varten
jotka pyrkivät turvaamaan verkkotilan, jossa olemme yhteydessä ja kommunikoimme.
Kun sosiaalisen median käyttö kasvaa jatkuvasti,
verkkokiusaamisen ongelma on tullut esille a
merkittävä este alustoille, jotka pyrkivät siihen
varmistaa turvallisen verkkotilan. Järkyttävää
38 % ihmisistä kohtaa tämän
haitallista käytöstä päivittäin,
korostaa kekseliäisyyden kiireellistä tarvetta
sisällön moderointimenetelmiä.
Nykyään organisaatiot luottavat sen käyttöön
tekoälyä käsittelemään kestävää
verkkokiusaamisen ongelma proaktiivisesti.
Kyberturvallisuus:
Facebookin Q4 Community Standards Enforcement Report paljasti – toimenpiteitä 6.3 miljoonan kiusaamisen ja häirintäsisällön osalta, proaktiivinen havaitsemisaste 49.9 %
Koulutus:
A 2021 tutkimus totesi sen 36.5%% opiskelijoista yhdysvalloissa vuoden iässä 12 & 17 vuosia kokenut verkkokiusaamista jossain vaiheessa koulunsa aikana.
Vuoden 2020 raportin mukaan maailmanlaajuisten sisällönvalvontaratkaisujen markkinoiden arvoksi arvioitiin 4.07 miljardia dollaria vuonna 2019, ja sen odotetaan nousevan 11.94 miljardiin dollariin vuoteen 2027 mennessä CAGR:n ollessa 14.7 %.
Todellisen maailman ratkaisu
Data, joka valvoo maailmanlaajuisia keskusteluja
Asiakas kehitti vahvaa automatisointia
sisällön moderointi koneoppiminen
mallia sen Cloud-tarjonnasta, jota varten he
etsivät verkkotunnuskohtaista myyjää, joka
voi auttaa heitä saamaan tarkkoja harjoitustietoja.
Hyödyntämällä laajaa tietämyksemme luonnollisen kielen käsittelystä (NLP) auttoimme asiakasta keräämään, luokittelemaan ja merkitsemään yli 30,000 XNUMX asiakirjaa sekä englanniksi että espanjaksi luodaksemme automaattisen sisällönvalvontakoneen oppimismallin, joka jakautuu myrkylliseksi, aikuisille tai seksuaaliseksi sisällöksi. kategorioita.
Ongelma
- Web kaapii 30,000 XNUMX asiakirjaa sekä espanjaksi että englanniksi priorisoiduista verkkotunnuksista
- Kerätyn sisällön luokittelu lyhyisiin, keskikokoisiin ja pitkiin osiin
- Koottujen tietojen merkitseminen myrkylliseksi, aikuisille suunnatuksi tai seksuaalisesti avoimeksi sisällöksi
- Laadukkaiden merkintöjen varmistaminen vähintään 90 % tarkkuudella.
Ratkaisu
- Web romutti 30,000 XNUMX asiakirjaa kumpikin espanjaksi ja englanniksi BFSI:ltä, terveydenhuollosta, teollisuudesta ja vähittäismyynnistä. Sisältö jakautui edelleen lyhyisiin, keskipitkiin ja pitkiin asiakirjoihin
- Luokitellun sisällön merkitseminen myrkylliseksi, aikuisille suunnatuksi tai seksuaalisesti avoimeksi sisällöksi
- Saavuttaakseen 90 %:n laadun Shaip otti käyttöön kaksitasoisen laadunvalvontaprosessin:
» Taso 1: Laadunvarmistustarkastus: 100 % varmennettavista tiedostoista.
» Taso 2: Kriittinen laatuanalyysin tarkistus: Shaipsin CQA-tiimi arvioi 15–20 % retrospektiivisistä näytteistä.
Tulos
Koulutusdata auttoi rakentamaan automaattisen sisällön moderoinnin ML-mallia, joka voi tuottaa useita tuloksia, jotka ovat hyödyllisiä turvallisemman verkkoympäristön ylläpitämisessä. Jotkut tärkeimmistä tuloksista ovat:
- Tehokkuus suuren datamäärän käsittelyssä
- Johdonmukaisuus maltillisen politiikan yhtenäisen täytäntöönpanon varmistamisessa
- Skaalautuvuus mukautumaan kasvavaan käyttäjäkuntaan ja sisältömääriin
- Reaaliaikainen moderointi voi tunnistaa ja
poista mahdollisesti haitallinen sisältö sitä mukaa kuin se syntyy - Kustannustehokkuus vähentämällä riippuvuutta ihmismoderaattoreista
Esimerkkejä sisällön hallinnasta
Kerro meille, kuinka voimme auttaa seuraavassa tekoälyaloitteessasi.