Tapaustutkimus: sisällön moderointi
Sosiaalisen median käytön lisääntyessä verkkokiusaamisen ongelma on noussut esiin merkittävänä esteenä turvallista verkkotilaa varmistaville alustoille. Hämmästyttävät 38 % ihmisistä kohtaa tämän haitallisen käytöksen päivittäin, mikä korostaa kekseliäiden sisällön moderointimenetelmien kiireellistä tarvetta. Nykyään organisaatiot luottavat tekoälyn käyttöön pystyäkseen ratkaisemaan jatkuvan verkkokiusaamisen ongelman ennakoivasti.
Kyberturvallisuus:
Facebookin Q4 Community Standards Enforcement Report paljasti – toimenpiteitä 6.3 miljoonan kiusaamisen ja häirintäsisällön osalta, proaktiivinen havaitsemisaste 49.9 %
Koulutus:
A 2021 tutkimus totesi sen 36.5%% opiskelijoista yhdysvalloissa vuoden iässä 12 & 17 vuosia kokenut verkkokiusaamista jossain vaiheessa koulunsa aikana.
Vuoden 2020 raportin mukaan maailmanlaajuisten sisällönvalvontaratkaisujen markkinoiden arvoksi arvioitiin 4.07 miljardia dollaria vuonna 2019, ja sen odotetaan nousevan 11.94 miljardiin dollariin vuoteen 2027 mennessä CAGR:n ollessa 14.7 %.
Todellisen maailman ratkaisu
Data, joka valvoo maailmanlaajuisia keskusteluja
Asiakas kehitti pilvitarjontaansa varten vankkaa automaattista sisällönvalvontakoneoppimismallia, johon he etsivät verkkotunnuskohtaista toimittajaa, joka voisi auttaa heitä tarkkojen koulutustietojen kanssa.
Hyödyntämällä laajaa tietämyksemme luonnollisen kielen käsittelystä (NLP) auttoimme asiakasta keräämään, luokittelemaan ja merkitsemään yli 30,000 XNUMX asiakirjaa sekä englanniksi että espanjaksi luodaksemme automaattisen sisällönvalvontakoneen oppimismallin, joka jakautuu myrkylliseksi, aikuisille tai seksuaaliseksi sisällöksi. kategorioita.
Ongelma
- Web kaapii 30,000 XNUMX asiakirjaa sekä espanjaksi että englanniksi priorisoiduista verkkotunnuksista
- Kerätyn sisällön luokittelu lyhyisiin, keskikokoisiin ja pitkiin osiin
- Koottujen tietojen merkitseminen myrkylliseksi, aikuisille suunnatuksi tai seksuaalisesti avoimeksi sisällöksi
- Laadukkaiden merkintöjen varmistaminen vähintään 90 % tarkkuudella.
Ratkaisu
- Web romutti 30,000 XNUMX asiakirjaa kumpikin espanjaksi ja englanniksi BFSI:ltä, terveydenhuollosta, teollisuudesta ja vähittäismyynnistä. Sisältö jakautui edelleen lyhyisiin, keskipitkiin ja pitkiin asiakirjoihin
- Luokitellun sisällön merkitseminen myrkylliseksi, aikuisille suunnatuksi tai seksuaalisesti avoimeksi sisällöksi
- Saavuttaakseen 90 %:n laadun Shaip otti käyttöön kaksitasoisen laadunvalvontaprosessin:
» Taso 1: Laadunvarmistustarkastus: 100 % varmennettavista tiedostoista.
» Taso 2: Kriittinen laatuanalyysin tarkistus: Shaipsin CQA-tiimi arvioi 15–20 % retrospektiivisistä näytteistä.
Tulos
Koulutusdata auttoi rakentamaan automaattisen sisällön moderoinnin ML-mallia, joka voi tuottaa useita tuloksia, jotka ovat hyödyllisiä turvallisemman verkkoympäristön ylläpitämisessä. Jotkut tärkeimmistä tuloksista ovat:
- Tehokkuus suuren datamäärän käsittelyssä
- Johdonmukaisuus maltillisen politiikan yhtenäisen täytäntöönpanon varmistamisessa
- Skaalautuvuus mukautumaan kasvavaan käyttäjäkuntaan ja sisältömääriin
- Reaaliaikainen moderointi voi tunnistaa ja
poista mahdollisesti haitallinen sisältö sitä mukaa kuin se syntyy - Kustannustehokkuus vähentämällä riippuvuutta ihmismoderaattoreista
Nopeuta Conversational AI -sovelluksesi kehitystä 100 %
Kerro meille, kuinka voimme auttaa seuraavassa tekoälyaloitteessasi.