Oculus – Kontrola interneta veštačkom inteligencijom puštena u rad

Roskomnadzor je pokrenuo sistem za automatsku pretragu zabranjenog sadržaja Oculus. Ovo je za portal Vedomosti rekao predstavnik Glavnog radio-frekventnog centra podređenog Roskomnadzoru (FSUE GRCHTS), koji je i naručilac projekta.

„Informacioni sistem Oculus je već pokrenut i u potpunosti ispunjava svoje zadatke: otkriva kršenje zakona u foto i video materijalima“, rekao je za Vedomosti predstavnik GRCHT-a.
Prema njegovim rečima, u decembru 2022. godine sistem je testiran, a u januaru 2023. počela je integracija sistema sa drugim alatima za praćenje Roskomnadzora. Predstavnica GRFC-a nije iznela detalje rezultata testiranja, kao ni prve rezultate svog rada.

Glavni zadatak sistema je da identifikuje kršenja ruskog zakonodavstva na slikama i video snimcima, precizirao je predstavnik GRFC.

„Sistem prepoznaje slike i simbole, nedozvoljene scene i radnje, analizira tekst na foto i video materijalima. Oculus automatski otkriva prekršaje kao što su ekstremističke teme, pozivi na masovne ilegalne događaje, samoubistva, sadržaj koji promoviše drogu, LGBT propagandu, itd.„, objasnio je on.

„Oculus je sistem koji podrazumeva izvršavanje zadataka za klasifikaciju slika i video zapisa prema određenim zahtevima, uključujući glavne vrste zabranjenog sadržaja“ – objasnila je za Vedomosti Natalija Tilevič, generalni direktor kompanije Social Laboratory. Prema njenim rečima, „Okulus” radi kao klasifikator sa unapred definisanim skupom izvora informacija gde se sadržaj analizira na usklađenost ili neusaglašenost sa zahtevima zakonadavca. Odnosno, zadatak Okulusa je da analizira foto i video sadržaj koji prikupljaju drugi servisi sa određenih stranica, veb-sajtova ili profila društvenih mreža. Program ne prikuplja podatke, već ih klasifikuje, kazala je Natalija Tilevič.

Pre uvođenja sistema, stručnjaci GRCHTS-a su analizirali zabranjene sadržaje „uglavnom ručno“, rekao je predstavnik tela podređenog Roskomnadzoru.
„U proseku, operateri su dnevno obradili 106 slika i 101 video snimak. Oculus će analizirati više od 200.000 slika dnevno (oko tri sekunde po slici).
Sistem će automatizovati i značajno ubrzati praćenje vizuelnog sadržaja“, nastavio je predstavnik GRFC-a. Zvaničnici se nadaju da će to „poboljšati efikasnost u identifikovanju kršenja zakona“.

U budućnosti, do 2025. godine, planirano je unapređenje sistema.
„Radi se na mogućnosti dodavanja novih klasa i novih vrsta prekršaja, kao i funkcija utvrđivanja položaja ljudi i njihovog postupanja“, rekao je predstavnik.
Sistem će otkriti zabranjeni materijal „na više sličica video klipova, složenog rukopisa i ručno nacrtanog sadržaja“, dodao je on.

Prvi put su se informacije o razvoju sistema Oculus pojavile sredinom 2021. godine, kada je GRFC objavio tender za razvoj tehničkih specifikacija za sistem u vrednosti od 15 miliona rubalja.
U budućnosti, GRFC je takođe najavio kupovinu direktno za razvoj samog Oculusa – već za 57,7 miliona rubalja.
Istovremeno, ukupna cena seta rešenja koja će efikasno pronaći i blokirati različite vrste zabranjenog sadržaja procenjuje se na oko 1,5 milijardi rubalja, kaže sagovornik Vedomosti.
Sve ovo može značiti da će se razvoj GRFC-a i kompanija uključenih u ovaj alat nastaviti, dodao je on.

Programer Oculus-a bila je IT kompanija Execution RDC. Njegov predstavnik je odbio da komentariše, pozivajući se na komercijalni odnos sa kupcem.

Potreba za korišćenjem automatizovanog rešenja za traženje zabranjenog sadržaja u GRFC-u objašnjava se agresivno rastućim protokom takvih materijala na Internetu. Nedavno su počeli da se pojavljuju zabranjeni materijali u vezi sa temom vojne operacije na teritoriji Ukrajine. Reč je o „neviđenim količinama i brzini distribucije falsifikata, čiji je cilj da se prave činjenice zamene posebno konstruisanom „realnošću“, napominje predstavnik GRFC-a.

Prema njegovim rečima, 2022. godine, na osnovu zahteva Kancelarije glavnog tužioca, više od 100.000 internet izvora koji sadrže lažne informacije (uključujući i tok vojne specijalne operacije) je obrisano ili blokirano. U 2021. godini bilo je oko 7.000 takvih materijala, 2020. godine – oko 1.500, a 2019. godine nekoliko stotina. „Najčešće korišćeni alat u rukama antiruskih izvora postao je vizuelni sadržaj, koji može ostaviti veći utisak na emocije korisnika“, dodao je predstavnik GRFC.

„Međutim, pored teme vojne operacije, na internetu raste i broj materijala koji promovišu upotrebu droge, poziva na samoubistvo, dečiju pornografiju.“ – dodao je predstavnik GRFC-a. „Takav sadržaj treba pronaći i blokirati pre nego što se masovno distribuira na internetu, posebno među decom i omladinom“, naglasio je on.

Količina destruktivnog sadržaja eksponencijalno raste od 2017. godine, posebno u poslednjih godinu dana, povećana je distribucija raznih ekstremističkih i terorističkih materijala, uključujući pozive na sabotaže usmerene na tinejdžere i mlade, potvrđuje Ekaterina Mizulina, izvršni direktor Lige za bezbedan internet. . Povećava se i broj zabranjenih LGBT materijala i materijala u vezi sa drogom, dodala je ona.

„Zaista, sistemi veštačke inteligencije za analitiku takvih informacija su veoma neophodni. Postoji niz nezavisnih sistema, uključujući i one koje mi koristimo u radu, ali takvog državnog sistema doskora nije bilo“, istakla je Mizulina.
Rizici korišćenja Oculus-a odnose se na to koliko su slike i video snimci tačno ili netačno klasifikovani i koliko će pravilno biti dalje interpretirani u kombinaciji sa drugim komponentama sistema, nastavlja Tilevič. Ovi rizici nastaju zbog ovakvih ograničenja sistema veštačke inteligencije, kao što je, na primer, lažno-pozitivno, kada se utvrdi da je određeni sadržaj zabranjen, a zapravo  sistem ne primećuje slike ili video zapise. koji imaju karakteristike zabranjenog sadržaja.

„Pitanja tumačenja i postavljanja odrediće obim takvih grešaka, kako će kontroverzni sadržaj biti klasifikovan – da li će se smatrati zabranjenim ili ne. Međutim, na ovaj ili onaj način, to će biti rizici ne toliko same odluke, koliko daljeg rada sa podacima dobijenim kao rezultat rada“, zaključio je stručnjak.

„Naravno, posle analitike veštačke inteligencije veoma je važno ručno odabrati takve informacije, proveriti rad AI i raditi sa konkretnim činjenicama“, slaže se sa njom Mizulina. Očigledno je da se sve objavljene informacije neće automatski nigde slati, uključujući i pokretanje krivičnog postupka, kao i za upis u registar zabranjenih sajtova. „Bilo bi prerano za sada. Zato je u sledećoj fazi, posle rada veštačke inteligencije, važna i standardna, ručna obrada podataka“, rezimirao je generalni direktor Lige za bezbedni internet.