Twitter siirtyy kohdistamaan väärennetyt videot ja valokuvat

Sosiaalisen median yritys aikoo leimata tai poistaa materiaalia, joka näyttää olevan digitaalisesti manipuloitu, vaikka suorasta kiellosta puuttuukin.

Twitter, joka taipui käyttäjiensä painostukseen, sanoi tiistaina, että se tutkii aggressiivisemmin väärennettyjä tai muunnettuja kuvia ja videoita.

Yhtiö sanoi maaliskuusta alkaen lisäävänsä tunnisteita tai poistavansa manipuloituja kuvia ja videoita sisältävät twiitit. Muutosta, vaikka suoraa kieltoa ei ollutkaan, ilmoitettiin päivää myöhemmin YouTube ilmoitti myös aikovansa poistaa harhaanjohtavan vaaleihin liittyvän sisällön sivustoltaan .

Twitterin uusi käytäntö korostaa tasapainoilua - parodian sallimisen ja disinformaation poistamisen välillä -, jota sosiaalisen median yritykset kohtaavat yrittäessään valvoa aggressiivisemmin alustoilleen lähetettyä sisältöä.

Määrittääksesi, pitäisikö twiitti poistaa tai merkitä, Twitter sanoi blogikirjoituksessa , se käyttää useita testejä: Onko twiitin mukana olevaa mediaa muutettu merkittävästi tai valmistettu harhaanjohtamaan? Jaetaanko sitä harhaanjohtavalla tavalla? Näissä tapauksissa twiitti saa todennäköisesti etiketin.

Mutta jos twiitti todennäköisesti vaikuttaa yleiseen turvallisuuteen tai aiheuttaa vakavaa haittaa, se poistetaan. Twitter sanoi, että se saattaa myös näyttää varoituksen ihmisille ennen kuin he ovat tekemisissä manipuloitua sisältöä sisältävän twiitin kanssa tai rajoittaa twiitin kattavuutta.

Lähestymistapamme ei keskity tiettyihin teknologioihin, joita käytetään median manipuloimiseen tai valmistamiseen, sanoi Yoel Roth, Twitterin sivuston eheyspäällikkö. Käytätpä edistyneitä koneoppimistyökaluja tai vain hidastat videota puhelimesi 99 sentin sovelluksella, tämän käytännön mukaan keskitymme lopputulokseen, ei siihen, miten se saavutettiin.

Yhtiö kehitti sääntönsä tutkittuaan yli 6 500 käyttäjää, kansalaisryhmää ja tutkijaa, sanoi Del Harvey, Twitterin luottamuksesta ja turvallisuudesta vastaava varapresidentti.

He havaitsivat, että noin 70 prosenttia kyselyyn vastanneista Twitterin käyttäjistä uskoi, että ei ollut hyväksyttävää, ettei yritys ryhtyisi toimiin manipuloitua sisältöä vastaan. Yli 90 prosenttia sanoi, että tällainen sisältö pitäisi poistaa tai sijoittaa varoitustarran taakse, jossa sanotaan, että videota tai kuvaa on muutettu.

Asiat, jotka vääristävät tai häiritsevät sitä, mitä tapahtuu, uhkaavat Twitterin tiedon eheyttä, Ms Harvey sanoi.

Kuten muutkin sosiaaliset verkostot, jotka ovat yrittäneet tukahduttaa väärää sisältöä, Twitteriin kohdistuu paineita soveltaa jatkuvasti uusia sääntöjään.

Samantha Bradshaw, tutkija Oxford Internet Institutesta, sanoi, että haittojen määrittely ei aina ollut selvää, etenkään sosiaalisessa mediassa. Ja olisi vaikeaa automatisoida näitä vastauksia maailmanlaajuisesti, hän sanoi.

Viime vuonna muutettu video puhuja Nancy Pelosista, joka sai vaikutelman, että hän hämmensi sanojaan, levisi Internetiin. Toinen voimakkaasti editoitu leike entisestä varapresidentistä Joseph R. Biden Jr. teki virheellisesti sen vaikutelman, että hän olisi esittänyt rasistisia huomautuksia.

Roth sanoi, että Pelosin ja Bidenin manipuloidut videot saisivat leiman Twitterin uuden käytännön mukaisesti. Riippuen siitä, mitä videon jakavassa twiitissä sanottiin ja jos se aiheutti haittaa, Mr. Roth sanoi, Twitter voisi poistaa twiitin.

Viime vuonna Twitter sanoi lisäävänsä varoitustarroja piilottaakseen viestejä suurilta poliittisilla hahmoilta, jotka rikkoivat yrityksen häirintää tai hyväksikäyttöä koskevia sääntöjä. Normaalisti nuo twiitit poistettaisiin, mutta yritys väitti, että ne olisivat tarpeeksi uutisarvoisia pysyäkseen alustalla. Tiistaihin mennessä Twitter ei ollut vielä käyttänyt tunnisteita.

Tammikuussa, Facebook kielsi deepfake-videot sen alustalta. Mutta yhtiö sanoi, että Ms. Pelosin ja herra Bidenin videoita ei poisteta politiikan nojalla, koska niitä oli editoitu videonmuokkausohjelmistolla, ei tekoälyllä.

YouTube kielsi harhaanjohtavan poliittisen sisällön maanantaina osana uutta politiikkaa ennen marraskuussa pidettäviä presidentinvaaleja.