Välimus süvavõltsingud YouTube'is See on täielikult muutnud veebivideote maastikku. See, mis veel mõned aastad tagasi tundus lihtsa tehnoloogilise eksperimendina, on muutunud suureks probleemiks: videod, mis jäljendavad kuulsusi, poliitikuid või sisuloojaid häiriva täpsusega ning on võimelised petma, manipuleerima või hävitama mainet mõne tunniga.
Selle väljakutsega silmitsi seistes on YouTube otsustanud asja tõsiseks võtta ja kasutusele võtta palju agressiivsem strateegia tehisintellekti loodud sisu vastu mis esinevad päris inimestena. Uued tööriistad, rangemad eeskirjad, spetsiifilised aruandlussüsteemid ning koostöö meelelahutustööstuse ja avaliku elu tegelastega on osa pealetungist, mille eesmärk on piirata nende sünteetiliste väljamõeldiste levikut.
Mis on süvavõltsingud ja miks need YouTube'is probleemiks on?
Sügavvõltsingutest rääkides peame silmas videoid, pilte või heli, mille on loonud või muutnud generatiivne tehisintellekt päris inimese näo, hääle või žestide jäljendamiseks. YouTube'is tähendab see klippe, kus kuulsus näib ütlevat või tegevat midagi, mida pole kunagi juhtunud, või laule, mida esitatakse artisti kloonitud häälega ilma tema loata.
Sellisel sisul on palju võimalikke eesmärke: alates massiline pettus ja desinformatsioon (näiteks valimiste ajal), alates lihtsast vastutustundetust meelelahutusest kuni otseste rünnakuteni kuulsuste, poliitikute või avaliku elu tegelaste maine vastu. Suur probleem on see, et tehnoloogia arenedes muutub üha raskemaks eristada autentset tehisintellekti loodud sisust.
Viimastel aastatel on YouTube'i täis see, mida selle enda tegevjuht on kirjeldanud kui tehisintellekti loodud „rämpsisu”Nende hulgas paistavad kuulsuste süvavõltsingud silma oma kahjuliku potentsiaali poolest: need mitte ainult ei väsita kvaliteetseid videoid otsivat kasutajat, vaid seavad ohtu ka seaduslikkuse, õiguse oma kuvandile ja usalduse platvormi vastu.
Eksperdid räägivad juba tõsisest konfliktist digitaalne identiteet ja avaliku elu tegelaste kaitseIgaüks, kellel on juurdepääs suhteliselt arenenud tehisintellekti tööriistadele, saab luua usutava video, mis kehastab näitlejat, muusikut või poliitikut, ja selle YouTube'i üles laadida. Ilma tõhusa tuvastus- ja reageerimissüsteemita võib mainekahju olla tohutu ja raskesti tagasipööratav.
YouTube'i vastus: Kasutage tehisintellekti tehisintellekti vastu võitlemiseks
Selle stsenaariumi tõttu on YouTube otsustanud rakendada loogikat „Kui te ei saa neid ületada, liituge nendegaSelle asemel, et lihtsalt käsitsi saadetud teadetele reageerida, on platvorm välja töötanud tehisintellektil põhinevad süsteemid, et leida sünteetilisi videoid, mis kuritarvitavad päris inimeste kujutist või häält.
Ettevõte on teatanud oma laienemisest sarnasuse tuvastamise tehnoloogiaSee tööriist on loodud tehisintellekti loodud sisu automaatseks tuvastamiseks, mis kopeerib konkreetsete isikute nägu või häält. See tehnoloogia ei otsi ainult ilmseid võltsinguid: see analüüsib näomustreid, hääletämbreid ja iseloomulikke jooni, et teha kindlaks, kas tegemist võib olla süvavõltsinguga.
Huvitav on see, et YouTube ühendab need tehnoloogilised edusammud a-ga palju rangem kaitsepoliitikaAsi pole ainult video leidmises, vaid ka selles, et pakkuda asjaosalistele selget ja suhteliselt kiiret kanalit selle eemaldamise taotlemiseks, eriti kui tegemist on kellegi teise isiku jäljendamise, pettuse või selgelt isiku kujutise kuritarvitamisega.
See ettevõtmine vastab kasvavale survele kasutajatelt, artistidelt, plaadifirmadelt, talendiagentuuridelt ja teistelt sektoritelt, mis on väga haavatavad väärinfo suhtes. Nad kõik olid YouTube'i juba mõnda aega üles kutsunud tegutsema. tõhusad mehhanismid võltsitud kogunemiste peatamiseks ja nende pildi või hääle loata kasutamine.
Content ID-st sarnasuse tuvastamise süsteemini
Selle uue rünnaku toimimise mõistmiseks on kasulik vaadata tagasi. YouTube on seda aastaid kasutanud. Sisu IDSee on süsteem, mis skannib platvormile üleslaaditud videoid ja võrdleb neid tohutu autoriõigustega kaitstud teoste andmebaasiga (muusika, videoklipid jne). Kui see tuvastab vasteid, rakendab see automaatselt autoriõiguse reegleid.
Sarnasuse tuvastamise tehnoloogia on otseselt inspireeritud sellest mudelist, kuid erineva lähenemisviisiga. Autoriõigustega kaitstud lugude või klippide jälgimise asemel teeb see otsige vasteid üleslaaditud videote ja päris inimeste "digitaalse jalajälje" vahelSee jälg hõlmab nende näojooni, liikumismustreid ja paljudel juhtudel ka nende hääle omadusi.
Iga kord, kui uus video üles laaditakse, analüüsivad YouTube'i algoritmid sisu, kasutades järgmisi tehnikaid: näo- ja helituvastus kombineerituna manipuleerimise tuvastamiseks treenitud genereerivate tehisintellekti mudelitega. Kui süsteem leiab midagi kahtlast, märgistab see video ülevaatamiseks ja seostab selle isiku digitaalse profiiliga, keda võidakse jäljendada.
Praktikas võimaldab see süvavõltsingu potentsiaalsetel ohvritel luua juhtpaneeli, kust nad saavad leida sisu, mis kasutab nende pilti või häält ilma loata, ja sealt edasi taotleda selle eemaldamistSee on selge areng ainult käsitsi esitatud kaebustel põhinevast „reaktiivsest” lähenemisviisist automaatsel skaneerimisel põhineva proaktiivse mudeli poole.
Meelelahutustööstusele eelisõigus
Üks suur uus arengusuundumus on see, et YouTube on otsustanud laiendada seda sarnasuse tuvastamise tehnoloogiat ka... meelelahutustööstusTalendiagentuuridel, esindusfirmadel ja nende hallatavatel kuulsustel on juba võimalus seda tööriista kasutada, et kaitsta artiste, keda nad esindavad.
Platvorm on teinud tihedat koostööd valdkonna suurte agentuuridega, näiteks CAA, UTA, WME ja Untitled Managementalgoritme reaalsete olukordadega kohandama. Idee seisneb selles, et tööriist ei töötaks mitte ainult laboris, vaid oleks efektiivne ka igapäevases kasutuses, igasuguse valgustuse, videokvaliteedi ja kontekstidega, milles süvavõltsingud tavaliselt levivad.
Oluline detail on see, et kunstnikud ja kuulsused Neil ei pea olema YouTube'i kanalit Selle kaitse saamiseks peavad nad lihtsalt süsteemis registreeruma oma esindajate kaudu või otse, et platvorm saaks luua ja hallata nende digitaalset profiili.
See lähenemisviis laiendab ulatust: see kaitseb mitte ainult loojaid, kes laadivad sisu üles iga päev, vaid ka kuulsusi, kelle kuvandit saab ära kasutada isegi ilma aktiivse YouTube'i kohalolekuta. Tegelikult tuginevad süvavõltingud paljudel juhtudel teistes võrgustikes levivatele fotodele või videotele, kuid lõpuks ära kasutatakse neid Google'i platvormil.
Laiendatud kaitse poliitikutele, ajakirjanikele ja avalikele ametnikele
Sarnasuse tuvastamise tööriist ei piirdu ainult meelelahutusmaailmaga. YouTube tutvustas seda algselt 2024. aastal väike rühm eriti tundlikke kasutajaidja aja jooksul on see laiendanud oma ulatust teistele kõrge riskiga profiilidele.
2026. aasta alguses teatas ettevõte, et süsteem on saadaval ka järgmistele kasutajatele: valitsusametnikud, ajakirjanikud ja poliitilised kandidaadidNeed rühmitused on avaliku arvamuse mõjutamiseks mõeldud desinformatsioonikampaaniate, manipuleeritud piltide ja võltsvideote prioriteetne sihtmärk.
Selles kontekstis on programm Sarnasuse tuvastamine Sellest saab võtmetööriist. Tehnoloogia analüüsib kaadreid ja heliribasid, et tuvastada, kas nende inimeste pilte kasutatakse tehisintellekti loodud montaažis, mis võib eksitada, rünnata nende usaldusväärsust või moonutada avalikku arutelu.
Sellesse programmi registreerunud inimesed saavad hoiatusi, kui platvorm tuvastab võimaliku tehisintellektil põhineva isiku tuvastamise juhtumi. Siiski Video eemaldamine ei ole automaatne.Asjaomased isikud peavad selle eemaldamist selgesõnaliselt taotlema ning YouTube viib läbi täiendava analüüsi, et kontrollida konteksti ja otsustada, kas nende reegleid on rikutud.
Registreerimine ja kontrollimine kaitseprogrammis
Nendest täiustatud meetmetest kasu saamiseks peavad avaliku elu tegelased, kes soovivad programmis osaleda, läbima registreerimis- ja kinnitusprotsessYouTube nõuab, et isik tõendaks oma isikut dokumentide ja audiovisuaalsete materjalidega.
Praktikas palutakse abisaajatel suurendada oma sissetulekut ühe võrra Kinnitusvideo ja ametlikud akrediteeringud mis võimaldavad kinnitada, et nad on tõepoolest need, kelleks nad väidavad end olevat. Selle teabe abil loob platvorm usaldusväärse digitaalse profiili, mida algoritmid seejärel kasutavad kasutajate üleslaaditud sisuga võrdlemiseks.
See samm on süsteemi kuritarvitamise vältimiseks ülioluline. Ilma kindla kontrollita võib keegi proovida väita teise inimese pilti enda omaks või sundida seaduslikke videoid eemaldama, väites, et tegemist on kellegi teisega. Seetõttu ühendab YouTube enne kaitse aktiveerimist käsitsi kontrollimise automatiseeritud tehniliste protsessidega.
Pärast valideerimist saavad programmi kaasatud kasutajad juurdepääsu spetsiifilised otsingu- ja aruandlustööriistadkus on loetletud kahtlased videod ja pakutakse selgeid valikuid kaebuste ja sisu eemaldamise protsesside algatamiseks.
Loov tehisintellekt vs pahatahtlik tehisintellekt: nähtuse kaks poolt
Kõike seda tuleb mõista kontekstis, kus YouTube on samuti edasiviiv jõud tehisintellekti loominguline kasutamine loojate poolt. Platvorm ise on hakanud pakkuma tööriistu YouTube'i kasutajate moodi kõlavate ja välimusega avatari loomiseks, täiustatud filtreid ja nutikaid redigeerimisvalikuid.
Probleem on selles, et sama tehnoloogiat, mis võimaldab teil oma kanalile armsa avatari luua, saab kasutada ka selle valmistamiseks äärmiselt realistlikud imitatsioonidSeepärast järgib ettevõte väga peent joont: see soodustab innovatsiooni, kuid peab lõpetama kasutusviisid, mis ületavad seaduslikke või eetilisi piire.
Palju on arutatud näiteks viiruslauludest, mille hääled näivad kuuluvat kuulsatele artistidele, näiteks väidetavale artistile. Bad Bunny laul, mille on täielikult genereerinud tehisintellektTegelikkuses ei salvestanud artist seda laulu kunagi, kuid hääle sarnasus oli nii suur, et paljud kasutajad pidasid seda ehtsaks ning see levis sotsiaalmeedias ja videoplatvormidel viraalselt.
Sellised juhtumid on pannud häirekellad tööle plaadifirmade, plaadifirmade ja artistide endi seas, kellel on nüüd Laulude ja videote eemaldamise taotlemise mehhanismid kes imiteerivad oma häält või kujutist ilma loata. Kaitse ei piirdu enam traditsioonilise autoriõigusega: nüüd tuleb mängu õigus identiteedile ja oma kujutisele.
YouTube'i loojate uued kohustused
Lisaks tuvastusvahenditele on YouTube oma eeskirju ajakohastanud, et nõuda loojatelt järgmist: tehisintellekti loodud või muudetud sisu läbipaistvaks märgistamisekseriti tundlike teemade, näiteks valimiste, rahvatervise või humanitaarkriiside käsitlemisel.
Edaspidi peavad tehisintellekti märkimisväärselt kasutavad videod sisaldama järgmist: selged sildid või teated nii et vaataja teab, et mõned osad sisust on sünteetilised. See hõlmab nii YouTube'i enda tehisintellektil põhinevate tööriistade kui ka kolmandate osapoolte rakenduste kasutamist.
Platvorm eristab näiteks videoid, mis näitavad keegi ütleb või teeb midagi, mida ta pole kunagi teinud (tüüpiline süvavõltsingu juhtum) ja sündmuste taasloomised, mis pole kunagi aset leidnud. Mõlemal juhul palutakse loojatel selgesõnaliselt märkida, et sisu on digitaalselt loodud või manipuleeritud.
Selle läbipaistvuse suurendamiseks oli Google varem nõudnud, et YouTube'i poliitilistele reklaamidele lisatakse hoiatused kui nad kaasavad tehisintellekti loodud materjali. Nüüd laieneb see filosoofia ka kanalite orgaanilisele sisule.
Unistuste ekraan ja tehisintellekti loodud sisu vahemälu
Lisaks sildistamispoliitikale ja sarnasuse tuvastamise süsteemidele on YouTube kasutusele võtnud sellised tööriistad nagu Unistuste ekraan, mis on spetsiaalselt loodud sisu loomiseks sellistes vormingutes nagu lühivideod ja Tehisintellekti avataridSee funktsioon loob tehisintellekti abil taustu ja visuaalseid elemente, mis on loodud lühikeste videote pilkupüüdvamaks muutmiseks.
Süvavõltsingutega võitlemise seisukohast on oluline see, et platvorm loob omamoodi tehisintellekti loodud materjali „vahemälu” või salvestusNende ressursside tuvastamine lihtsustab seejärel kontrollida, kas neid teistes videotes taaskasutatakse või kombineeritakse petlikult.
Sel viisil püüab YouTube tasakaalu leida: ühelt poolt pakub see loojatele võimsaid tööriistu innovatsiooniks; jälgib nende ressursside kasutamist et takistada neil õhutamast "tehisintellekti rämpsu" lainet, mis ähvardab platvormi üle koormata.
See lähenemisviis avab ettevõttele ka ukse tulevikus täiustatud automatiseeritud modereerimispoliitika rakendamiseks. täielikult tehisintellekti loodud klipid mis ei lisa väärtust või mida kasutatakse üksnes petmiseks või valeinformatsiooni edastamiseks.
YouTube'is süvavõltsingutest teatamise ja nende eemaldamise protsess
Lisaks automaatsele tuvastamisele on YouTube käivitanud konkreetne kaebuste esitamise protsess tehisintellekti loodud videote puhul, mis jäljendavad päris inimesi. See mehhanism pole mõeldud ainult kuulsustele: seda saavad kasutada ka tavakasutajad, keda see mõjutab.
Kunstnike ja nende plaadifirmade puhul lubab uus poliitika neil taotleda teie häält või pilti matkivate süvavõltsingutest eemaldamist ilma ametliku loata. See on oluline muutus võrreldes eelmiste etappidega, kus tähelepanu keskmes oli peaaegu eranditult autoriõigus.
Ka anonüümsed kasutajad pole välistatud. Igaüks, kes tuvastab video, milles tema pilti või häält on sünteetiliselt kasutatud pettuse või ahistamise eesmärgil, saab algatada kaebuse esitamise protsessi. Platvorm vaatab juhtumi läbi ja kui see vastab selle eeskirjadele, jätkab sisu eemaldamist või rakendada muid meetmeid.
Teisest küljest saab kogukond ise mängida võtmerolli kahtlase sisu teatamisel. Kui paljud kasutajad märgistavad video potentsiaalselt kahjuliku süvavõltsinguna, on suurem tõenäosus, et see süsteemi lisatakse. kiirendatud kontrollahelad ja otsuseid tehakse kiiremini.
Kuidas vältida tehisintellekti loodud sisu eemaldamist
Ilmselgelt ei ole kogu tehisintellekti loodud sisu mõeldud teiste isikute jäljendamiseks või publiku petmiseks. Paljud loojad katsetavad nende tööriistadega viisil, mis... loominguline, paroodiline või hariduslik ilma pahatahtliku kavatsuseta. YouTube kehtestab neile ka rea juhiseid.
Kuldreegel võõrutusriski vähendamiseks on läbipaistvusKui video sisaldab realistlikke tehisintellekti loodud stseene, peaks autor selle selgelt ära märkima: kirjelduses, siltides ja võimaluse korral otse videomaterjalis endas teadete või siltide abil.
Platvorm soovitab loojal selgitada, kas videos on näha sündmused, mis pole kunagi juhtunudVõi kui keegi näib ütlevat või tegevat asju, mida ta tegelikult kunagi ei teinud. See kontekst aitab vaatajal nähtut tõlgendada ja näitab, et montaaži ei püüta esitada autentse dokumendina.
Lisaks on oluline, et neil, kes kasutavad kolmandate isikute häält või kujutist, isegi paroodia kontekstis, oleks selgesõnalised volitused kui tulemust võidakse tegeliku sisuga segi ajada või see võib põhjustada olulist mainekahju.
Kui looja neid juhiseid ignoreerib ja tehisintellekti kuritarvitab petlike süvavõltsingutega, siis ta ei puutu kokku mitte ainult video eemaldamineaga ka tõsisemate sanktsioonideni, näiteks kanalite funktsionaalsuse piiramiseni ja isegi monetiseerimise peatamiseni.
Karistused neile, kes uusi reegleid rikuvad
YouTube'i tehisintellekti ja süvavõltsinguid puudutavate reeglite rikkumise tagajärgedel kanalite puhul võivad olla üsna tõsised tagajärjed. Kui avastatakse selge rikkumine, on üks esimesi meetmeid... mõjutatud sisu otsene eemaldamineeriti kui see on eksitav materjal tundlikel teemadel või hõlmab kellegi teise isiku jäljendamist.
Kui rikkumisi korratakse, võib platvorm karmistada karistusi, näiteks rahaliste maksete peatamine mis genereeritakse partnerprogrammi kaudu. Paljude loojate jaoks tähendab see peamise sissetulekuallika kaotamist.
Äärmuslikel ja korduvatel juhtudel või kui kanal süstemaatiliselt laadib üles kahjulikke süvavõltinguid või tehisintellekti loodud rämpsisu, võib YouTube võtta meetmeid. sulgege kanal või blokeerige uute profiilide loomine seotud sama omanikuga. Mõte on saata selge sõnum, et sellised tavad ei ole teretulnud.
Nende sanktsioonidega püüab ettevõte heidutada nii neid, kes kasutavad tehisintellekti pahauskselt, kui ka neid, kes kasutavad seda vastutustundetult, arvestamata mõju, mida nende videod võivad mõjutada mõjutatud inimeste tegelikule elule.
Kokkuvõttes loob sarnasuste tuvastamise tehnoloogia, läbipaistvuspoliitika, rikkumisest teatamise vahendite ja majandussanktsioonide kombinatsioon pildi, kus Sügavvõltsinguid kuritarvitatakse üha kallimaks. platvormi piires.
Kogu see YouTube'i samm peegeldab seda, mil määral on süvavõltsingutega võitlemine digitaalse debati keskmes. Platvorm püüab jääda kohaks, kus loovus ja tehisintellekt saavad koos eksisteerida, kuid tõmbab selged piirid jäljendamise, manipuleerimise ja desinformatsiooni vastu. Nende meetmete edu ei sõltu mitte ainult algoritmidest, vaid ka loojate ja kasutajaskonna vastutusest, kes hindab autentsust sama palju kui meelelahutust.
