Riziko manipulace s osobními obrázky ze strany umělé inteligence

Rozvoj umělé inteligence (AI) nejen ohrožuje pracovní místa umělců po celém světě , ale také vystavuje uživatele internetu riziku, že jejich obrazy budou různými způsoby manipulovány.

Nástroje umělé inteligence snadno vytvářejí falešné technologické produkty. (Ilustrační foto)

„Věk deepfakeu“

Na druhou stranu, umělá inteligence v nesprávných rukou může snadno ukrást obrázky z účtů lidí na sociálních sítích a proměnit je v nežádoucí reference. Například pornografické webové stránky mohou používat obrázky lidí bez jejich souhlasu.

„Žijeme ve věku deepfaků,“ řekl Hadi Salman, výzkumník z Massachusettského technologického institutu. „Nyní může kdokoli manipulovat s obrázky a videi, aby lidi přiměl ‚udělat‘ něco, co ve skutečnosti neudělali.“

Deepfake je kombinací slov „hluboké učení“ a „falešné“, což je metoda využití umělé inteligence k vytváření falešných technologických produktů ve formě zvuku, obrázků nebo dokonce videí .

Během několika sekund a pomocí několika jednoduchých příkazů dokáže umělá inteligence vytvořit jakýkoli obrázek, který si „zločinci“ přejí. Například někdo by mohl požádat umělou inteligenci, aby vytvořila fotografii papeže v kabátu od Balenciagy a poté ji zveřejnila na internetu, než se ukáže, že fotografie je falešná.

Technologie umělé inteligence také ohromila uživatele svou schopností vytvářet umělecká díla ve stylu konkrétního umělce. Můžete například vytvořit obraz kočky, který vypadá, jako by byl namalován ve stylu slavného malíře Vincenta van Gogha.

Pro vizuální umělce tyto nástroje riskují, že je připraví o práci, protože modely umělé inteligence napodobují jejich jedinečné styly a vytvářejí umělecká díla bez jejich svolení.

Vrtule umělé inteligence

Eveline Fröhlichová, která žije ve Stuttgartu v Německu, je jednou z rostoucího počtu umělců, kteří bojují proti nadměrnému vlivu umělé inteligence a snaží se najít způsoby, jak chránit svá vizuální díla online před manipulací.

Paní Fröhlich se nedávno dozvěděla o nástroji s názvem Glaze, který vyvinuli počítačoví vědci na Chicagské univerzitě (USA), aby zabránili zneužívání modelů umělé inteligence.

Ben Zhao, profesor informatiky na Chicagské univerzitě a jeden z hlavních výzkumníků projektu Glaze, řekl CNN , že nástroj má chránit jedinečná díla umělců před trénováním modelů umělé inteligence.

Software Glaze využívá algoritmy strojového učení k provádění malých změn v digitálních obrázcích, které jsou pouhým okem neviditelné, ale vytvářejí ochrannou vrstvu pro práci v online prostředí, čímž klamou modely umělé inteligence a znemožňují jim kopírovat autorův styl.

Díky Glaze jsou umělecká díla „zakryta neviditelným pláštěm“, což brání umělé inteligenci v „čtení“ obrazu.

Například, jak vysvětluje Zhao, umělec by mohl nahrát obrázek své vlastní olejomalby, která se propustí programem Glaze. Když modely umělé inteligence obraz „přečtou“, uvidí ho jako skicu uhlem – zatímco člověk ho okamžitě rozpozná jako olejomalbu. Po spuštění programu Glaze by umělé dílo nyní pro umělou inteligenci vypadalo výrazně jinak.

Zhaoův tým vydal první verzi Glaze loni v březnu a byla stažena více než milionkrát. Teprve minulý týden tým vydal online bezplatnou verzi Glaze.

Tým doufá, že nástroj Glaze pomůže chránit autorská práva umělců, dokud nebudou stanovena specifická nařízení a zákony.

Pan Zhao uvedl, že od uvedení Glaze zaznamenal nárůst počtu dabérů, spisovatelů, hudebníků a novinářů, kteří se na jeho tým obracejí s dotazy na verzi Glaze pro jejich obor.

Kalifornský vizuální umělec Jon Lam používá nástroj Glaze k ochraně svých online uměleckých děl před trénováním modelů umělé inteligence a říká, že tuto aplikaci nyní používá pro všechna umělecká díla, která sdílí online.

„Už léta umělci jako on zveřejňují svá díla online v plném rozlišení jako věc hrdosti,“ řekl. „Chceme, aby lidé viděli, jak detailní a úžasné jsou fotografie v plném HD. Umělci však nevědí, že jejich dílo může být „sežráno“ modely umělé inteligence, které pak kopírují jejich styl a vystavují je nekalé konkurenci.“

„Nyní víme, že lidé berou naši práci ve vysokém rozlišení a vkládají ji do strojů s umělou inteligencí, aby mohli konkurovat ve stejném prostoru jako my. Musíme být proto opatrnější a začít přemýšlet o tom, jak se chránit,“ řekl.

Salman a jeho tým právě vydali další nástroj na ochranu obrázků před umělou inteligencí. Aplikace s názvem PhotoGuard umožňuje uživatelům umístit na obrázky neviditelnou vrstvu ochrany, která zabraňuje modelům umělé inteligence v manipulaci s nimi.

Cílem PhotoGuardu je chránit fotografie, které již jejich autoři nahráli online, před „zlomyslnou manipulací umělou inteligencí“, uvedl Salman.

Aplikace PhotoGuard funguje tak, že upravuje pixely obrazu způsobem, který je pro člověka nepostřehnutelný. Tato změna, která je pouhým okem nepostřehnutelná, je však dostatečně účinná a pečlivě obchází jakékoli pokusy modelů umělé inteligence o manipulaci s obrazem.

To znamená, že pokud se někdo pokusí upravit fotografii pomocí umělé inteligence poté, co byla chráněna funkcí PhotoGuard, výsledná fotografie „vůbec nebude realistická,“ vysvětlil Salman.

Bez licence

Na druhou stranu, i když nástroje umělé inteligence pořizují a manipulují s obrázky, to, co vytvoří, není uznáváno jako autorsky chráněné.

Od svého vzniku a popularity umělá inteligence současně vyvolává debatu: jsou tato díla chráněna autorským právem? Pokud ano, komu patří?

Úřad pro autorská práva Spojených států (USCO) vydal ohledně těchto děl oficiální rozhodnutí. Podle USCO nebudou žádné obrázky generované umělou inteligencí na základě příkazů – (jako jsou současné aplikace Midjourney, Dall-E a Stable Diffusion) – ve Spojených státech chráněny autorským právem.

Americké právo stanoví, že duševní vlastnictví může být chráněno autorským právem pouze tehdy, je-li produktem lidské tvořivosti. Úřad pro ochranu osobních údajů USA (USCO) v současné době uznává pouze díla vytvořená lidmi. Stroje s umělou inteligencí proto nebudou považovány za autory a produkty, které vytvoří, nebudou chráněny autorským právem.

„Pokud jsou tradiční prvky autorského práva v díle vytvořeny strojem, pak dílo není chráněno autorským právem člověka a USCO jej nezaregistruje,“ uvedla ředitelka USCO Shira Perlmutter.

Zdroj: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html