Wygenerowane przez AI fałszywe klipy Fortnite głupcze widzowie

Google niedawno zaprezentował Veo 3, zaawansowane narzędzie AI, które może generować niesamowicie realistyczne filmy z rozgrywki Fortnite. To narzędzie może tworzyć klipy podobne do życia i zawierać realistycznie brzmiący dźwięk z prostych podpowiedzi tekstowych, zwiększając obawy dotyczące jego potencjalnego niewłaściwego użycia.

Możliwości Veo 3 zostały zaprezentowane w ciągu kilku dni od premiery, a użytkownicy produkują przekonujące filmy z rozgrywki Fortnite wraz z fałszywym komentarzem do streamera. Te filmy są tak realistyczne, że można je łatwo pomylić z prawdziwymi treściami na platformach takich jak YouTube lub Twitch. Na przykład klip ze streamerem świętującym zwycięstwo Royale za pomocą tylko pickaxe został wygenerowany z dziewięcioma słowami podpowiedzi: „Streamer otrzymał zwycięstwo Royale z tylko jego Pickaxe”.

Chociaż Veo 3 nie zostało wyraźnie poinstruowane, aby stworzyć rozgrywkę Fortnite, wynika z gry z kontekstu podanego w podpowiedzi. Ta umiejętność sugeruje, że sztuczna inteligencja została przeszkolona w zakresie ogromnej ilości treści Fortnite dostępnych online, mimo że nie ma oficjalnej aprobaty z Epic Games, dewelopera gry.

Implikacje zdolności Veo 3 wykraczają poza problemy z prawami autorskimi do bardziej palących obaw związanych z potencjałem dezinformacji. Zdolność do generowania tak realistycznego materiału można wykorzystać do wprowadzania w błąd widzów i podważania zaufania do autentycznej treści. Użytkownicy mediów społecznościowych wyrazili szok i troskę, z niektórymi kwestionującymi etykę i legalność szkolenia sztucznej inteligencji na temat materiałów chronionych prawem autorskim bez zgody.

Oprócz gier VEO 3 zostało wykorzystane do stworzenia fałszywego raportu prasowego na temat nieistniejących targów samochodowych, wraz z sfabrykowanymi wywiadami. To dodatkowo podkreśla wszechstronność i potencjał niewłaściwego użycia narzędzia.

Microsoft wszedł również do przestrzeni wideo generowanej przez AI ze swoim programem Muse, wyszkolonym na materiałach z gry Xbox Game Edge. Szef Xbox, Phil Spencer, zasugerował, że Muse może pomóc w koncepcjach gry, a nawet przyczynić się do ochrony gier. Jednak ujawnienie Muse i jej zdolność do generowania fałszywych materiałów z rozgrywki Quake 2 wywołały debatę na temat jego wpływu na ludzką kreatywność i bezpieczeństwo pracy w branży gier.

Co ciekawe, sam Fortnite zintegrował sztuczną inteligencję, dodając niedawno funkcję umożliwiającą graczom rozmowę z generatywną wersją Darth Vader, wyrażoną przez zmarłego Jamesa Earla Jonesa. Ten dodatek, choć oficjalnie licencjonowany, spotkał się z krytyką i doprowadził do niesprawiedliwego zarzutu praktyki pracy z powodu związku z SAG-Aftra.

IGN skontaktował się z Epic Games, aby komentować wykorzystanie treści Fortnite przez Veo 3.