Ve vyhledávání Google se zobrazují falešné obrázky AI – a to je problém 13

Ve vyhledávání Google se zobrazují falešné obrázky AI – a to je problém

Pokud právě teď zadáte do vyhledávání Google „Israel Kamakawiwoʻole“, neuvidíte jednu ze slavných přebalů zpěvákových alb ani obrázek, na kterém hraje jednu ze svých písní na svém ikonickém ukulele. To, co uvidíte jako první, je obraz muže sedícího na pláži s úsměvem na tváři – ale nikoli fotografie samotného muže pořízená fotoaparátem. Toto je falešná fotografie generovaná AI. Ve skutečnosti, když kliknete na obrázek, dostanete se do Midjourney subredditkde byla série obrázků původně umístěna.

Viděl jsem to jako první příspěvek od Ethan Mollick na X (dříve známý jako Twitter), profesor na Whartonu, který studuje umělou inteligenci.

Při pohledu na fotografii zblízka není těžké vidět všechny stopy AI, které na ní zůstaly. Falešný efekt hloubky ostrosti je aplikován nerovnoměrně, textura na jeho košili je zkomolená a samozřejmě mu chybí prst na levé ruce. Ale nic z toho není překvapivé. Jakkoli se obrázky generované umělou inteligencí za poslední rok staly dobrými, stále je lze docela snadno rozpoznat, když se podíváte zblízka.

Skutečným problémem však je, že tyto obrázky se zobrazují jako první výsledek pro slavnou známou postavu bez jakýchkoli vodoznaků nebo náznaků, že je generována AI. Google nikdy neručil za pravost výsledků vyhledávání obrázků, ale je tu něco, co je cítit velmi znepokojující.

Nyní existuje několik možných vysvětlení, proč k tomu v tomto konkrétním případě došlo. Havajská zpěvačka, běžně známá jako Iz, zemřela v roce 1997 – a Google chce uživatelům vždy poskytovat nejnovější informace. Ale vzhledem k tomu, že se od té doby o Iz neděje mnoho nových článků nebo diskuzí, není těžké pochopit, proč to algoritmus zachytil. A i když to pro Iz není nijak zvlášť důležité – není těžké si představit některé příklady, které by byly mnohem problematičtější.

I když ve výsledcích vyhledávání k tomu nedochází ve velkém měřítku, je to ukázkový příklad toho, proč Google potřebuje mít kolem toho pravidla. Přinejmenším se zdá, že obrázky generované umělou inteligencí by měly být nějakým způsobem jasně označeny, než se věci vymknou kontrole. Když už nic jiného, ​​dejte nám alespoň způsob, jak automaticky odfiltrovat obrázky AI. Vzhledem k vlastnímu zájmu společnosti Google o obsah generovaný umělou inteligencí však existují důvody si myslet, že by mohl chtít najít způsoby, jak žalobníček Umělá inteligence vytvořila obsah do svých výsledků a neoznačila ho jasně.

Ve vztahu :  Google právě předělal jednu ze svých největších aplikací a je to špatně