Přehledy AI Google byly oznámeny před několika týdny na Google I/O a již se ukázaly být spíše kontroverzními. Cílem poskytnout vysoce kvalitní odpovědi na vaše dotazy shrnuté z webu, ale řadu posledních X (dříve Twitter) vláken ukázat, jak velké selhání se již ukázalo.
Odezva, která se stala virální, zahrnuje velmi pochybný recept na pizzu. Jak bylo oznámeno, když jste požádali Google o odpověď na problém „sýr se nelepí na pizzu“, přehled AI navrhuje přidat na pizzu netoxické lepidlo, aby se zabránilo sklouznutí sýra. Přesná slova, která přehled AI uvedl, jsou následující: „Do omáčky můžete také přidat asi 1/8 šálku netoxického lepidla, aby byla lepkavější.“ Kde se stalo Přehled Google AI získat informace jako zdroj? 11letý komentář na Redditu z tohoto vláknacož byl zjevně vtip.
– SG-r01 (@heavenrend) 22. května 2024
Slova „sýr se nelepí na pizzu“ vyvolala tuto nečekanou a legrační reakci a internet s ní zažívá den. Odpověď Google AI Overview se od té doby stala virální, s někdo dokonce zkouší slepit pizzu jen abych uvedl pointu.
Je třeba poznamenat, že jsme zaznamenali masivní nárůst na Redditu a příspěvky na fórech, které se zobrazují výše ve vyhledávání Google. Za zmínku také stojí, že Reddit nedávno podepsal smlouvu ve výši 60 milionů dolarů, aby nechal Google školit své modely na obsahu Reddit. Není těžké si pospojovat, jak se to mohlo stát.
Nejde však jen o Reddit. Další Přehled AI byl zveřejněn online s odpovědí na otázku „kolik kamenů bych měl sníst každý den“, která čerpá informace přímo z The Onion.
její pic.twitter.com/FGbvO923gk
– Tim Onion (@oneunderscore__) 23. května 2024
Součástí problému je absolutní přesvědčení, ve kterém AI Overviews poskytuje své odpovědi. Nezobrazuje odkaz na článek o cibuli a nechá vás posoudit. Místo toho zachází s každým zdrojem jako s Wikipedií a poskytuje informace v naprosté důvěře.
Google tvrdí, že jeho přehledy AI poskytují uživatelům vysoce kvalitní informace a že takové chyby nejsou časté. Zde je oficiální odpověď společnosti Google Moyens I/O: „Naprostá většina přehledů AI poskytuje vysoce kvalitní informace s odkazy, které vám umožní prozkoumat web hlouběji. Mnoho příkladů, které jsme viděli, byly neobvyklé dotazy a také jsme viděli příklady, které byly zfalšovány nebo které jsme nemohli reprodukovat. Před spuštěním tohoto nového prostředí jsme provedli rozsáhlé testování a stejně jako u dalších funkcí, které jsme spustili ve Vyhledávání, oceňujeme zpětnou vazbu. V případě potřeby přijímáme rychlá opatření v rámci našich obsahových zásad a na těchto příkladech vyvíjíme širší vylepšení našich systémů, z nichž některá se již začala zavádět.“
Zdá se, že některé z těchto přehledů AI bude těžké opravit, pokud je nebude možné reprodukovat. Řešením budou muset být „širší vylepšení“, a protože Google říká, že se na nich již pracuje, doufejme, že brzy začneme vidět lepší vyhledávání. Uvidíme, zda Google na situaci zareaguje dále než toto prohlášení. Po obdržení negativní zpětné vazby ohledně generování obrazu v Gemini začátkem tohoto roku, Google se musel omluvit a stáhnout to dolů opravit jeho problémy.
Prozatím jsou to však dobré připomínky toho, jak opatrní musíme být, když důvěřujeme AI motorům ohledně informací. Přehled AI Google byl spuštěn počátkem tohoto měsíce bude k dispozici všem v USAa brzy přibudou další země. Ale s odpověďmi, jako je tato, může být více lidí, kteří sáhli po způsobu, jak to vypnout, než Google očekával.
Podpořte naši práci ❤️
Pokud se vám tento článek líbil, zvažte zaslání spropitného, abychom mohli i nadále vydávat kvalitní obsah.
