Google zveřejnil svůj detektor umělé inteligence, SynthID, pro veřejnost v naději, že vyřeší rostoucí problém syntetických médií. Tento nástroj identifikuje obrázky generované modely AI společnosti Google pomocí neviditelných vodoznaků, ale jeho užitečnost je značně omezena jeho neschopností detekovat obsah generovaný jinými platformami AI.
Rostoucí vlna obsahu generovaného umělou inteligencí
Šíření nástrojů umělé inteligence pro vytváření obrázků a videí vedlo k prudkému nárůstu počtu deepfake a syntetických médií online. Nástroje jako Sora od OpenAI a Nano Banana Pro od Googlu usnadňují každému vytvářet realistický falešný obsah, takže je stále obtížnější rozlišovat mezi pravými a umělými materiály. Tento nárůst představuje vážnou výzvu pro online důvěru a integritu informací.
SynthID: Částečné řešení
Google představil SynthID v roce 2023 a zavedl neviditelné vodoznaky do veškerého obsahu generovaného umělou inteligencí ze svých platforem. Veřejná verze SynthID Detector umožňuje uživatelům nahrávat obrázky do Gemini a kontrolovat, zda byly vytvořeny pomocí AI společnosti Google. Nástroj však pouze rozpoznává obrázky získané z modelů Google, takže obsah z jiných zdrojů zůstává nezjištěný.
Nástroj je v podstatě uzavřený systém. Uznává atribuci společnosti Google AI, ale neposkytuje žádné informace o tom, zda byl obrázek vygenerován jiným programem.
Toto omezení je kritické: s desítkami modelů AI nemůže SynthID poskytnout komplexní hodnocení syntetického obsahu. Google plánuje rozšíření detektoru na video a audio, ale zásadní omezení zůstává.
Proč je to důležité?
Neschopnost spolehlivě detekovat obsah generovaný AI má dalekosáhlé důsledky. Dezinformační kampaně, zákeřné deepfakes a narušení důvěry v digitální média jsou umocněny nedostatkem účinných detekčních nástrojů. Zatímco SynthID je krok správným směrem, jeho úzký záběr zdůrazňuje širší výzvu autentizace ve stále syntetickém světě.
Pro snížení rizik by uživatelé měli označovat obsah generovaný umělou inteligencí zodpovědně a přistupovat k online médiím skepticky. Generativní modely umělé inteligence se zlepšují rychlým tempem, překonávají současné detekční schopnosti, a proto je ostražitost nezbytná.
