Pokud jde o pornografii, sexualitu nebo nahotu, je Google nekompromisní, co se týče jak využívání jeho služeb, tak i inzerce. Jde mnohdy tak daleko, že například ve svém obchodě s aplikacemi zakazuje nabízení aplikací, které by zprostředkovávaly sexuální akt výměnou za kompenzaci.
Zatímco o některých pravidlech se dá diskutovat, jestli nejsou příliš prudérní, o této novince v pravidlech pro uživatele to neplatí. Google v ní zakazuje inzerentům propagovat sexuálně explicitní obsah, který definuje jako text, obraz, zvuk nebo video s grafickými sexuálními akty, které mají vzbudit vzrušení. Nové zásady nyní zakazují také reklamu na služby, které pomáhají uživatelům vytvářet tento typ obsahu, ať už úpravou obrazu osoby nebo generováním nového.
Jinými slovy, Google aktivně brání tomu, aby se skrze jím nabízené reklamy dostaly k lidem nástroje k vytváření tzv. „deepfake porna“. Pokročilé nástroje umělé inteligence totiž zvládnou z několika běžných fotografií bez větších znalostí či úsilí generovat snímky s erotickým nebo pornografickým kontextem, které jsou pro běžného uživatele nerozeznatelné od skutečných.
Zneužívání těchto schopností představuje stále rostoucí problém. Loni v prosinci byli zatčeni dva floridští středoškoláci, kteří údajně vytvářeli nahé fotografie svých spolužáků generované umělou inteligencí. Tento týden byl 57letý muž z Pittsburghu odsouzen k více než 14 letům vězení za držení deepfake materiálů se sexuálním zneužíváním dětí. V loňském roce vydala FBI doporučení ohledně nárůstu vyděračských schémat, která zahrnovala vydírání lidí pomocí aktů generovaných umělou inteligencí. Zatímco mnoho modelů umělé inteligence uživatelům ztěžuje nebo znemožňuje vytváření aktů generovaných umělou inteligencí, některé služby uživatelům umožňují generovat sexuální obsah.
