O API Content Safety foi desenvolvido pela Google, sendo distribuído para outras empresas de tecnologia. O programa permite identificar imagens de violência sexual infantil que nunca foram identificadas antes, priorizando, para os moderados, a análise desses materiais.

Essas ferramentas ajudam na classificação de conteúdos, processando grandes volumes de material e identificando os que necessitam de prioridade na análise, que é então repassada a um moderador humano para decidir qual ação tomar. Esse aplicativo é utilizado atualmente pelas plataformas vinculadas ao Google, o Facebook, o Snapchat e a Safernet.