Le Fonds des Nations Unies pour l'enfance (UNICEF) a exprimé une préoccupation croissante concernant l'usage accru des technologies d'intelligence artificielle pour générer de fausses images sexuelles d'enfants, notant qu'environ 1,2 million d'enfants ont été exposés à ce type d'abus au cours de l'année écoulée.
L'organisation a souligné que les techniques de deepfake ne représentent pas seulement un abus numérique, mais constituent une agression réelle contre les enfants, entraînant des effets psychologiques et sociaux durables, même en l'absence d'agression physique directe.
UNICEF a appelé à une action immédiate sur les plans juridique et technique, incluant le renforcement des lois, la responsabilité des parties concernées, le développement d'outils pour détecter et supprimer ce type de contenu, ainsi qu'une coopération internationale accrue pour protéger les enfants contre ces abus numériques croissants.