De maatregelen volgen op een golf van internationale kritiek over de chatbot, die op grote schaal wordt gebruikt voor het genereren van niet-consensuele naaktbeelden en erotische deepfakes, waaronder beelden van minderjarigen.