离婚诉讼应当在被告住所地人民法院管辖。如果被告长期在上海居住，并且有暂住证，那么可以向上海市的人民法院提起离婚诉讼。如果您和您的配偶都在安徽省内生活，建议您先与您的配偶协商，看是否愿意在上海进行离婚程序，以节省时间和精力。同时，您也可以考虑委托一位经验丰富的律师帮助处理相关事宜。