行政拘留处罚被撤销或者开始执行时，公安机关应当将暂缓执行行政拘留保证金退还交纳人。