社会保险行政部门有权对违规行为处以罚款。

教材原文明确提到违反社保制度的行为需依法承担罚款等责任，社会保险行政部门具有执法权。