根據《中華人民共和國發票管理辦法》，單位和個人銷售商品、提供服務以及從事其他經營活動對外收取款項，收款方應當向付款方開具發票。
因此，物業公司應當向業主開具裝修押金發票，並按照規定向業主提供發票。如果物業公司不提供發票，可以向地稅部門投訴，尋求幫助和解決。