如甲方發現乙方利用租賃房屋進行違法活動，損害公眾利益，甲方可解除合同，收回房屋，不退租金。
法律依據:《中華人民共和國民法典》
第七百零七條租賃期限六個月以上的，應當采用書面形式。第七百零七條當事人未以書面形式確認租賃期限超過六個月的，應當采用書面形式。當事人未以書面形式確定租賃期限的，視為不定期租賃。租賃期限固定的，應當視為不定期租賃。
第七百壹十條承租人按照約定的方法或者租賃物的性質使用租賃物，造成租賃物損失的，不承擔賠償責任。
第七百壹十五條承租人經出租人同意，可以改善或者增加租賃物。承租人未經出租人同意，對租賃物進行改善或者增加其他物的，出租人可以要求承租人恢復原狀或者賠償損失。