公司以员工未婚先孕为由解除其劳动合同的做法不符合法律规定。我国目前没有法律、法规规定女职工不得未婚先孕，而法律法规明确规定用人单位不得以怀孕为由解除女职工的劳动合同。
《妇女权益保障法》规定：任何单位不得因结婚、怀孕、产假、哺乳等情形，降低女职工的工资，辞退女职工，单方面解除劳动（聘用）合同或者服务协议。
《劳动合同法》规定：女职工在孕期、产期、哺乳期的，用人单位不得解除劳动合同。