公司开除员工，即用人单位单方解除劳动合同，需要遵循一定的法律程序。根据《中华人民共和国劳动合同法》的规定，用人单位单方解除劳动合同，应当事先将理由通知工会。用人单位违反法律、行政法规规定或者劳动合同约定的，工会有权要求用人单位纠正。用人单位应当研究工会的意见，并将处理结果书面通知工会。

此外，用人单位还应当按照法律的规定，提前告知劳动者，并出具解除劳动合同的证明。具体来说，用人单位应当在解除或者终止劳动合同时出具解除或者终止劳动合同的证明，并在十五日内为劳动者办理档案和社会保险关系转移手续。

如果公司不出具解除劳动合同的证明，劳动者可能无法顺利领取失业保险金。因为根据《中华人民共和国社会保险法》的规定，失业人员应当持本单位为其出具的终止或者解除劳动关系的证明，及时到指定的公共就业服务机构办理失业登记。失业人员凭失业登记证明和个人身份证明，到社会保险经办机构办理领取失业保险金的手续。

因此，如果公司不出具相关证明，劳动者可以向劳动行政部门投诉，要求公司改正。如果因此给劳动者造成损害的，公司还应当承担赔偿责任。同时，劳动者也可以寻求法律援助，通过法律途径维护自己的合法权益。

法律依据

《中华人民共和国劳动合同法（2012修订）》第三十九条 【用人单位单方解除劳动合同(过失性辞退)】劳动者有下列情形之一的，用人单位可以解除劳动合同：
(一)在试用期间被证明不符合录用条件的;
(二)严重违反用人单位的规章制度的;
(三)严重失职，营私舞弊，给用人单位造成重大损害的;
(四)劳动者同时与其他用人单位建立劳动关系，对完成本单位的工作任务造成严重影响，或者经用人单位提出，拒不改正的;
(五)因本法第二十六条第一款第一项规定的情形致使劳动合同无效的;
(六)被依法追究刑事责任的。

《中华人民共和国劳动合同法（2012修订）》第四十条 【无过失性辞退】有下列情形之一的，用人单位提前三十日以书面形式通知劳动者本人或者额外支付劳动者一个月工资后，可以解除劳动合同：
(一)劳动者患病或者非因工负伤，在规定的医疗期满后不能从事原工作，也不能从事由用人单位另行安排的工作的;
(二)劳动者不能胜任工作，经过培训或者调整工作岗位，仍不能胜任工作的;
(三)劳动合同订立时所依据的客观情况发生重大变化，致使劳动合同无法履行，经用人单位与劳动者协商，未能就变更劳动合同内容达成协议的。