法律分析：女职工未婚先孕单位是不能开除的，根据法律规定，任何的用人单位都不能因为公司的女职工结婚、怀孕、哺乳期减少女职工应得的工资、辞退女职工或者是单方面解除劳动合同。法律规定中提到的怀孕并没有说是结婚后怀孕还是"未婚先孕"，可以说，未婚先孕的女职工也是在法律特殊保护范围内的。女职工在与公司签订合同时，公司可能会制定一些规章制度，而在规章制度中，公司可能会规定女职工如果未婚先孕，公司可以无理由辞退，不需要支付补偿金。这种规章制度显然是违反法律规定的，如果公司以此为由辞退女职工，公司的行为也是违法的，因为违反法律的规章制度不能作为合法行为的依据，本身就没有法律效力。
法律依据：《事业单位工作人员处分暂行规定》 第二十一条 有下列行为之一的，给予警告或者记过处分；情节较重的，给予降低岗位等级或者撤职处分；情节严重的，给予开除处分：
（一）制造、传播违法违禁物品及信息的；
（二）组织、参与卖淫、嫖娼等色情活动的；
（三）吸食毒品或者组织、参与赌博活动的；
（四）违反规定超计划生育的；
（五）包养情人的；
（六）有虐待、遗弃家庭成员，或者拒不承担赡养、抚养、扶养义务等的；
（七）其他严重违反公共秩序、社会公德的行为。