《国家赔偿法》第二条规定，“国家机关和国家机关工作人员行使职权，有本法规定的侵犯公民、法人和其他组织合法权益的情形，造成损害的，受害人有依照本法取得国家赔偿的权利。本法规定的赔偿义务机关，应当依照本法及时履行赔偿义务。”第四条规定，“行政机关及其工作人员在行使行政职权时有下列侵犯财产权情形之一的，受害人有取得赔偿的权利：（三）违法征收、征用财产的……”

因此，当政府违法征收时，应当由违法征收的政府部门进行赔偿。

这里还要注意两个问题，一是如何确认政府违法征收？二是确认政府违法征收后，政府不给予赔偿或者赔偿请求人对赔偿的方式、项目、数额有异议怎么办？

针对第一个问题，当发现政府违法征收后，要及时提起行政复议或者行政诉讼程序以确认政府征收行为的违法性。（提起行政复议的期限是发现违法行为之日起60日内提出，对复议决定不服，可自收到行政复议决定之日起15日内提起行政诉；直接提起行政诉讼的期限是发现违法行为之日起6个月内提出。）

针对第二个问题，《国家赔偿法》第十三、十四条规定，赔偿义务机关应当自收到赔偿请求人的申请之日起两个月内，作出是否赔偿的决定。

如果赔偿义务机关在规定期限内未作出是否赔偿的决定，赔偿请求人可以自期限届满之日起三个月内，向人民法院提起诉讼。

如果赔偿请求人对赔偿的方式、项目、数额有异议的，或者赔偿义务机关作出不予赔偿决定的，赔偿请求人可以自赔偿义务机关作出赔偿或者不予赔偿决定之日起三个月内，向人民法院提起诉讼。

因此，要通过行政复议或者行政诉讼的方式确认政府征收行为违法，若政府不赔偿或者对赔偿有异议，则要提起行政诉讼进行维权。