根据我国相关法律规定，以下单位在任用会计人员时应实行回避制度：
1. 国家机关
2. 国有企业
3. 事业单位
此外，根据《公务员法》第69条的规定，公务员在担任乡级机关、县级机关及其有关部门的主要领导职务时，也应实行地域回避，除非法律有其他规定。
回避制度的目的在于确保会计工作的公正性，防止因亲属关系可能导致的利益冲突或不正当行为。需要回避的亲属关系主要包括：
夫妻关系
直系血亲关系（如父母、子女）
三代以内旁系血亲（如兄弟姐妹）
配偶的直系亲属
这一制度有助于维护一个公平、透明的会计工作环境