1、內涵不同：行政單位是國家機關，而機關單位是實施政府某項公益服務的部門，是社會服務組織。
2、擔負的職責不同：行政單位是負責對國家各項行政事務進行組織、管理和指揮；而機關單位是爲了社會的公益目的從事教育、文化、衛生、科技等活動。
機關單位：
機關單位指國家機關，指從事國家管理和行使國家權力的機關。包括國家元首、權力機關、行政機關、審判機關、公安機關、檢察機關和軍事機關。所謂國家機關，是指國家爲行使其職能而設立的各種機構是專司國家權力和國家管理職能的組織。包括中央和地方各級組織。從國家學說上講，國家機關，即國家政權機關，它包括各級權力機關、行政機關、審判機關、檢察機關和軍隊中的各級機關。在我國，中國共產黨是執政黨，憲法明文確定了共產黨在國家事務中居於領導一切的地位。因此，從廣義上講，中國共產黨的各級機關應納入國家機關的範圍。
