经历了一场激烈争论的。
以丞相王绾为首的群臣，主张沿用周代以来的封国建藩制度，分封诸皇子为王。他们的理由是有利于统治新征服的六国地区。
而廷尉李斯则力排众议，主张废除分封诸侯制度，全面推行郡县制度。
在秦始皇统一天下之前，县大于郡，千里百县，县有四郡。
秦始皇统一天下后，曾出现过应否置郡的争论。当时不少大臣，特别是李斯的上司王绾，认为原楚国、燕国、齐国等地的领土都远离秦国，主张实行分封，授各地贵族予世袭的诸侯名份，惟身为廷尉的李斯认为分封制是周朝诸侯混战的根源，他大胆地反驳道，周制订的这个政策已经证明是一个政治灾难。
周王室的亲戚一旦取得了他们的土地，立刻互相疏远和进行战争，而天子则无力阻止他们，所以结论是“置诸侯不便”。他力排众议建议实行郡县制，并得到秦始皇的采纳。
很显然，李斯的主张符合专制皇权和统一的要求。因而得到了秦始皇的采纳，将全国分为三十六郡。
在郡县制下，共设三十六郡，每郡有守（相当于省长）、尉（相当于防区司令）和监（相当于监察专员）各一。
郡下辖县；郡（守）与县（令），由皇帝直接任命。秦代至此成为为中国历史上最早在全境推行“郡县制”的朝代。
至汉代仍承袭这个制度，形成州郡县三级行政管理，自此成为日后各朝地方政制的基础，直到唐朝，才被道路制所取代。
秦制满万户以上的县设县令，不满万户的县设县长，是为一县之首。
县令下设丞、尉。县尉负责一县的军事和治安。由于秦王朝政权具有军事专制的特点，所以县尉的任务特别繁重，举凡一切军事、治安、征发徭役、管理士卒等事，均要由县尉主持完成，稍有差错就要受到严厉制裁。
由于县尉任务繁重，所以每一个县的县尉不止一人，可能有二至四个县尉。
商鞅变法时，废分封，行县制。秦统一后，秦始皇采纳李斯的建议，决定在全国范围废除分封制，以郡县制作为中央控制地方的制度。
因而，郡，是中央政府辖下的地方行政单位，其组织机构与中央政府略同，设郡守、郡尉、郡