行政自由裁量权的产生与具体的传统文化有很大的关系。在西方国家行政法制发展之初，把政府定位在“国家守夜人”的层面，认为“管得最少的政府是最好的政府”，因此人们对政府的目标只限于规范羁束的行政行为，行政法的任务也停留在以制定法衡量政府行为的合法性。随着社会的发展，政府行政职能日渐强化，政府的行政自由裁量权也日渐膨胀，人民日益感受到它的威胁，为了保护公民的权利，人类认识到必须对自由裁量权加以限制，从而产生了自由裁量权的限制理论。自由裁量权的产生有诸多复杂的原因，但笔者以为最主要的则是由于社会的发展，社会关系的不断复杂化，法律规范在客观上不能全面、准确、具体地加以规范之，必须赋予行政机关自由裁量权。这不仅仅是提高行政效率的需要，也是实现个案公平的需要。

如果在社会关系非常复杂的情况下，使用同一标准，一个模式去处理不相同的事务，必然要发生不公平的结果，因此，从这个意义上讲，广泛的自由裁量权并非与法不相容。法治所要求的并不是清除广泛的自由裁量权，而是法律应当能够控制它。法律容许自由裁量权的适度扩大，事实上是被广泛作为解决现代法律与行政关系的权宜之计。现代社会管理中许多事情必须留给行政人员去酌情处理。

自由裁量权是所有与职责相对的权力中的一个要素，因而美国行政学者伯纳德·施瓦茨认为：“自由裁量权是行政权的核心。行政法如果不是控制自由裁量权的法，那它是什么呢?”那么何谓行政自由裁量权?各学者的解释不尽一致。但如果对这些定义加以概括总结的话，无外乎分为广义和狭义的两种：广义的行政自由裁量权是指行政机关作出行政行为时具有选择余地，如有学者认为，“凡法律没有详细规定，行政机关在处理具体事件时，可以依照自己的判断采取适当的方法的，是自由裁量的行政措施。”

狭义的观点，则认为行政机关只有在法律规范的处分部分存在裁量余地。因而不论是广义的理解，还是狭义的定义，自由裁量实质是一种明辨真与假、对与错的艺术和判断力，其中的道德和政策成分要大大高于法律。也就是说自由裁量权是一个在实际生活中形成的词，是斟酌决定的自由，处理的权力(权限)。行政自由裁量权则是指行政机关在特定的情况下依照职权，选择做出与否、以何种适当、公正的方式做出行政决定的权力，因而表现为对行政权一定程度的处分，这一点与行政诉讼和解的性质可以说是不谋而和的，也就为和解提供了理论基础。