（李美郡撰 宋华琳改定）2018年10月19日下午，南开公法工作坊第一期在南开大学法学院331会议室成功举办。此次工作坊中，华南师范大学法学院、政府改革与法治研究院马颜昕特聘副研究员报告了新作《自动化行政的分级与质变——兼论行政活动中人工智能的法律控制》，天津师范大学政治与行政学院宋林霖教授、天津商业大学法学院陈丹副教授、中国民航大学法学院贾圣真老师及中国政法大学宪法学与行政法学博士研究生谢尧雯做了评议，南开大学法学院李飞副教授、天津外国语大学蒋润婷老师及法学院研究生和本科同学参与了讨论。
马颜昕副研究员从问题意识讲起，完整地呈现了文章的写作思路、主要观点和论证分析。首先，他回顾了由深圳市普通高校应届毕业生引进和落户工作方案中“无人干预自动审批”引发的思考，提出有必要对人工智能在行政中的应用进行类型化的分析和研究。他继而依据文章的结构，讲述了自动化行政的界定与分级以及自动化行政三次“质变”中面临的问题。
马颜昕副研究员认为，可将行政法意义上的人工智能界定为有能力完成原先是由人所执行的那些任务的机器。自动化行政，则指行政程序中特定环节或所有环节由人工智能设备代为处理，而无需人工的个别介入，从而实现部分或全部无人化的行政活动。在具体的自动化行政过程中，可以将承担相应功能的人工智能统称为自动化系统。一项特定的行政活动可区分为识别与输入、分析与决定、输出与实现三个部分，根据自动化系统在这三个部分中的介入与否及介入程度，可将行政做如下分级：零级，无自动化行政一级；自动化辅助行政，该级别中自动化系统在不同部分可以辅助人工完成一些任务，但尚不能独立承担一个部分；二级，部分自动化行政，在该级别中，自动化系统可以独立的完成特定部分的任务；三级，完全自动化行政，在该级别中，识别与输入、分析与决定、输出与实现三个部分均由自动化系统完成。其中，完全自动化行政又可细分为无裁量能力的完全自动化行政和有裁量能力的完全自动化行政。
马颜昕副研究员分析道，从无自动化行政到自动化辅助行政和部分自动化行政，面临的突出问题在于自动化后行政活动的定性和自动化系统设立行为的定性。由于行政主体是行政行为法律意义上的作出主体，作为公务员的自然人绝大多数时候只是行政行为的具体载体，因而自动化系统作为载体，进而产生自动化行政行为，并不存在理论障碍。至于自动化系统设立行为的定性，则主要有两个面向，其一，自动化系统的设立只是对后续行政活动的处理流程产生影响，属于事实行为，但特定情况下又会影响相对人的程序性甚至实体性权利义务；其二，自动化系统的设立，将会对不特定相对人的特定事项反复适用，类似于“对物行政行为”或“属物性的一般处分”，应视为一种特殊的具体行政行为。由此，对于自动化系统的设定行为，应予以特殊的调整。此外，自动化辅助行政和部分自动化行政的运用还面临执法密度的失衡、公民隐私的危机、信息依赖的担忧等问题。
完全自动化行政面对的挑战又有所不同。马颜昕博士认为主要体现在：其一，自动化行政中的裁量问题。现有实践中，自动化行政的技术水平尚处于不具有裁量能力的完全自动化行政级别。但对于裁量行政，行政机关可以自行进一步压缩裁量范围，设定更加细化的裁量基准，从而使得满足特定条件时，无裁量能力的完全自动化行政也可以适用于裁量行政。其二，对自动化行政的监督与纠正。马颜昕博士指出，对于自动化行政的事中事后监督，已经有了一定进展，如事中一旦发现与预设程序不符合的情况，即转入人工处理流程；事后审批结果公开和网上投诉、材料抽查、信用记录等。但实践中似乎忽略了事前监督，对于自动化行政程序的审核、自动化系统的论证和认证工作都还相对缺乏。其三，责任确认难题。自动化行政涉及公务员、技术主体、自动化系统等多个主体，虽然自动化行政行为的错误都将由行政主体承担责任，但责任的构成要件、救济程序及后续追偿中还存在诸多模糊地带，有待立法与理论将自动化行政的责任单独类型化。其四，自动化行政适用的情形。马颜昕博士对此做了一些排除性探讨，如需要听取当事人陈述或答辩的、需要调解和沟通的、涉及技术弱势群体的等，不宜适用自动化行政。
随后，马颜昕博士对具有自主决策的裁量能力的完全自动化行政适用中可能出现的挑战和恰当的法律控制做了预估和展望。他提出，自动化决策可能引发结果失控、算法偏见与算法黑箱，为应对这些问题，需要思考自动化决策的法律控制重构。对此，目前的探索主要有三个方面，其一，加强自动化决策中的透明度。对于透明度，虽有技术层面上没有必要且难以实现的质疑，但提高透明度不仅可以让自动化决策在一定程度上融入现有法律体系，还可以从心理上增强公众的安全感。其二，事先嵌入规则底线。但这种方式只能适用于特定的算法设计模式。其三，正当程序。
在报告的最后，马颜昕副研究员总结道，对于自动化行政的三次“质变”，目前需做的法律准备有所不同，自动化行政从无到有，应着重研究定性问题；完全自动化行政出现后，则应侧重于观察、总结实践状况，进而给与法律建构；至于有裁量能力的完全自动化行政，尽可能提供思路准备即可。
马颜昕副研究员的报告结束后，几位老师依次做了评议。宋林霖教授首先分享了关于无人审批改革和“最多跑一次”改革的调研经历，讲述了推进这些改革时实务部门的真实状态，据此指出，马颜昕副研究员这篇论文的选题展现了他敏锐的观察力。宋林霖教授接着说道，这篇论文逻辑严密、结构严谨，已属佳作，只是还有几个问题或许需要在后续研究中再做斟酌。其一，文中对人工智能的定义需要完善，“有能力”过于宽泛，“机器”不够妥当。依据文中现有定义，人工智能与电子政务很难区分。其二，调研发现，实务部门对于自动化行政的事前监督非常重视，设立自动化系统时往往会经过相当漫长和复杂的论证甚至博弈过程。其三，“识别与输入、分析与决定、输出与实现”恐怕是任何主体的决策都会具有的三个部分，将这种具有一般性的划分直接运用于行政活动，恐需一定的说明和论证。其四，自动化行政，如无人行政审批，更多地还是建立在大数据的基础上，如何区分自动化行政中大数据和人工智能承担的职能，还需进一步研究。另外，文中的很多例证只是人工智能本身的事例，而非自动化行政的事例，这使得人工智能和行政显得“两张皮”。
陈丹副教授首先指出了马颜昕副研究员的论文值得学习的地方：信息量大、延展性好且建构了一个较为周延的自动化行政研究框架。她接着分析了五个有待进一步探讨的问题。第一，自动化行政活动的定性恐不能一概而论，须结合实践，分情况讨论；第二，自动化行政行为和传统（人工）行政行为间的关系和取舍问题尚需更加细化的研究；第三，对于自动化行政可能导致的公民隐私危机，或许可以考虑引入比例原则加以分析；第四，文中对于自动化行政的理论分级，如何与实践对接；第五，人工智能本身的适用范围和边界也值得思考。
贾圣真老师则从修改建议和个人问题两个方面阐述了关于马颜昕副研究员论文的见解。对于论文修改，贾圣真老师提出了如下建议：第一，基础概念需进一步明确。抓拍和秒批是两种非常不同的情况，文中将它们都归入自动化行政项下，使自动化行政的概念显得混杂，且其与人工智能、电子政务的界分也不够清晰；第二，文中技术介绍偏多；第三，文中对自动化行政三次“质变”中法律问题的分析有所侧重和不同，但对于为何会如此，缺乏必要的论证与过渡；第四，文中抛出了很多问题和思考，但结论性的内容相对偏少。接着，贾圣真老师提出了以下三个问题：其一，审批改革中是否存在法律保留，换言之，一项行政活动能否交由自动化系统完成应如何确定。其二，对有裁量能力的完全自动化行政的法律控制中为何单独考虑了正当程序。其三，对于完全自动化行政的定性难题，或可引入从行政主体角度的思考。
谢尧雯博士指出，马颜昕副研究员这篇论文给了她大惊喜与小失望。惊喜在于，根据她访学期间的观察，对于人工智能的法律控制研究多集中在私法领域，全球范围内，关于公法领域人工智能运作的研究都相对较少，而马颜昕副研究员的这篇论文正是展现了公法学者对人工智能的关切。但这篇文章也有不完美之处，其一，关于人工智能对公领域的独特挑战列举不足。如，对有裁量能力的完全自动化行政，仅考虑提高透明度非常不够，行政法中裁量控制的相关理论恐需发展。其二，在人工智能对公私领域均会构成的威胁中，对公领域的特别之处阐述不足。如自动化行政导致的信息依赖，在公领域可能影响公共利益，影响公民对政府的信赖。其三，对部分问题的描述不够精确。如执法密度失衡问题，应运用双重交叉分析法，对不同领域加以个别分析。
几位老师的评议之后，在场师生就马颜昕副研究员的论文进行了自由讨论。李飞副教授结合商法中人工智能的法律控制研究讲述了这篇文章引发的思考。蒋润婷老师则就人工智能的创造性问题与马颜昕副研究员进行了交流。在场同学也阐述了关于自动化行政质变中物的瑕疵、人的违法，不确定法律概念、裁量等理论之发展的体悟。
最后，作为主持人的宋华琳教授就论文题目、各部分标题及具体内容的修改一一提出了极为细致的建议。就在场的学生而言，本次活动对于如何进行法学研究，如何开展法学写作，如何谋篇布局，如何遣词造句，也有很多启发。
据了解，南开公法工作坊的宗旨是推介新人，打磨新作，弘扬新知，淬炼新论，砥砺学问，畅谈公法，打造一个简单、纯粹、认真、有增量的开放学术平台。期待它能逐步成为一道公法学的学术风景线，一个公法师友交流与互动的新平台。
