芬兰埃斯波市通过教育和可解释性引领公民AI

 
尽管公民领袖认为AI可以帮助重塑政府服务，但他们也意识到公民对隐私的深切关注。
为了应对这一挑战，芬兰的埃斯波市正在进行实验，该实验结合了咨询，透明度和有限的用例，以证明公民AI的潜力。埃斯波已经进行了AI试验，该试验最初需要克服技术障碍，但最终会改善城市服务。从长远来看，该市正在制定一个模型，通过确保公民能够理解这些系统的工作方式并参与有关其实施的辩论，将道德置于其AI计划的中心。
尽管该计划仍处于初期阶段，但该市希望开辟一条其他政府可以遵循的道路。
Espoo数据分析师顾问Tomas Lehtinen表示：“我认为芬兰人比欧洲任何国家对政府和公共部门的信任程度都超过[公民]。” “我们希望在将来保持这种信任。因此，我们希望对该公民透明化该项目，而且还因为我们的许多员工也不了解AI。”
Espoo AI实验
埃斯波(Espoo)是芬兰第二大城市，人口约28.4万，位于该国最南端的赫尔辛基以西13英里处。
在芬兰以外，这座城市可能是诺基亚总部所在地的故乡。但它也拥有其他高科技公司的强大集群，其办事处来自微软等巨头以及IQM Quantum Computers等初创公司。这些公司部分地是因为有机会与Espoo的主要工程大学VTT和Aalto的大量技术研究人才合作。
在公民AI方面，技术含量高的专业人才只是Espoo的固有优势之一。另一个是其数据的所有权，这归功于芬兰许多政府服务的结构方式，而城市则提供了住房，教育和社会服务等福利。 Espoo无需与国家机构进行协商，而是保持了对本地数据的控制，该数据可以追溯到2002年，当时所有政府运营都已数字化。
Lehtinen仍然说，从技术和社会的角度来看，探索AI的使用都提出了巨大的挑战。为了解决其中一些问题，该市与IT服务公司Tieto合作，后者开发了一个名为Intelligent Wellbeing的平台，该平台使用AI分析医疗数据。
Tieto帮助Espoo合并了Espoo所有居民的社会和健康数据以及幼儿教育计划的数据。这听起来像是一项简单的任务，但各地的政府通常会使用各种字段和方法来识别接收服务的人员，将这些信息保存在单独的筒仓中，通常采用不同的格式。 Tieto的健康平台在Microsoft Azure上运行，因此该公司使用Azure Data Lake，该组织重新构造了来自不同来源的数据，以创建每个居民的单一视图。
这项工作包括来自520,000人的数据，这些人与Espoo政府服务部门进行了3,700万联系。在此过程中，信息被匿名化和加密。因此，尽管该系统可以匹配居民的所有数据，但没有人查看该数据将能够发现该人的身份。莱蒂宁说，向居民保证该系统将使此类信息匿名，同时防止任何潜在的恶作剧，是建立信任的关键一步。
合并数据集后，Tieto的算法将分析这些信息并定义280个风险因素，这些风险因素可能会在确定家庭是否可能需要某种儿童福利服务方面发挥作用。然后，该算法在整个数据中寻找模式，并将所有个人归为20个细分受众群，这些细分受众群的风险因素似乎有助于他们使用服务。
例如，在下面的图表中，第3部分包括与酗酒有关的危险因素，而第0部分则倾向于感冒或流感。
分析显示，所有城市服务的用户中约80%属于第0级，他们使用了所有城市资源的约20%。相比之下，第3部分的居民比例很小，但是他们使用了70%的城市服务。这些人可能是喝酒的人，这是酒精中毒持续存在的问题之一，结果他们受伤需要住院治疗。由于社会服务和医疗保健具有两个不同的数据集，因此，成瘾与事故之间的联系可能不那么明显。
从理论上讲，该市可以通过增加酒精治疗服务来节省医院治疗费用。展望未来，这些细分可以用于博弈论模型中，以预测不同计划资源的各种增加或减少如何影响不同城市机构的居民以及成本。
他说：“现在，我们以更复杂的方式了解哪种不同的群体正在使用我们的服务。” “通过这种细分分析，我们可以看到个人在使用我们的服务时是一个整体。”
为了进一步测试AI的数据分析能力，该市进行了一项涉及移民的有限实验。像欧洲大部分地区一样，埃斯波和芬兰正经历着巨大的移民浪潮，其中常常包括因人道主义危机而逃离家园的难民。埃斯波(Espoo)预计，到2030年，其移民人口将增加30%。
大量的移民孩子最终来到了寄养院，城市领导人想知道为什么。与前面的示例一样，他们创建了与使用城市服务的移民有关的数据的单一视图，在这种情况下，他们创建了三个部分：重度服务(例如寄养)，中度服务和轻度服务(例如语言)培训和求职帮助)。
人工智能的分析清楚地表明，获得此类轻型服务的移民往往不会向更高强度和更昂贵的服务靠拢。但是那些不使用较轻服务的人通常会迅速升格为中层，然后是最高层。因此，该市在这一年中大力推动了扩大语言培训和求职等计划的范围，导致使用这些较轻服务的移民人数迅速增加。
在这一年中，寄养儿童中寄养儿童的比例从45%下降到24%。
Lehtinen说：“结果并未通过大量增加资源来实现，而是更好地了解了客户服务流程。” “如果没有这种AI，这是我们无法做到的。”
人工智能伦理
埃斯波(Espoo)考虑采取下一步行动时，必须首先与芬兰和欧洲官员进行协商，以决定如何导航通用数据保护条例(GDPR)，该条例在该市的初步试验后生效。尽管城市领导人相信他们可以找到一种在GDPR下继续进行AI努力的方法，但Lehtinen表示，他们希望谨慎行事，以确保该程序不会违反欧盟规定。
同时，该市为追求未来的AI项目奠定了更广泛的基础。其中包括由芬兰导演艾里斯·赫尔玛(IirisHärma)组织50多部本地放映的纪录片《谁让你》。这部电影探讨了AI，机器人技术和自动化，导演参加了几次放映，回答了与会者的问题。
Lehtinen表示，该市希望激发居民对AI的了解，以便他们更好地准备参与有关算法策略的未来讨论。为此，埃斯波一直鼓励当地人注册由赫尔辛基大学开发的免费在线课程，内容涉及人工智能和机器人技术，即“人工智能的要素”。
但是更加雄心勃勃的伙伴关系是“通过AI透明度实现公民信任”。该项目将Espoo与赫尔辛基市，Kela(芬兰社会保险机构)，芬兰司法部，芬兰创新基金Sitra以及一家Espoon初创公司Saidot结合在一起。
该项目旨在确定任何公共部门AI系统的要素，公民应有权了解，然后建立指导方针和模板，以允许政府以易于访问和理解的格式公开此类信息。赛义德(Saidot)在很大程度上领导了该项目，赛义德(Saidot)成立于2018年，旨在开发工具来帮助公共机构使其AI的工作可以解释。
Saidot首席执行官兼联合创始人Meeri Haataja说：“透明度和问责制实际上是整个讨论中的基本问题。” “没有透明度和可解释性，我们无法了解是否存在任何道德或原则。”
第一步是为AI算法创建技术标识符列表。这里的想法是将算法的组成部分分解为普通人可以解释的部分。其中包括九个大类，涵盖了以下分类：数据的来源和类型，使用数据的方式和原因，哪些机构正在使用数据以及负责管理算法的人员的联系人。
埃斯波AI
在后台，Saidot的平台可帮助政府管理和跟踪不同的技术要素。 Haataja说，这些最终将包括有关在提供服务，软件或硬件方面发挥某些作用的任何第三方的信息。
她说：“我们的客户基本上可以在我们的平台上注册，然后创建他们在城市中拥有的算法的清单。”
作为该项目的一部分，该小组还为该市的网站开发了模板，这些模板现已获得知识共享许可。通过不仅标准化信息共享城市的算法类型，而且标准化信息公开城市的方法，该组织希望市民能够更轻松地学习如何导航此类信息服务，而不必适应每个政府的设计或词汇的怪癖。
为了建立对公民AI的另一层信任，Haataja领导着一个委员会，该委员会由IEEE全球技术组织创建，名为“自治和智能系统道德认证计划(ECPAIS)”。埃斯波(Espoo)是该计划的合作伙伴，该计划正在开发使第三方能够开发AI审核和认证流程的标准。
想法是，城市将接受批准的组织的定期审核，然后将这些审核纳入其AI门户。 Haataja说，拥有使用一致的UI和术语的通用Web模板应有助于促进这些审核。
Espoo希望在今年晚些时候上线其AI门户，作为更广泛的网站重新设计的一部分。同时，赛义德还一直在与赫尔辛基和阿姆斯特丹的城市合作，预计这些城市将在今年春季晚些时候与他们的AI网站一起上线。展望未来，萨伊多特(Saidot)正在努力促进该项目，以便其他政府签署。
Haataja表示，越是政府采用这种标准方法来提高透明度和可解释性，就会有更多的公民理解并信任AI。鉴于数字化在公共生活中的作用日益重要，这种可见性在让公民继续积极参与公民发展中起着至关重要的作用。
她说：“作为我们自己的国家和城市的个人和公民，我们每个人都必须开始提出有关人工智能的相同问题，并要求获得相同的信息。” “这是我们作为公民的权利。 [保证]我们作为公民正在监督我们的地方政府如何运作。这是民主的重要组成部分。”