从本质上讲，《人工智能法案》是将人工智能系统分为特定的风险等级，从最小风险到那些应该被完全禁止的、具有高风险的系统。而当涉及到人工智能系统为人们做出有影响的决定时，尤其应采用极高标准，特别是对特定人工智能为其决策而训练的数据的透明度，以及算法如何最终做出决定。通过这种方式，欧盟的政治家们希望确保这些人工智能应用安全、可靠地运作，并且不会侵犯基本人权。
不过，在最后一套规则出台之前，由于没有达成共识，欧盟各机构内部将不可避免地出现大量讨论。例如，意大利最近采取了更强硬的立场，禁止开放人工智能的生成性人工智能工具 ChatGPT，原因是缺乏使用的年龄控制和训练数据可能侵犯版权。但与此同时，意大利当局允许在某些条件下再次使用 ChatGPT。
其他欧盟国家也跟随意大利数据保护当局的倡议。德国提出，如果能证明 ChatGPT 违反了适用的数据保护规则，就应该禁止该工具。
过多的监管阻碍了创新
虽然消费者倡导者呼吁制定严格的规则来保护公民权利，但商业代表警告说，对技术的过度严格监管可能导致更多的创新放缓。根据对《人工智能法案》不那么严格的倡导者的说法，欧盟可能会在一个重要的面向未来的行业中落后。
大规模人工智能开放网络（LAION eV）的代表在一封公开信中，呼吁欧盟政治家适度进行人工智能监管。他们表示，引入人工智能监管的意图是受欢迎的，但这种监督必须仔细校准，以保护研究和开发，并保持欧洲在人工智能领域的竞争力。签署者包括 Tübingen 的 Max Planck Institute for Intelligent Systems 所长 Bernhard Schölkopf，以及德国人工智能研究中心（DFKI）负责人 Antonio Krüger。
LAION要求，特别是开源的人工智能模型不应该被过度监管。在人工智能的使用方面，开源系统具备更高的透明度和安全性。此外，开源人工智能将防止少数公司控制和支配该技术。这样一来，适度的监管也可以帮助推进欧洲的数字主权。
监管太少会削弱消费者权益
另一方面，德国消费者组织联合会（VZBV）呼吁为消费者提供更多权利。根据消费者倡导者的声明，消费者的决定在未来将越来越多地受到基于人工智能的推荐系统的影响，为了减少生成性人工智能的风险，计划中的《欧洲人工智能法案》应确保强大的消费者权利和独立风险评估的可能性。
VZBV 的董事会成员 Ramona Pop 说：“人工智能系统导致虚假或操纵性购买建议、评级和消费者信息的风险很高。人工智能并不总是像它的名字那样智能。必须确保消费者得到充分的保护，免受操纵和欺骗，例如，通过人工智能控制的推荐系统。必须让独立的科学家进入这些系统，以评估风险和功能。我们还需要受影响者对人工智能运营商的可执行的个人权利。” VZBV 还补充说，如果 ChatGPT 等系统因声誉受损而造成不利，必须给予人们纠正和删除的权利，而且《人工智能法案》必须确保人工智能应用符合欧洲法律，并与欧洲价值观相符。
制造商的自我评估是不够的
尽管技术检测协会（TÜV）基本上欢迎欧盟议会中的团体就《人工智能法案》的共同立场达成一致，但它认为有进一步改进的潜力。TÜV 的 MD Joachim Bühler 说：“"需要一个明确的法律基础，以保护人们免受技术的负面影响，同时，促进人工智能在企业中的应用。”
Bühler 表示，必须确保规范也得到遵守，特别是在算法的透明度方面。然而，独立审查只是针对一小部分具有高风险意图的AI系统。Bühler指出：“大多数关键的人工智能应用，如面部识别、招聘软件或信用检查，应继续允许在市场上推出纯制造商的自我声明。此外，作为高风险应用的分类应部分基于供应商的自我评估。误判是不可避免的。”
根据 TÜV 的说法，最好在推出之前对所有高风险的人工智能系统进行独立测试，以确保应用程序符合安全要求。Bühler 说：“当人工智能应用被用于关键领域，如医学、车辆、能源基础设施或某些机器时，这一点尤其重要。”
人工智能应该服务，而不是操纵
虽然关于人工智能监管的讨论如火如荼，但根据联邦数字事务和运输部（BMDV）的一份声明，在 4 月底于日本高崎举行的会议上，七国集团数字部长发言，赞成以明确的国际规则和标准来伴随人工智能的快速发展。
德国交通和数字基础设施部长 Volker Wissing 表示：“我们七国集团同意，当涉及到监管人工智能时，我们必须迅速采取行动。生成性人工智能具有巨大的潜力，可以提高我们的生产力，使我们的生活更美好。更重要的是，大型民主国家应引领潮流，并以巧妙的规则伴随其发展，保护人们免受滥用和操纵。人工智能应该为人们服务，而不是操纵。”
但这是否会像 Wissing 所希望的那样迅速发生是个问题，因为人工智能法案案自 2021 年 4 月以来一直在布鲁塞尔酝酿。在欧盟议会达成协议后，理事会、议会和委员会之间的试探性谈判可能在 2023 年夏天开始。谁也无法猜测何时能出台一套最终的规则并转化为适用的法律。到那时，人工智能的技术发展是否会超过人工智能监管的尝试，也是个问题。
来源：www.cio.com
