Parliament leads the way on first set of EU rules for Artificial Intelligence

Source: European Parliament (EP) i, published on Wednesday, October 21 2020.

Dinsdag hebben EP-leden voorstellen goedgekeurd over de beste manier om AI te reguleren, en zo innovatie, ethische normen en het vertrouwen in de technologie te bevorderen.

Het Europees Parlement is een van de eerste instellingen die aanbevelingen doen over regels voor artificiële intelligentie (AI) op het gebied van ethische normen, aansprakelijkheid en intellectuele-eigendomsrechten. Deze aanbevelingen zullen de EU in staat stellen wereldleider te worden bij de ontwikkeling van AI. De Commissie is van plan om begin volgend jaar een wetgevingsvoorstel in te dienen hierover.

Ethisch kader voor AI

In het door Iban García del Blanco (S&D, ES) opgestelde wetgevingsinitiatief dringen de leden er bij de Commissie op aan een nieuw wettelijk kader te presenteren, met ethische beginselen en wettelijke verplichtingen die moeten worden nageleefd bij de ontwikkeling, de uitrol en het gebruik van artificiële intelligentie, robotica en aanverwante technologieën in de EU, waaronder software, algoritmen en gegevens.

Het initiatief werd goedgekeurd met 559 stemmen voor, 44 tegen en 88 onthoudingen.

Toekomstige wetgeving moet gebaseerd zijn op verschillende leidende beginselen: door en voor de mens gemaakte AI; veiligheid, transparantie en aansprakelijkheid; waarborgen tegen vooroordelen en discriminatie; het recht op verhaal; sociale en ecologische verantwoordelijkheid; en het recht op privacy en gegevensbescherming.

AI-technologieën met een hoog risico, zoals zelflerende AI, moeten zodanig worden ontworpen dat menselijk toezicht te allen tijde mogelijk is. Bij gebruik van een functionaliteit die leidt tot een ernstige schending van de ethische beginselen en mogelijk gevaarlijk is, moet het zelflerende vermogen worden uitgeschakeld en de mens weer de volledige controle nemen.

Aansprakelijkheid voor door AI veroorzaakte schade

In het wetgevingsinitiatief van Axel Voss (EVP, DE) pleiten de EP-leden voor de invoering van een toekomstgericht kader voor burgerlijke aansprakelijkheid, waarbij degenen die zich bezighouden met risicovolle AI strikt aansprakelijk zijn voor de eventuele schade als gevolg daarvan. Een duidelijk wettelijk kader zou innovatie in de hand werken, door ondernemingen te voorzien van rechtszekerheid. Tegelijk zouden de burgers worden beschermd en zou hun vertrouwen in AI worden bevorderd door activiteiten tegen te gaan die gevaarlijk kunnen zijn.

De regels moeten gelden voor fysieke of virtuele AI-activiteiten die schade berokkenen aan het leven, de gezondheid, de lichamelijke integriteit en eigendommen, of aanzienlijke immateriële schade veroorzaken als zij tot een “verifieerbaar economisch verlies” leiden. Hoewel risicovolle AI-technologieën nog niet vaak voorkomen, stellen de EP-leden dat de eigenaars ervan over een verzekering moeten beschikken die vergelijkbaar is met die van motorvoertuigen.

Het wetgevingsinitiatief werd goedgekeurd met 626 stemmen voor, 25 tegen en 40 onthoudingen.

Intellectuele-eigendomsrechten

In het verslag van Stéphane Séjourné (Renew Europe, FR) staat dat de EU wereldleider moet worden op het gebied van AI. Om dat te verwezenlijken, is er behoefte aan een doeltreffend stelsel van intellectuele eigendomsrechten (IER) en waarborgen in het octrooisysteem van de EU om innovatieve ontwikkelaars te beschermen. Dit mag niet ten koste gaan van de belangen van menselijke makers en niet in strijd zijn met de ethische beginselen van de Europese Unie.

De EP-leden zijn van mening dat het belangrijk is onderscheid te maken tussen door AI ondersteunde menselijke creaties en door AI gegenereerde creaties. Ze benadrukken dat AI geen rechtspersoonlijkheid mag hebben; alleen mensen mogen eigenaar zijn van de IER. In de tekst wordt dieper ingegaan op het auteursrecht, gegevensverzameling, handelsgeheimen, het gebruik van algoritmen en deepfakes.

Het verslag werd goedgekeurd met 612 stemmen voor, 66 tegen en 12 onthoudingen.