Blog van Vrijschrift / ScriptumLibre

Algorithmic transparency is a important aspect of artificial “intelligence” (AI) legislation. Unfortunately, a software code clause in EU trade agreements limits algorithmic transparency. After a short introduction to AI and lawmaking, I will argue the EU should reverse course on this clause.

The EU trade agreement with Japan undermines algorithmic transparency, the Vrijschrift foundation wrote in a letter to the Dutch Parliament, in 2018. The agreement’s software code clause would limit the possibilities to audit software and algorithms.

The EU ratified the agreement, and ratified more agreements with the clause. Normally speaking, with these ratifications, the fate is sealed. But with the perplexity about AI’s disruptive capabilities, there may be a window of opportunity to reopen the debate.

We need policy space to properly regulate AI.

Het ontwerp handelsverdrag tussen de EU en Nieuw-Zeeland bevat een ingrijpende verplichting om grensoverschrijdende gegevensstromen toe te staan, die veel verder gaat dan eerdere verplichtingen in handelsverdragen. De verplichting wordt vergezeld door een waarborg – een uitzondering op de verplichting, een carve out – voor de bescherming van persoonsgegevens en privacy. Deze waarborg ziet er sterk uit, vanuit een bepaald perspectief, maar zwak vanuit een ander. Het hoofdstuk over digitale handel heeft ook een clausule over het recht om te reguleren – het recht om wetten te maken. Deze waarborg is zwak.

In 2012 besloot de Europese Commissie dat Nieuw-Zeeland persoonsgegevens adequaat beschermt. In het geval van Nieuw-Zeeland doet de kracht van de verplichting om gegevensstromen toe te staan en van de uitzondering op de verplichting er daarom misschien niet zoveel toe.

De EU-commissie heeft echter de intentie uitgesproken om de ingrijpende verplichting en de sterke/zwakke uitzondering ook te gebruiken in handelsverdragen met landen zonder adequate gegevensbescherming. Dit lijkt onverstandig.

Hieronder ga ik in op de clausule over het recht om te reguleren, de verplichting om gegevensstromen toe te staan en de uitzondering daar op, en signaleer ik spanningen tussen supranationalisering en democratie.

Dit blog is een vertaling / bewerking van een eerdere engelstalige versie.

The draft EU - New Zealand trade agreement contains a sweeping cross-border data flow commitment, which goes way beyond such commitments in earlier trade deals. The commitment comes with a safeguard – an exception to the commitment, a carve out – for the protection of personal data and privacy. This safeguard seems strong from one angle, and weak from an other. The digital trade chapter also has a weak right to regulate clause.

In 2012 the European Commission decided that New Zealand adequately protects personal data. As a result, in the case of New Zealand, the strength of the data flow commitment and of the exception to the commitment may not matter much.

However, the EU commission expressed its intention to use the sweeping commitment and the strong / weak exception also in free trade agreements (FTAs) with countries without adequate data protection. This seems imprudent.

Below I will discuss the right to regulate clause, the commitment, and the exception, and will note tensions between supranationalisation and democracy.

Vrijschrift has responded to the European Commission’s public consultation “A renewed trade policy for a stronger Europe”.

The proposed EU-Vietnam trade agreement contains weak safeguards for data protection. Basically, they are just as weak as the safeguards in the EU-Japan trade agreement. This is all the more frustrating as the EU commission knows how to do better. In January 2018 it adopted a proposal for a stronger safeguard, which consumer and digital rights organisations supported. ¹ However, after two years, the commission still hasn’t used the better safeguard in trade agreements. It is unknown whether the new commission will adopt it.

The European Parliament plenary vote on the EU-Vietnam agreement is expected February 10-13 2020. If we want to take fundamental rights seriously, the Parliament should reject the agreement. That opens the possibility to use the better safeguard in a new version of the agreement.