Les dessous de l'accord historique sur l'IA en Europe

Les États membres de l'UE et les législateurs ont conclu un accord vendredi sur la manière d'élaborer des règles " historiques " régissant les modèles d'intelligence artificielle tels que ChatGPT – après 36 heures de négociations.

Réunis à Bruxelles, les négociateurs ont fixé des limites à la manière dont l'IA peut être utilisée en Europe, ce qui, selon eux, ne nuirait pas à l'innovation dans le secteur ni aux perspectives des futurs champions européens de l'IA.

"Historique ! Avec l'accord politique conclu aujourd'hui sur la loi sur l'IA, l'UE devient le premier continent à fixer des règles claires pour l'utilisation de l'IA", a déclaré le commissaire européen au marché intérieur, Thierry Breton.

"La loi sur l'IA est bien plus qu'un simple règlement : c'est une rampe de lancement permettant aux startups et aux chercheurs européens de mener la course mondiale à une IA digne de confiance", a-t-il ajouté.

La " loi sur l'IA " a été adoptée à la hâte dans le processus législatif de l'Union européenne cette année après l'arrivée fulgurante du chatbot ChatGPT, une passerelle grand public vers l'IA générative, fin 2022.

Bien que la capacité de ChatGPT à créer des essais et des poèmes articulés soit une démonstration vertigineuse des progrès rapides de l'IA, les critiques s'inquiètent de la façon dont la technologie peut être utilisée à mauvais escient.

Le logiciel d'IA générative, qui inclut également le chatbot Bard de Google, peut produire rapidement du texte, des images et du son à partir de commandes simples dans le langage courant.

D'autres exemples d'IA générative incluent Dall-E, Midjourney et Stable Diffusion, qui peuvent créer des images dans presque tous les styles à la demande.

Les négociateurs n'ont pas réussi à s'entendre dans un premier temps après que les négociations marathon qui ont débuté mercredi ont duré 22 heures et se sont terminées par un accord sur la reprise des négociations le lendemain.

Les négociateurs épuisés ont ensuite repris les négociations vendredi à 08h00 GMT.

Il n'y avait pas vraiment de date limite, mais de hauts responsables de l'UE cherchaient désespérément à parvenir à un accord avant la fin de l'année.

La Commission européenne, l'organe exécutif de l'UE, a proposé pour la première fois une loi en 2021 visant à réglementer les systèmes d'IA sur la base d'évaluations des risques des modèles logiciels.

Plus le risque pour les droits ou la santé des individus est élevé, par exemple, plus les obligations des systèmes sont grandes.

La loi devra encore être formellement approuvée par les États membres et le parlement, mais l'accord politique de vendredi est considéré comme le dernier obstacle sérieux.

"La loi sur l'IA est une première mondiale. Un cadre juridique unique pour le développement de l'IA auquel vous pouvez faire confiance", a déclaré la chef de l'UE, Ursula von der Leyen, dans un message sur les réseaux sociaux, saluant l'accord.

"Et pour la sécurité et les droits fondamentaux des personnes et des entreprises. Un engagement que nous avons pris dans nos orientations politiques - et que nous avons tenu. Je salue l'accord politique d'aujourd'hui."

L'UE n'est pas la seule à s'inquiéter de l'IA.

Le président américain Joe Biden a publié un décret sur les normes de sécurité de l'IA en octobre et, alors que l'Europe est sur la bonne voie pour adopter la première loi générale couvrant le secteur, la législation chinoise réglementant spécifiquement l'IA générative est entrée en vigueur en août de cette année.

L'une des principales pierres d'achoppement lors des négociations était la manière de réglementer les systèmes d'IA à usage général tels que ChatGPT.

Certains États membres craignaient qu'une réglementation excessive nuise à la croissance de champions européens comme l'allemand Aleph Alpha ou le français Mistral AI.

Le ministre français du Numérique, Jean-Noël Barrot, a déclaré que la France "analyserait attentivement le compromis" convenu et veillerait à ce qu'il "préserve la capacité de l'Europe à développer ses propres technologies d'intelligence artificielle".

L'accord comprend une approche à deux niveaux, avec des exigences de transparence pour tous les modèles d'IA à usage général et des exigences plus strictes pour les modèles les plus puissants.

Un autre point de friction concernait la surveillance biométrique à distance – essentiellement, l'identification faciale grâce aux données des caméras dans les lieux publics. Les gouvernements voulaient des exceptions à des fins d'application de la loi et de sécurité nationale.

Bien que l'accord interdise la reconnaissance faciale en temps réel, il y aura un nombre limité d'exemptions.

Mais tout le monde n'était pas satisfait de cet accord.

"Malheureusement, la rapidité semble avoir prévalu sur la qualité, avec des conséquences potentiellement désastreuses pour l'économie européenne", a déclaré Daniel Friedlaender, responsable Europe de la CCIA, l'un des principaux groupes de pression technologiques.

"Cela pourrait même finir par chasser les champions européens que l'UE veut si désespérément renforcer", a déclaré Boniface de Champris, responsable politique de la CCIA Europe.

L'UE pourra surveiller et sanctionner ceux qui enfreignent la loi grâce à un nouvel organisme appelé Bureau européen de l'IA, qui sera rattaché à la commission.

Le bureau aura le pouvoir d'imposer une amende équivalant à sept pour cent du chiffre d'affaires d'une entreprise ou à 35 millions d'euros, le montant le plus élevé étant retenu.