Premières interdictions mises en place
Dès ce dimanche, plusieurs usages de l’IA jugés inacceptables seront bannis. Les logiciels de notation sociale, inspirés du système chinois, seront interdits, qu’ils soient utilisés par des entités publiques ou privées. L’IA prédictive visant à évaluer la probabilité d’un individu de commettre un délit ne pourra plus être employée.
S’ajoutent à ces interdictions les systèmes de reconnaissance des émotions en milieu scolaire et professionnel, utilisés pour analyser le comportement d’un élève ou d’un salarié. L’exploitation des vulnérabilités des individus, les techniques de manipulation subliminale et la catégorisation biométrique permettant de déduire l’origine ethnique, les opinions politiques, religieuses ou l’orientation sexuelle seront également proscrites.
Identification biométrique et reconnaissance faciale en débat
Un point clé du texte concerne l’identification par reconnaissance faciale en temps réel dans l’espace public. Cette pratique, qui soulève d’importantes questions éthiques et de respect des libertés individuelles, est interdite. Toutefois, certains États membres pourraient demander des exceptions pour des raisons de sécurité nationale ou de lutte contre la criminalité
La Commission européenne insiste sur le fait que ces mesures visent à protéger les citoyens contre des dérives potentielles de l’IA, tout en encourageant une innovation responsable.
Une application progressive et des contestations attendues
Si ces premières restrictions entrent en vigueur immédiatement, l’AI Act sera pleinement mis en œuvre de manière progressive, avec des échéances étalées sur plusieurs années. Certaines entreprises du secteur technologique s’inquiètent des implications de ces règles sur leur compétitivité et sur l’évolution de l’IA en Europe.
Le Sommet de Paris réunira environ 100 chefs d’État ainsi que des représentants de la société civile et du secteur privé. Les débats promettent d’être vifs, notamment sur la mise en œuvre effective des interdictions et les éventuelles adaptations nécessaires pour ne pas freiner l’innovation. L’évolution du cadre législatif européen sur l’IA sera suivie de près dans les mois à venir.
Source: Le Monde