Ce que prévoit l’IA Act

Le texte adopté par le Parlement européen établit des règles pour les fournisseurs de systèmes d'IA en fonction de leur niveau de risque. L’IA Act introduit une série d’obligations de supervision humaine et d’évaluation pour les applications à « haut risque » – celles qui présentent « un préjudice significatif pour la santé, la sécurité, les droits fondamentaux des personnes ou l'environnement ». Les systèmes d’IA présentant un niveau de risque inacceptable pour la sécurité des personnes seront interdits, comme ceux qui utilisés pour la « notation sociale ». Seront ainsi interdits les « usages intrusifs et discriminatoires » de l'intelligence artificielle et l’utilisation des systèmes d’IA d’identification biométrique par la police ne sera possible que pour les « crimes graves » après autorisation d’un juge. Les systèmes de police prédictive, de détection des émotions ou ceux visant à influencer des électeurs sont aussi prohibés. Les services d’IA générative devront spécifiquement mentionner les contenus qu'ils génèrent, pour permettre de distinguer les fausses photos par exemple. L’IA Act doit désormais être examiné par la Commission et le Conseil européen pour une adoption définitive d’ici à la fin de l’année et une entrée en vigueur du texte dans les deux ans dans les États membres.