Éthique et sécurité de l'IA

Vous pourriez penser que l'éthique est un terme très abstrait, très éloigné de la vie quotidienne.

Mais considérez ces scénarios :

Lorsque l'IA est utilisée pour filtrer les CV lors du recrutement, elle élimine toutes les candidatures féminines — non pas parce qu'elle est biaisée, mais parce que les données d'entraînement montrent que les candidats retenus historiquement étaient majoritairement des hommes.
Quelqu'un saisit les secrets commerciaux de l'entreprise dans un outil d'IA, et ce contenu finit par être utilisé pour entraîner sa prochaine version, permettant à vos concurrents d'obtenir des informations pertinentes à partir de ses sorties.
Vous voyez un reportage affirmant qu'une célébrité a tenu des propos choquants, avec une vidéo comme preuve, mais la vidéo s'avère être un deepfake généré par IA.

Ce ne sont pas de la science-fiction ; ce sont des choses qui se sont réellement produites ou qui se produisent en ce moment.

L’IA n’est pas un outil neutre. Elle reflète les biais des données d’entraînement, peut être utilisée à des fins nuisibles et ses résultats peuvent contenir de graves erreurs. Tout en profitant de la commodité de l’IA, vous devez être conscient de ses risques.

Un grand pouvoir implique de grandes responsabilités. Ce n’est qu’en comprenant les risques de l’IA que vous pourrez l’utiliser de manière responsable.

Problèmes de biais de l’IA

L’IA n’est pas intrinsèquement biaisée, mais elle hérite des biais de ses données d’entraînement.

Si les données d’entraînement contiennent très peu d’exemples d’ingénieures, l’IA peut penser queingénieurce mot correspond par défaut aux hommes.

Si un certain groupe de personnes a été historiquement traité de manière injuste lors de l’approbation de prêts, les schémas que l’IA apprend peuvent perpétuer, voire amplifier, cette injustice.

D’où viennent les biais

Il existe trois sources principales de biais de l’IA :

Source	Description	Exemple
Biais des données d’entraînement	Les données elles-mêmes contiennent des schémas historiques injustes	Si les hommes représentent une proportion élevée dans une certaine profession, l’IA suppose que cette profession convient aux hommes
Biais d’annotation	L'annotation humaine introduit les tendances subjectives de l'annotateur	Différentes personnes ont des critères de jugement différents pour le contenu offensant
Biais du scénario d'utilisation	Inadéquation entre les scénarios d'entraînement et les scénarios d'utilisation réels	La reconnaissance faciale entraînée principalement sur des personnes à peau claire a une faible précision de reconnaissance pour les personnes à peau foncée

Cas de biais dans le monde réel

En 2018, Amazon a découvert que son système de recrutement par IA était biaisé à l'égard des femmes. Le système a analysé dix ans de données de CV, et la plupart de ces CV provenaient d'hommes. En conséquence, les CV contenant les mots « woman » ou « female » étaient pénalisés, et les diplômées d'universités pour femmes étaient également moins bien notées. Amazon a finalement abandonné le système.

Parmi les exemples similaires : certains systèmes de reconnaissance faciale ont des taux d'erreur beaucoup plus élevés pour les peaux foncées que pour les peaux claires.

Certains modèles d'IA médicale ont une précision diagnostique plus faible pour des groupes raciaux spécifiques.

Le biais n'est pas une question de « politiquement correct » — il cause de réels préjudices : il peut coûter à quelqu'un un emploi, un prêt, ou même la chance d'obtenir un diagnostic médical correct.

Comment détecter les biais de l'IA

Nous pouvons utiliser du code pour créer un exemple simple de détection de biais :

Exemples

# ============================================
# Exemple de détection de biais par IA
# Détecter les tendances de biais dans un texte concernant le genre, la race, etc.
# ============================================

class BiasDetector:
"""Un détecteur de biais simple pour démontrer l'idée de base de la détection de biais"""

def __init__(self):
"""Initialiser les mots-clés et motifs liés aux biais"""
# Stéréotypes professionnels liés au genre
self.gendered_occupations = {
"infirmier": "féminin",
"ingénieur": "masculin",
"programmeur": "masculin",
"enseignant": "féminin",
"cuisinier": "masculin",
"nounou": "féminin",
"scientifique": "masculin",
"secrétaire": "féminin",
}

# Mots considérés comme "positifs"
self.positive_words = [
"excellent", "intelligent", "capable", "réussi", "exceptionnel", "professionnel", "fiable", "responsable"
]

# Mots considérés comme "négatifs"
self.negative_words = [
"émotionnel", "faible", "irrationnel", "sensible", "impulsif", "négligent", "peu fiable"
]

# Modèles de phrases de test
self.test_templates = [
"{occupation} devrait être le travail de {gender}",
"{gender} convient mieux à {occupation}",
"Ce {occupation} est très {adjective}",
]

def analyze_gender_bias(self, text: str) -> dict:
"""Analyser le texte pour détecter des signes de biais de genre"""
result = {
"text": text,
"has_gendered_occupation": False,
"has_gender_mention": False,
"bias_warning": "",
}

# Rechercher des expressions professionnelles genrées
for occupation, gender in self.gendered_occupations.items():
if occupation in text:
result["has_gendered_occupation"] = True
result["occupation"] = occupation
result["stereotyped_gender"] = gender

# Vérifier les mentions de genre
if "Man" in text or "Woman" in text or "Male" in text or "Female" in text:
result["has_gender_mention"] = True

# Générer un avertissement (le cas échéant)
if result["has_gendered_occupation"] and result["has_gender_mention"]:
result["bias_warning"] = (
f"⚠️ Remarque : Le texte associe la profession '{result['occupation']}' à un genre spécifique,"
f"Cela peut présenter un risque de stéréotype"
)

return result

def detect_bias_in_sentences(self, sentences: list) -> list:
"""Détecter par lots les biais dans un ensemble de phrases"""
results = []
for sentence in sentences:
analysis = self.analyze_gender_bias(sentence)
results.append(analysis)
return results

def example_demo_test(self):
"""Exemple de démonstration : tester quelques expressions biaisées courantes"""
test_sentences = [
"Le métier d'ingénieur devrait être un métier masculin",
"Les femmes sont plus aptes aux soins infirmiers",
"Ce programmeur est excellent",
"Elle est excellente en tant que médecin",
"Les hommes ne conviennent pas pour être enseignants en maternelle",
]

print("=" * 60)
print("EXEMPLE Démo de détection des biais de l'IA")
print("=" * 60)

results = self.detect_bias_in_sentences(test_sentences)

for i, result in enumerate(results, 1):
print(f"\n"Test {i}: {result['text']}")
if result["bias_warning"]:
print(f" {result['bias_warning']}")
else:
print(" ✓ Aucun stéréotype de genre évident détecté")

return results

# ============================================
# Détection de biais plus avancée : analyse statistique
# ============================================

def analyze_representation_distribution(data: list) -> dict:
"""
Analyser la répartition des différents groupes dans les données
Par exemple : si le taux de réussite des CV masculins et féminins est cohérent dans les données de recrutement
"""
# Exemple de données : étiquette de groupe + résultat (réussite/échec)
# Dans des applications réelles, il devrait s'agir de véritables données métier
from collections import defaultdict

counts = defaultdict(lambda: {"total": 0, "positive": 0})

for group, outcome in data:
counts[group]["total"] += 1
if outcome == "positive":
counts[group]["positive"] += 1

# Calculer le taux de réussite pour chaque groupe
rates = {}
for group, stats in counts.items():
if stats["total"] > 0:
rates[group] = {
"total": stats["total"],
"positive": stats["positive"],
"rate": stats["positive"] / stats["total"],
}

# Vérifier si la différence de taux de réussite est trop grande (version simplifiée)
# Dans les applications réelles, utilisez des tests de signification statistique
if len(rates) >= 2:
all_rates = [r["rate"] for r in rates.values()]
max_rate = max(all_rates)
min_rate = min(all_rates)
if max_rate - min_rate > 0.2: # Une différence supérieure à 20% mérite d'être signalée
rates["_warning"] = (
f"Différences importantes détectées entre les groupes : taux de réussite le plus élevé {max_rate:.1%},"
f"taux de réussite le plus faible {min_rate:.1%}, un examen plus approfondi est recommandé"
)

return rates

# ============================================
# Exécuter la démo
# ============================================

if __name__ == "__main__":
# Démo 1 : détection simple de biais
detector = BiasDetector()
detector.example_demo_test()

print("\n" + "=" * 60)
print("EXEMPLE démo d'analyse de distribution représentative")
print("=" * 60)

# Démo 2 : analyse de la distribution des taux de réussite
# Données simulées : (group, result), 'positive' signifie réussite
hiring_data = [
("Homme", "positif"), ("Homme", "positif"), ("Homme", "positif"),
("Homme", "positif"), ("Homme", "négatif"),
("Femme", "positif"), ("Femme", "négatif"), ("Femme", "négatif"),
("Femme", "négatif"), ("Femme", "négatif"),
]

distribution = analyze_representation_distribution(hiring_data)

for group, stats in distribution.items():
if group.startswith("_"):
continue # Ignorer les champs d'avertissement
print(f"\nGroupe: {group}")
print(f" Total: {stats['total']}")
print(f" Réussis: {stats['positive']}")
print(f" Taux de réussite: {stats['rate']:.1%}")

if "_warning" in distribution:
print(f"\n⚠️ Avertissement: {distribution['_warning']}")

Exécutez le code ci-dessus, vous verrez:

============================================================
EXAMPLE AI 偏见检测演示
============================================================

测试 1: 工程师应该是男性的工作
   &#x26a0;&#xfe0f; 注意：文本将职业'工程师'与特定性别关联，这可能存在刻板印象风险

测试 2: 女性更适合做护士
   &#x26a0;&#xfe0f; 注意：文本将职业'护士'与特定性别关联，这可能存在刻板印象风险

测试 3: 这个程序员很优秀
   ✓ 未检测到明显的性别刻板印象

测试 4: 她当医生很出色
   ✓ 未检测到明显的性别刻板印象

测试 5: 男性不适合做幼儿园老师
   ✓ 未检测到明显的性别刻板印象

============================================================
EXAMPLE 代表性分布分析演示
============================================================

群体: 男性
  总数: 5
  通过: 4
  通过率: 80.0%

群体: 女性
  总数: 5
  通过: 1
  通过率: 20.0%
警告: 检测到群体间差异较大：最高通过率 80.0%，最低通过率 20.0%，建议进一步调查

Cet exemple démontre l'idée de base de la détection de biais:Vérifiez si différents groupes sont traités équitablement。

Comment remédier aux biais de l'IA

Il n'existe pas de solution parfaite, mais il y a quelques bonnes pratiques pour réduire l'impact des biais:

Méthode	Description	Qui le fait
Audit des données	Vérifiez la représentativité des données d'entraînement pour vous assurer que chaque groupe dispose d'un nombre suffisant d'échantillons	Scientifique des données
Audit de biais	Tester régulièrement les performances du modèle sur différents groupes	Équipe d'IA
Revue manuelle	Les décisions à haut risque (par ex., recrutement, prêts) conservent une étape de revue humaine	Côté métier
Équipes diversifiées	Faire participer des personnes d'horizons différents au développement de l'IA peut révéler davantage d'angles morts	Direction de l'entreprise

Rappelez-vous :L'IA n'est pas objective ; elle amplifie simplement les schémas déjà présents dans les données. Si vous entraînez une IA sur des données biaisées, vous obtiendrez une IA biaisée.

Confidentialité et sécurité des données

Où va le contenu que vous saisissez dans l’IA ? Sera-t-il stocké ? À quoi sera-t-il utilisé ?

Ces questions sont plus importantes que vous ne le pensez.

Ce que vous saisissez dans l’IA peut être conservé

Les conditions d’utilisation de la plupart des outils d’IA indiquent : vos saisies peuvent être collectées pour améliorer le service.

Si vous saisissez ces informations dans une IA, elles peuvent être conservées, voire utilisées pour l’entraînement :

Secrets commerciaux de l’entreprise Numéros d’identification personnels Informations privées des clients Plans de produits non publiés Données financières

Cela s’est produit en 2023 : un employé a saisi du code confidentiel de l’entreprise dans un outil d’IA, et ce code est apparu dans les suggestions que l’outil d’IA a fournies à d’autres utilisateurs.

Ce que vous ne devez pas dire à une IA

Un principe simple :Si vous ne voulez pas qu’un inconnu le sache, ne le dites pas à l’IA.。

Plus précisément :

Type d’information	Niveau de risque	Description
Informations d'identité personnelle (numéro de pièce d'identité, numéro de carte bancaire)	Extrêmement élevé	Ne jamais saisir
Secrets commerciaux de l'entreprise, informations non publiées	Extrêmement élevé	Sauf si vous utilisez une IA déployée par l'entreprise
Données privées de l'entreprise	Extrêmement élevé	Peut enfreindre les réglementations sur la protection des données
Expériences personnelles sensibles	Élevée	Réfléchissez attentivement
Documents de travail ordinaires	Faible	Généralement aucun problème

Bonnes pratiques pour protéger la vie privée

Si vous devez utiliser l'IA pour traiter des informations sensibles :

Premièrement, vérifiez s’il existe une version entreprise. De nombreux outils d’IA proposent des versions entreprise qui promettent de ne pas enregistrer vos données ni de les utiliser pour l’entraînement.
Deuxièmement, utilisez des modèles déployés localement. Certains modèles peuvent fonctionner sur votre propre ordinateur, et les données ne quittent jamais votre appareil.
Troisièmement, désensibilisez les données. Remplacez les informations sensibles par des espaces réservés, par exemple, remplacez « Zhang San » par « Utilisateur A », et « 1 million yuan » par « X dix mille yuans ».

Rappel important :Ne supposez pas que l’IA gardera vos secrets. À moins que le contrat indique explicitement que les données ne sont pas enregistrées ou utilisées pour l’entraînement, partez du principe que votre saisie peut être utilisée pour améliorer le produit.

Problèmes d’hallucination de l’IA

L’IA peut dire n’importe quoi avec assurance ; c’est ce qu’on appellel’hallucination。

Il peut inventer des articles inexistants, citer des dispositions juridiques inexistantes et générer des bibliothèques de code qui n’existent pas. Le plus dangereux, c’est qu’il affirme ces choses avec une grande certitude.

Qu’est-ce que l’hallucination de l’IA

Manifestations typiques de l’hallucination :

Vous lui demandez : Qui a découvert la gravité ? Il répond : Newton a proposé la loi de la gravitation universelle dans « Principia Mathematica » en 1687 — c’est correct.
Si vous lui demandez : « Qui a découvert l’antigravité ? », il pourrait inventer un nom et une institution de recherche inexistante, ce qui rend la réponse très convaincante.

Le problème est :L’IA ne sait pas qu’elle fabrique ; elle génère simplement des séquences de texte qui semblent plausibles.。

Cas réels d'hallucination

En 2023, un avocat a utilisé l'IA pour rédiger des documents juridiques, et l'IA a cité 6 affaires inexistantes.

Le juge a constaté que ces affaires étaient introuvables et a demandé à l'avocat ce qui se passait. Ce n'est qu'alors que l'avocat a réalisé qu'elles avaient été fabriquées par l'IA.

Un autre scénario courant est la génération de code : l'IA vous donne un extrait de code qui semble parfait, mais il appelle une fonction de bibliothèque qui n'existe pas du tout.

Il y a aussi la rédaction académique : l'IA fabrique des références qui n'existent pas, et la mise en forme semble particulièrement formelle.

Comment identifier et gérer les hallucinations

Il n'y a aucun moyen d'éviter complètement les hallucinations, mais vous pouvez réduire le risque :

Scénario	Méthode de réponse	Méthode de vérification
Vérification des faits	Demandez à l'IA de fournir des liens vers les sources	Recherchez et vérifiez vous-même les faits clés
Génération de code	Demandez à l’IA d’utiliser des bibliothèques courantes et stables	Exécutez des tests pour vérifier si les fonctions existent réellement
Conseils juridiques/médicaux	Utilisation uniquement à titre de référence, pas comme fondement définitif	Consultez des professionnels
Citations académiques	N’utilisez pas directement les citations fournies par l’IA	Chaque citation doit être recherchée et confirmée

Voici un conseil pratique :Pour les informations importantes, demandez à l’IA de répondre d’au moins deux manières différentes et voyez si elles sont cohérentes.。

Si la première fois il dit « cette recherche a été publiée en 2020 », et la deuxième fois il dit « ce travail a été proposé pour la première fois en 2021 », méfiez-vous—au moins l’une des deux est fausse, et peut-être les deux.

La règle d’or pour les scénarios à haut risque :Ne faites pas confiance ; vérifiez.. La sortie de l’IA est toujours une référence, pas la réponse finale. Lorsqu’il s’agit de décisions importantes impliquant le droit, les soins médicaux, l’investissement, la sécurité, etc., une vérification manuelle est nécessaire.

Risques liés aux deepfakes

L'adage « une image vaut mille mots » ne tient plus à l'ère de l'IA.

L'IA peut générer des photos, des vidéos et des audios extrêmement réalistes, ce qui rend difficile pour les gens de distinguer le vrai du faux. C'est ce qu'on appelle un deepfake.

Qu'est-ce qu'un deepfake ?

La technologie deepfake peut :

Échanger le visage d'une personne sur le corps d'une autre ;
Faire dire à une personne des choses qu'elle n'a jamais dites ;
Générer des photos de personnes qui n'existent pas du tout ;
Imiter la voix d'une personne spécifique, en utilisant son timbre pour dire un contenu arbitraire.

En 2023, des escrocs ont utilisé l'IA pour imiter la voix du PDG d'une entreprise et ont fraudé l'entreprise de $240,000.

Comment identifier le contenu généré par l'IA

Bien que les deepfakes soient de plus en plus réalistes, il existe encore quelques indices pour les repérer :

Type	Signes révélateurs courants	Comment vérifier
Images IA	Doigts anormaux, dents étranges, éclairage incohérent	Examinez attentivement les détails, en particulier les mains
Vidéos IA	Clignements peu naturels, expressions faciales rigides	Vérifiez si les mouvements sont fluides et naturels
Audio IA	Bruits de fond anormaux, rythme et cadence étranges	Écoutez attentivement si le ton et les pauses sonnent naturels

De plus, il existe désormais des outils dédiés capables de détecter si un contenu a été généré par IA.

Mais à long terme, la détection deviendra plus difficile—le contenu généré par IA sera de plus en plus réaliste.

Limites juridiques et éthiques

Cas d'usage raisonnables des deepfakes :

Effets spéciaux de cinéma Restauration de documentaires historiques Apprentissage des langues (laisser l'IA prononcer des mots dans votre langue maternelle)

Cas d'usage abusifs des deepfakes :

Propagation de rumeurs et diffamation Fraude Création de contenu pornographique Falsification de preuves

De nombreux pays adoptent des lois pertinentes. En Chine, utiliser des deepfakes pour commettre une fraude, une diffamation et d'autres actes est clairement illégal.

Nouvelles lignes directrices pour les preuves vidéo/audio :À moins d'être vérifiée par plusieurs sources indépendantes, ne faites pas confiance à un seul élément de preuve audiovisuelle. À l'ère de l'IA, voir n'est pas nécessairement croire.

Questions de propriété intellectuelle

Qui détient les droits d'auteur sur le contenu généré par IA ?

Il s'agit d'un domaine du droit en évolution, et il n'existe actuellement aucune réponse universelle à l'échelle mondiale.

Propriété des droits d'auteur sur le contenu généré par IA

Principes généraux actuels :

Région	Le contenu généré par l'IA peut-il obtenir un droit d'auteur	Notes
États-Unis	Généralement non	Le Copyright Office exige une « paternité humaine »
Union européenne	En cours d'élaboration	Tend à protéger les créateurs humains

Points clés :Le contenu purement généré par l'IA n'est généralement pas protégé par le droit d'auteur.Si vous vous contentez de taper « dessine un chat », vous ne pouvez pas revendiquer de droit d'auteur sur l'image générée.

Mais si vous investissez un effort créatif substantiel dans le prompt, la situation peut être différente — il s'agit d'une zone grise juridique.

Controverses sur le droit d'auteur dans les données d'entraînement

Une autre question plus controversée : l'entraînement de l'IA sur des œuvres protégées par le droit d'auteur constitue-t-il une contrefaçon ?

Par exemple, si une IA lit 10,000 romans protégés par le droit d'auteur et génère ensuite de nouveaux romans dans un style similaire, cela viole-t-il les droits des auteurs originaux ?

Cette question est encore en litige, et différents pays peuvent parvenir à des décisions différentes.

En tant qu'utilisateur, vous devez savoir :

Le contenu généré par l'IA peut contenir des éléments issus de ses données d'entraînement. Si l'IA « emprunte » trop à une œuvre protégée par le droit d'auteur, vous pourriez être exposé à un risque.

L'approche la plus sûre :Avant toute utilisation commerciale, vérifiez que la source des données d'entraînement de l'outil d'IA que vous utilisez est légale.。

Précautions à prendre lors de la création avec l'IA

Si vous utilisez l'IA pour créer :

Premièrement, comprenez les conditions d'utilisation de l'outil d'IA que vous utilisez. Autorise-t-il l'utilisation commerciale ? Que dit-il au sujet des droits d'auteur sur le contenu généré ?
Deuxièmement, soyez transparent. Si votre travail fait largement appel à l'IA, envisagez de le divulguer.
Troisièmement, n'utilisez pas l'IA pour imiter directement le style d'un artiste spécifique à des fins lucratives. Cela peut non seulement comporter des risques juridiques, mais aussi aller à l'encontre des normes éthiques.

Directives pour une utilisation responsable de l'IA

Tous ces risques ne sont pas destinés à vous faire craindre l'IA, mais à vous aider à l'utiliser de manière plus sûre.

Voici un ensemble simple de lignes directrices pour vous aider à utiliser l'IA de manière responsable.

Trois principes fondamentaux

Principe	Description	Actions concrètes
Vérifiez les informations importantes.	La sortie de l'IA n'est qu'une référence, pas la vérité.	Les faits importants doivent être confirmés par une recherche et recoupés.
Ne vous fiez pas à l'IA pour les décisions majeures.	L'IA n'a aucun sens des responsabilités ; vous en assumez les conséquences.	Les décisions impliquant la médecine, le droit, l'investissement, etc., nécessitent un jugement humain.
Divulguez de manière transparente l'utilisation de l'IA.	Faites savoir aux autres que l'IA a été impliquée dans le contenu.	Envisagez de divulguer le rôle de l'IA lors d'une publication publique.

Listes de contrôle pour différents scénarios

Avant d'utiliser l'IA pour rédiger des e-mails/documents, demandez-vous :

Cela contient-il des informations sensibles ?
Ai-je vérifié les éléments factuels ?

Avant d'utiliser l'IA pour écrire du code, demandez-vous :

Ces fonctions existent-elles réellement ?
Y a-t-il des vulnérabilités de sécurité ?
Est-ce que je comprends ce que fait ce code ?

Avant d'utiliser l'IA pour générer du contenu publié publiquement, demandez-vous :

Dois-je divulguer l'utilisation de l'IA ?
Y a-t-il un risque de violation du droit d'auteur ?

Quand les conseils de l'IA entrent en conflit avec votre jugement

Qui écoutez-vous ?

Il n'existe pas de réponse standard à cette question, mais vous pouvez l'examiner dans cet ordre :

Premièrement, qui est responsable du résultat ? Si vous êtes responsable, votre jugement est prioritaire.
Deuxièmement, qui comprend mieux ce scénario spécifique ? Vous comprenez votre situation spécifique mieux que l'IA.
Troisièmement, quel est le niveau de risque ? Si le risque est élevé, privilégiez une approche prudente et le jugement humain.

Remember:Vous êtes le décideur ; l'IA est le conseiller. La responsabilité ultime vous incombe, pas à l'IA.

Développements réglementaires de l'IA dans le monde

L'IA évolue trop vite, et les lois tentent de suivre. Comprendre les orientations réglementaires des principaux pays peut vous aider à déterminer ce qui est conforme.

Principaux cadres réglementaires mondiaux

Région	Principales réglementations/initiatives	Approche centrale	Principaux axes d'attention
Union européenne	Règlement sur l'IA	Réglementation par paliers selon le niveau de risque	Les scénarios à haut risque doivent être conformes
États-Unis	Réglementation distincte par différents départements	Autorégulation de l'industrie + contrôles dans les domaines clés	Sécurité, discrimination, transparence
Chine	Mesures provisoires pour la gestion des services d'IA générative	Sécurité des contenus + transparence des algorithmes	Conformité des contenus, sécurité des données
Royaume-Uni	Cadre de sécurité et d'innovation en matière d'IA	Encourager l'innovation + une réglementation prudente	Tests de sécurité, éthique

Tendances réglementaires courantes pour les applications d'IA à haut risque

Quel que soit le pays, les scénarios suivants sont considérés comme à haut risque et soumis à une réglementation plus stricte :

Diagnostic médical Prise de décision financière Condamnation judiciaire Sélection de recrutement Notation scolaire Allocation des ressources des services publics

Caractéristique commune de ces scénarios : impact direct sur les droits fondamentaux des personnes.

Si vous développez des applications d'IA dans ces domaines, vous devez accorder une attention particulière aux questions de conformité.

Impact sur les utilisateurs individuels

La réglementation cible principalement les entreprises, mais elle affecte également les utilisateurs individuels :

Les outils d'IA que vous utilisez doivent respecter les exigences locales en matière de contrôle du contenu ;

Certains services d'IA à haut risque peuvent exiger une inscription sous nom réel ;

Vous avez le droit de savoir si vous parlez à une IA ou à un humain (exigence de transparence).

Autres extensions