Bases de l'algèbre
Ce chapitre présente la transformation des équations et des inégalités, les concepts fondamentaux des fonctions, les opérations sur les exposants et les logarithmes, ainsi que le symbole de sommation Σ et la convergence des séries.
Le contenu de ce chapitre est la base mathématique commune pour sigmoid, softmax, l'entropie croisée et l'entropie de l'information. Chaque point de connaissance est accompagné de démonstrations graphiques interactives. Faire glisser un curseur permet de développer l'intuition mieux que de lire dix fois des formules.
Résolution et transformation d'équations et d'inégalités
La transformation algébrique tient en une seule phrase.
Effectuer la même opération des deux côtés d'une équation maintient l'équation vraie.
Tant que vous traitez les deux côtés de l'équation de la même manière — en ajoutant, en soustrayant, en multipliant, en divisant (avec un diviseur non nul), ou en prenant des racines (attention au signe) — les solutions de l'équation ne changeront pas.
Équations linéaires à une inconnue
La forme la plus élémentaire est。
résoudreLes étapes complètes :
3x + 5 = 20 3x = 20 - 5 ← 两边同减 5（移项） 3x = 15 x = 15 / 3 ← 两边同除以 3 x = 5
Il n'y a que deux actions essentielles :La transposition (déplacement des termes)(Essentiellement soustraire la même quantité des deux côtés) etDiviser les deux côtés。
Équations du second degré à une inconnue et le discriminant
La forme est, deux méthodes de résolution courantes.
Méthode 1 : factorisation。
x² - 5x + 6 = 0 (x - 2)(x - 3) = 0 → x = 2 ou x = 3
Méthode 2 : La formule quadratique, applicable dans tous les cas mais avec plus de calculs :
Oùl'on appelleDiscriminant, noté, il détermine directement le nombre de racines :
| Discriminant | Situation des racines | Signification géométrique (parabole et l'axe des x) |
|---|---|---|
| Deux racines réelles distinctes | La parabole coupe l'axe des x en deux points. | |
| Une racine double | La parabole touche l'axe des x (tangente) | |
| Aucune racine réelle | La parabole se trouve entièrement au-dessus ou au-dessous de l'axe des x |
Ci-dessous, faites glisser les curseurs pour modifier, et observez comment la forme de la parabole et le discriminant sont liés.
résoudreLe processus de substitution dans la formule quadratique :
a=1, b=-2, c=-3 Δ = (-2)² - 4×1×(-3) = 4 + 12 = 16 x = (2 ± √16) / 2 = (2 ± 4) / 2 → x = 3 ou x = -1
Équations fractionnaires : il faut vérifier à la fin
Trouvez d'abord un dénominateur commun ou éliminez les dénominateurs, puis transformez-la en une équation ordinaire et résolvez.
Enfin, vous devez remplacer la solution dans l'équation d'origine pour confirmer qu'elle n'annule aucun dénominateur.
Les solutions qui annulent le dénominateur doivent être écartées ; elles sont appeléesracines étrangères。
Inéquations : la règle la plus facile à mal appliquer
Les règles de transformation des inéquations sont similaires à celles des équations, mais il y a une différence clé.
Lorsque les deux membres d'une inéquation sont multipliés (ou divisés) par un nombre négatif, le signe de l'inéquation doit être inversé.
résoudre：
-2x > -6 ← 两边同减 6 x < 3 ← 两边同除以 -2（负数，不等号从 > 变成 <）
Cette règle est très importante en apprentissage automatique : lorsqu'on dérive la direction de convergence des algorithmes d'optimisation ou les conditions de diminution de la fonction de perte, si le signe est traité dans la mauvaise direction, la conclusion sera complètement inversée.
Système d'inéquationsL'ensemble solution d'un système consiste à prendre l'intersection des ensembles solutions de plusieurs inéquations.：
x > 1 x < 5 → 解集为 1 < x < 5
Techniques de transformation courantes
| Technique | Méthode | Utilisation typique |
|---|---|---|
| Transposition | Déplacer un terme de l'autre côté du signe égal et changer son signe. | L'opération de base pour résoudre toutes les équations. |
| Complétion du carré | Trouver le sommet d'une fonction quadratique, simplifier les dérivations des fonctions de perte. | |
| Méthode de substitution | Remplacer une sous-expression complexe qui apparaît plusieurs fois par une nouvelle variable. | Simplifier les expressions à structure complexe. |
Exemples
import math
def solve_quadratic(a, b, c):
"""Résoudre ax^2 + bx + c = 0, retourner toutes les racines réelles"""
delta = b * b - 4 * a * c # Discriminant Δ = b² - 4ac
if delta > 0: # Δ > 0 : deux racines réelles distinctes
r = math.sqrt(delta)
return [(-b + r) / (2 * a), (-b - r) / (2 * a)]
elif delta == 0: # Δ = 0 : une racine double
return [-b / (2 * a)]
else: # Δ < 0 : pas de racines réelles
return []
# Vérifier x² - 2x - 3 = 0 ; le calcul manuel précédent a donné x = 3 ou x = -1
print(solve_quadratic(1, -2, -3))
# Cas Δ = 0 : x² - 4x + 4 = 0, c'est-à-dire (x-2)² = 0
print(solve_quadratic(1, -4, 4))
# Cas Δ < 0 : x² + x + 1 = 0
print(solve_quadratic(1, 1, 1))
L'exécution du code ci-dessus donne la sortie suivante :
[3.0, -1.0] [2.0] []
Exercice: Résoudre l'inéquation。
Cliquez pour voir la réponse
Soustrayez 9 aux deux membres :; divisez les deux membres par -3 (nombre négatif, le signe de l'inégalité s'inverse) :。
La notion de fonctions : domaine, image, fonctions composées
La fonctiondécrit une règle de correspondance de « l'entrée vers la sortie » :Pour chaque entrée x, il y a exactement une sortie y qui lui correspond。
Noté, se lit « y est une fonction de x. »
Domaine : l'ensemble de toutes les « entrées valides »
Déterminer le domaine revient essentiellement à exclure les valeurs qui rendent l'expression « dénuée de sens » :
| Caractéristique de l'expression | Contrainte | Exemple |
|---|---|---|
| Dénominateur | ne peut pas être 0 | |
| Radical d'indice pair | La valeur sous le radical ne peut pas être négative | |
| Logarithme | L'argument doit être supérieur à 0 |
Cette règle logarithmique est particulièrement importante en IA : partout où log est utilisé (comme la perte d'entropie croisée), vous devez vous assurer que l'entrée est positive. C'est pourquoi de nombreuses implémentations de code l'écrivent sous la forme—en ajoutant une très petite constante ε pour éviterdes erreurs ou des valeurs infinies.
Ensemble image : l'ensemble de toutes les « sorties possibles »
L'ensemble image de la fonction est, car un carré est toujours non négatif.
La fonction sigmoïdea pour ensemble image l'intervalle ouvert, n'étant jamais égale à 0 ou 1, mais s'en approchant à l'infini.
C'est exactement la raison mathématique pour laquelle il est utilisé pour représenter "probabilité" : les probabilités peuvent théoriquement s'approcher de 0% ou 100% à l'infini, mais ne jamais vraiment les égaler.
Fonction composée : fonction à l'intérieur d'une fonction
Prendre la sortie d'une fonction comme entrée d'une autre, ce qui s'écrit。
L'ordre de calcul estCalculer d'abord la fonction interne g(x), puis substituer le résultat dans la fonction externe f。
concevoir，, pour trouver：
f(g(x)) = f(x+1) = (x+1)²
n'est généralement pas égal à, l'ordre ne peut pas être changé arbitrairement.
Pourquoi les fonctions composées sont importantes pour l'IA: Un réseau de neurones est essentiellement une composition de nombreuses couches de fonctions.
Un réseau à deux couches peut s'écrire sous la forme, oùest la première couche (transformation linéaire + fonction d'activation),est la deuxième couche.
L'algorithme de rétropropagation calcule les gradients "couche par couche" précisément à cause de larègle de la chaînepour dériver les fonctions composées (qui sera couverte en détail dans des cours de calcul différentiel ultérieurs).
Exemples
def f(x):
return x ** 2 # Fonction externe f(x) = x²
def g(x):
return x + 1 # Fonction interne g(x) = x + 1
# f(g(x)) : on calcule d'abord g(3) = 4, puis on le substitue dans f pour obtenir 16
print(f(g(3)))
# g(f(x)) : on calcule d'abord f(3) = 9, puis on le substitue dans g pour obtenir 10
# Les deux ne sont pas égaux, ce qui signifie que l'ordre de composition ne peut pas être échangé
print(g(f(3)))
La sortie de l'exécution du code ci-dessus est :
16 10
Exercice: Soit，, trouvezet, puis comparez si les deux sont identiques.
Cliquez pour voir la réponse
Les deux diffèrent, ce qui indique que l'ordre de composition des fonctions ne peut pas être échangé.
Exponentiation et logarithmes
Une phrase pour comprendre la répartition des rôles entre ces deux fonctions :La fonction exponentielle est chargée d'« amplifier/comprimer les plages numériques » ; la fonction logarithmique est chargée de « transformer la multiplication/division en addition/soustraction et de comprimer les valeurs de grande amplitude dans une plage contrôlable »。
Elles apparaissent de façon récurrente dans la conception des fonctions de perte et des fonctions d'activation en IA.
| Scénarios d'IA | Formule | Propriété utilisée |
|---|---|---|
| fonction sigmoïde | Tend vers 0 à mesure que x augmente, en compressant tout nombre réel dans (0,1) | |
| fonction softmax | Les exponentielles amplifient les différences, puis normalisent en une distribution de probabilité | |
| Perte d'entropie croisée | Le logarithme transforme la « multiplication des probabilités » en « addition des valeurs », évitant le sous-dépassement | |
| Entropie de l'information | log donne l'additivité de l'entropie |
Règles que vous devez maîtriser
Règles des opérations exponentielles :
Règles des opérations logarithmiques, correspondant une à une à celles de l'exponentielle :
Formule de changement de base, convertissant les logarithmes de toute base en logarithmes naturels :
Les exposants et les logarithmes sont le miroir l'un de l'autre
La fonction exponentielleet la fonction logarithmiquesont des fonctions réciproques l'une de l'autre, et leurs courbes sont symétriques par rapport à la droitesymétrique.
Faites glisser le curseur pour changer la base a et observez comment les deux courbes se déplacent ensemble.
Exercice de dérivation : pourquoi l'entropie croisée utilise log
Supposons que l'étiquette réelle soit « cat » (probabilité 1), et que le modèle prédise la probabilité de « is cat » comme。
Si on n'utilise pas log, en utilisant directementcomme perte, lorsque p passe de 0,5 à 0,1, la perte n'augmente que « linéairement », et la pénalité est insuffisante.
utiliser: lorsque(le modèle est extrêmement confiant mais se trompe),, imposer une punition extrêmement sévère ; lorsque(le jugement est correct),, presque aucune pénalité.
Il s'agit d'une application directe de la forme de la fonction logarithmique — « raide près de 0, plate près de 1 » — dans la conception de fonctions de perte. Le chapitre 2 utilisera une image interactive pour illustrer spécifiquement cette courbe.
Exemples
import math
m, n = 8, 4
# Gauche : calculer directement log₂(8×4)
left = math.log(m * n, 2)
# Droite : log₂(8) + log₂(4)
right = math.log(m, 2) + math.log(n, 2)
print(left) # log₂32 = 5
print(right) # 3 + 2 = 5, ils sont égaux, la règle est vérifiée
print(abs(left - right) < 1e-12)
L'exécution du code ci-dessus affiche :
5.0 5.0 True
Exercice: Calculez, et utilisez les règles des logarithmes pour simplifier en un seul logarithme.
Cliquez pour voir la réponse
Suites et séries : comprendre Σ et la convergence
Une suite est une chaîne de nombres disposés dans l'ordre, notée, abrégée en。
Les deux types de suites les plus élémentaires :
| Type | Caractéristique | Exemple | Formule du terme général |
|---|---|---|---|
| Suite arithmétique | La différence entre termes consécutifs est constante (différence commune d) | 2, 5, 8, 11, ...（d=3） | |
| Suite géométrique | Le rapport entre termes consécutifs est constant (raison r) | 2, 4, 8, 16, ...（r=2） |
Que calcule réellement le symbole de sommation Σ ?
Cela signifie : faire aller l'indice i de 1 à n, et pour chaquele calculer, puis les additionner tous ensemble.
La méthode en trois étapes pour lire une formule Σ : regardez d'abordla variable de sommationqui est l'indice, puis regardezl'intervalle de sommation(d'où à où), et enfin regardezà quoi ressemble chaque terme。
Dans les formules d'IA, on peut presque toujours voir Σ, comme la perte d'erreur quadratique moyenne, et la somme pondérée d'un neurone。
Deux formules de sommation : suite arithmétique, suite géométrique (）。
Séries et convergence
Une série est la somme des « termes en nombre infini » d'une suite, c'est-à-dire,。
Lorsque l'on additionne une infinité de nombres, le résultat sera-t-il infini ? C'est la question de la convergence et de la divergence :
Si, à mesure que le nombre de termes augmente, la somme accumulée s'approche d'unevaleur finie déterminée, on dit que la série converge ; si la somme croît sans borne ou n'a pas de tendance fixe, on dit que la série diverge.
L'exemple le plus classique est la série géométrique：
Lorsqueconverge lorsque, et la somme est; lorsqueelle diverge lorsque.
Cliquez sur le bouton « Lecture » pour observer comment les sommes partielles s'approchent de la limite étape par étape.
Pourquoi la convergence importe pour l'IA
Lors de l'entraînement de réseaux de neurones, chaque étape de mise à jour de la descente de gradient peut être vue comme une suite ; le fait que les mises à jour des poids puissent « converger » vers une valeur stable relève de la même intuition que la convergence des séries.
Certains algorithmes d'optimisation (comme le terme de momentum dans Adam) effectuent essentiellement unesommation pondérée à décroissance exponentielle, dont la forme mathématique est une série géométrique de raison inférieure à 1.
Dans les réseaux de neurones récurrents (RNN), si un facteur multiplicatif est multiplié de façon répétée et que sa valeur absolue est inférieure à 1, cela conduit à la « disparition des gradients » (correspondant à la convergence de la série vers 0) ; si elle est supérieure à 1, cela conduit à l'« explosion des gradients » (correspondant à la divergence de la série). Il s'agit d'un problème classique en apprentissage profond, enraciné précisément dans l'intuition des suites géométriques.
Exemples
# Limite théorique : 1 / (1 - 0.5) = 2
r = 0.5
limit = 1 / (1 - r) # Valeur limite théorique 2
s = 0 # Somme partielle, en accumulant à partir de 0
for i in range(6): # Accumuler terme par terme : 1 + 0.5 + 0.25 + ...
s += r ** i
print(i + 1, s) # Afficher le nombre de termes et la somme partielle actuelle
print(limit) # Limite théorique, les sommes partielles s'en rapprochent de plus en plus
L'exécution du code ci-dessus produit la sortie :
1 1.0 2 1.5 3 1.75 4 1.875 5 1.9375 6 1.96875 2.0
Vous pouvez voir qu'à chaque terme ajouté, l'écart entre la somme partielle et la limite est divisé par deux — c'est exactement le rythme de convergence d'une série géométrique de raison 0.5.
Exercice: Déterminez si la sérieconverge, et si c'est le cas, trouvez sa somme.
Cliquez pour voir la réponse
Raison commune, vérifiant, elle converge.
Résumé du chapitre
| Sujet | Idée essentielle en une phrase |
|---|---|
| Équations et inéquations | Effectuez la même opération des deux côtés ; inversez le signe de l'inégalité lorsqu'on multiplie/divise par un nombre négatif |
| Notion de fonctions | L'ensemble de définition est « ce qui peut être fourni en entrée », l'ensemble image est « ce qui peut être produit en sortie », et une fonction composée est « une fonction dans une fonction » |
| Exposants et logarithmes | Les exposants amplifient/compressent les valeurs, les logarithmes transforment la multiplication et la division en addition et soustraction — des outils essentiels pour les fonctions de perte en IA |
| Suites et séries | Σ signifie « somme selon une règle » ; la convergence d'une série détermine si l'entraînement du modèle est stable |