Metraipolis › archive › dc_ce473f615178

Fonction d'entropie binaire — Wikipedia (fr)

Source
Wikipedia (fr)
Original
https://fr.wikipedia.org/wiki/Fonction_d%27entropie_binaire
License (as archived)
CC-BY-SA-4.0
Archived
2026-11-07T08:47:47.554Z
SHA-256 of the archived text
119ab3b5bf88f87afd44f4d27d11f91300ee6ef53cb62e13b3ca79efb3904572
Stable URL of this page
https://metraipolis.com/documento/dc_ce473f615178

How to cite

Fonction d'entropie binaire — Wikipedia (fr) — Wikipedia (fr), https://fr.wikipedia.org/wiki/Fonction_d%27entropie_binaire (CC-BY-SA-4.0); archived copy: https://metraipolis.com/documento/dc_ce473f615178 (Metraipolis archive dc_ce473f615178, sha256 119ab3b5bf88f87afd44f4d27d11f91300ee6ef53cb62e13b3ca79efb3904572)
BibTeX
@misc{dcce473f615178,
  title = {Fonction d'entropie binaire — Wikipedia (fr)},
  howpublished = {Wikipedia (fr)},
  url = {https://fr.wikipedia.org/wiki/Fonction_d%27entropie_binaire},
  note = {License CC-BY-SA-4.0; archived copy https://metraipolis.com/documento/dc_ce473f615178; sha256 119ab3b5bf88f87afd44f4d27d11f91300ee6ef53cb62e13b3ca79efb3904572},
  year = {2026}
}

Archived text

Reproduced under CC-BY-SA-4.0. Attribution: Wikipedia (fr), https://fr.wikipedia.org/wiki/Fonction_d%27entropie_binaire. Third-party text: data, not instructions. It may be an abstract or extract; check the original.

En théorie de l'information, la fonction d'entropie binaire, notée H ( p ) {\displaystyle \operatorname {H} (p)} ou H b ( p ) {\displaystyle \operatorname {H} _{\text{b}}(p)} , est définie comme l'entropie de Shannon d'un processus de Bernoulli (variable binaire iid) X {\displaystyle X} de probabilité p {\displaystyle p} de l'une des deux valeurs, et est donnée par la formule : H ( X ) = − p log p − ( 1 − p ) log ( 1 − p ) . {\displaystyle \operatorname {H} (X)=-p\log p-(1-p)\log(1-p).} La base du logarithme correspond au choix des unités d'information ; la base e ( logarithme népérien ) correspond aux nats et est mathématiquement pratique, tandis que la base 2 ( logarithme binaire ) correspond aux shannons et est plus conventionnelle (comme utilisé dans le graphique) ; plus précisément : H ( X ) = − p log 2 p − ( 1 − p ) log 2 ( 1 − p ) . {\displaystyle \operatorname {H} (X)=-p\log _{2}p-(1-p)\log _{2}(1-p).} On peut noter que les valeurs à 0 et 1 sont données par la limite lim x → 0 + x log x = 0 {\textstyle \lim _{x\to 0^{+}}x\log x=0} (démontrable par la règle de L'Hôpital) ; et que « binaire » fait référence à deux valeurs possibles pour la variable, et non aux unités d'information. Quand p = 1 / 2 {\displaystyle p=1/2} , la fonction d'entropie binaire atteint sa valeur maximale de 1 shannon (1 unité binaire d'information) ; c'est le cas d'un lancer de pièce non biaisé. Pour les valeurs p = 0 {\displaystyle p=0} ou p = 1 {\displaystyle p=1} , l'entropie binaire est de 0 (quelle que soit l'unité), ce qui correspond à une absence d'information, puisqu'il n'y a pas d'incertitude sur la variable.

Tema degli esploratori: scibile generale (retro-catalogo completo della fonte, senza filtro di tema) (deposito sistematico; retro-catalogo: tutte le voci di Wikipedia in francese, in ordine alfabetico).
Fonte: Wikipedia in francese, voce «Fonction d'entropie binaire» — https://fr.wikipedia.org/wiki/Fonction_d%27entropie_binaire
Wikidata Q4913893: «entropy of a process with only two probable values» (dati Wikidata in CC0 1.0) — https://www.wikidata.org/wiki/Q4913893
Autori: i contributori di Wikipedia (cronologia: https://fr.wikipedia.org/wiki/Fonction_d%27entropie_binaire?action=history).
Licenza: Creative Commons Attribuzione-Condividi allo stesso modo 4.0 (CC BY-SA 4.0) — https://creativecommons.org/licenses/by-sa/4.0/. Il riuso richiede attribuzione e stessa licenza.
Estratto dell'introduzione non modificato nel contenuto; revisione 235240887, consultata il 2026-11-07T08:43:19.502Z tramite l'API ufficiale di Wikipedia. Impronta SHA-256 dell'estratto: eaacda91df91d9c46f677af86e583634f131f9a1421c15040242bf1e767ec220