En combinant les accélérations software et LLM qu'on peut faire, on peut réduire de 60% l'usage du compute et de la mémoire. Dans un réseau on peut réduire divisé par 7 comme je vous ai dit l'impact énergétique et avec le refroidissement on peut réduire de 40%. En combinant tout ça, on arrive à réduire environ de 73% l'impact énergétique et environnemental. Ça veut dire que sur un rack classique IA de 150 kilowatts, à performance égale, on a besoin de 40 kilowatts.

Item

Citations
En combinant les accélérations software et LLM qu'on peut faire, on peut réduire de 60% l'usage du compute et de la mémoire. Dans un réseau on peut réduire divisé par 7 comme je vous ai dit l'impact énergétique et avec le refroidissement on peut réduire de 40%. En combinant tout ça, on arrive à réduire environ de 73% l'impact énergétique et environnemental. Ça veut dire que sur un rack classique IA de 150 kilowatts, à performance égale, on a besoin de 40 kilowatts.
startTime
1886
endTime
1930
Identifier
urn:uuid:9a6e815e-bf2b-44da-90ac-82c581ccb32e

Linked resources

Items with "Citation tirée de la conférence: En combinant les accélérations software et LLM qu'on peut faire, on peut réduire de 60% l'usage du compute et de la mémoire. Dans un réseau on peut réduire divisé par 7 comme je vous ai dit l'impact énergétique et avec le refroidissement on peut réduire de 40%. En combinant tout ça, on arrive à réduire environ de 73% l'impact énergétique et environnemental. Ça veut dire que sur un rack classique IA de 150 kilowatts, à performance égale, on a besoin de 40 kilowatts."
Title Class
Vers une transformation numérique responsable : Exemple concret avec l’IA

Annotations

There are no annotations for this resource.