En combinant les accélérations software et LLM qu'on peut faire, on peut réduire de 60% l'usage du compute et de la mémoire. Dans un réseau on peut réduire divisé par 7 comme je vous ai dit l'impact énergétique et avec le refroidissement on peut réduire de 40%. En combinant tout ça, on arrive à réduire environ de 73% l'impact énergétique et environnemental. Ça veut dire que sur un rack classique IA de 150 kilowatts, à performance égale, on a besoin de 40 kilowatts.
Item
- Citations
- En combinant les accélérations software et LLM qu'on peut faire, on peut réduire de 60% l'usage du compute et de la mémoire. Dans un réseau on peut réduire divisé par 7 comme je vous ai dit l'impact énergétique et avec le refroidissement on peut réduire de 40%. En combinant tout ça, on arrive à réduire environ de 73% l'impact énergétique et environnemental. Ça veut dire que sur un rack classique IA de 150 kilowatts, à performance égale, on a besoin de 40 kilowatts.
- startTime
- 1886
- endTime
- 1930
- Identifier
- urn:uuid:9a6e815e-bf2b-44da-90ac-82c581ccb32e
Linked resources
| Title | Class |
|---|---|
Annotations
There are no annotations for this resource.