Je me demande si faire un softmax en base 2 au lieu de la base e pourrait être une optimisation utile sur certains matériels à point fixe. Prendre un 1 en préfixe à la partie fractionnaire et décaler à gauche par la partie entière comme une approximation assez proche de 2^point_fixe.