Mă întreb dacă a face softmax în baza 2 în loc de base e ar putea fi o optimizare utilă pentru hardware fix point. Adăugăm un 1 la partea fracționară și deplasarea spre stânga de partea integrală ca o aproximație apropiată a lui 2^fixed_point.