@@ -382,9 +382,6 @@ struct ise_size
382382 /* * @brief The scaling parameter. */
383383 uint8_t scale;
384384
385- /* * @brief The rounding parameter. */
386- uint8_t round;
387-
388385 /* * @brief The divisor parameter. */
389386 uint8_t divisor;
390387};
@@ -393,27 +390,27 @@ struct ise_size
393390 * @brief The table of scale, round, and divisors needed for quant sizing.
394391 */
395392static const std::array<ise_size, 21 > ise_sizes {{
396- { 1 , 0 , 1 }, // QUANT_2
397- { 8 , 4 , 5 }, // QUANT_3
398- { 2 , 0 , 1 }, // QUANT_4
399- { 7 , 2 , 3 }, // QUANT_5
400- { 13 , 4 , 5 }, // QUANT_6
401- { 3 , 0 , 1 }, // QUANT_8
402- { 10 , 2 , 3 }, // QUANT_10
403- { 18 , 4 , 5 }, // QUANT_12
404- { 4 , 0 , 1 }, // QUANT_16
405- { 13 , 2 , 3 }, // QUANT_20
406- { 23 , 4 , 5 }, // QUANT_24
407- { 5 , 0 , 1 }, // QUANT_32
408- { 16 , 2 , 3 }, // QUANT_40
409- { 28 , 4 , 5 }, // QUANT_48
410- { 6 , 0 , 1 }, // QUANT_64
411- { 19 , 2 , 3 }, // QUANT_80
412- { 33 , 4 , 5 }, // QUANT_96
413- { 7 , 0 , 1 }, // QUANT_128
414- { 22 , 2 , 3 }, // QUANT_160
415- { 38 , 4 , 5 }, // QUANT_192
416- { 8 , 0 , 1 } // QUANT_256
393+ { 1 , 1 }, // QUANT_2
394+ { 8 , 5 }, // QUANT_3
395+ { 2 , 1 }, // QUANT_4
396+ { 7 , 3 }, // QUANT_5
397+ { 13 , 5 }, // QUANT_6
398+ { 3 , 1 }, // QUANT_8
399+ { 10 , 3 }, // QUANT_10
400+ { 18 , 5 }, // QUANT_12
401+ { 4 , 1 }, // QUANT_16
402+ { 13 , 3 }, // QUANT_20
403+ { 23 , 5 }, // QUANT_24
404+ { 5 , 1 }, // QUANT_32
405+ { 16 , 3 }, // QUANT_40
406+ { 28 , 5 }, // QUANT_48
407+ { 6 , 1 }, // QUANT_64
408+ { 19 , 3 }, // QUANT_80
409+ { 33 , 5 }, // QUANT_96
410+ { 7 , 1 }, // QUANT_128
411+ { 22 , 3 }, // QUANT_160
412+ { 38 , 5 }, // QUANT_192
413+ { 8 , 1 } // QUANT_256
417414}};
418415
419416/* See header for documentation. */
@@ -429,7 +426,7 @@ unsigned int get_ise_sequence_bitcount(
429426 }
430427
431428 auto & entry = ise_sizes[quant_level];
432- return (entry.scale * character_count + entry.round ) / entry.divisor ;
429+ return (entry.scale * character_count + entry.divisor - 1 ) / entry.divisor ;
433430}
434431
435432/* *
0 commit comments