esp-dl出来的Int16数据怎么换算成前面的浮点型

Post Reply
danyanpi
Posts: 13
Joined: Thu Mar 23, 2023 3:02 am

esp-dl出来的Int16数据怎么换算成前面的浮点型

Postby danyanpi » Tue May 09, 2023 3:18 am

请问我模型最后conv出来的。电脑的都是0.2这些浮点数，但esp32跑出来都是几千、几千的。。请问这个值怎么转换回去浮点数？
Top
Junru
Espressif staff
Espressif staff
Posts: 49
Joined: Tue Jul 12, 2022 6:26 am

Re: esp-dl出来的Int16数据怎么换算成前面的浮点型

Postby Junru » Tue May 09, 2023 10:56 am

*2^-量化系数（7/15）
Top
Junru
Espressif staff
Espressif staff
Posts: 49
Joined: Tue Jul 12, 2022 6:26 am

Re: esp-dl出来的Int16数据怎么换算成前面的浮点型

Postby Junru » Tue May 09, 2023 10:57 am

*2^-量化系数

8位就是 2^-7
16位就是2^15
Top
Post Reply

Return to “ESP-WHO 中文讨论版”

Who is online

Users browsing this forum: No registered users and 1 guest