请选择 进入手机版 | 继续访问电脑版

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 1008|回复: 2

双线性插值输出位宽问题

[复制链接]

4

主题

5

回帖

74

积分

注册会员

积分
74
发表于 2023-10-12 20:24:24 | 显示全部楼层 |阅读模式
双线性最后输出值的位宽为什么取12位呢?我理解是取10位即可,大佬能否解答一下

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×

0

主题

22

回帖

144

积分

版主

积分
144
发表于 2023-10-14 08:25:10 | 显示全部楼层
本帖最后由 CrazyBird 于 2023-10-14 08:28 编辑

gray_data_c9的数据结构:12位整数、32位小数。进行四舍五入之后就是12位整数。

4

主题

5

回帖

74

积分

注册会员

积分
74
 楼主| 发表于 2023-10-14 15:45:47 | 显示全部楼层
17位小数*17位小数,结果为34位小数
34位小数*8位整数,结果为42位,高8位为整数,低34位为小数
俩个42位数相加得43位,整数扩展一位进位数,高9位为整数,低34位为小数
俩个43位数相加得44位,整数扩展一位进位数,高10位为整数,低34位为小数(对应gray_data_c9的数据结构)
不知道我这样子理解哪里错了
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则