安装ibma 2.0后系统每10s报错一次

已经发邮件给你了

输入了如下命令

ibmacli debug -e true -m disk -l debug

./PrintSmart PCH /dev/sda

上面命令都是在关闭ibma服务做的

我们内部再研究一下 :thinking:

你好 这个有啥进展吗

1、dmesg日志分析:可以看到问题链路

PHY链路抖动
—>正在传输的SATA命令被异常终止
—>SAS控制器收到"erroneous completion"(dmesg日志)
—>内核sas_scsi_recover_host尝试恢复(dmesg日志)
—>命令返回scsi error, status = 4(disk_so.log)
—>PrintSmart应用层收到错误

2、产生dmesg异常的原因

image

盘反复返回ABORT,有可能是盘硬失效(盘坏了),或下发的命令盘不支持,主动拒绝了

咨询了硬件侧专家,推测有可能是系统开机后,OS使能了某些特性,但盘不支持这些特性,造成盘本身报错

3、smartctl不触发的原因

smartctl -a 和 BMA 的 PrintSmart 命令虽然都有 SG_IO 发送 ATA Pass-through 命令,但发送的命令比BMA少,间隔也比较长

硬盘失效的可能性不大因为现在是必现的 只要是这个型号的ssd(其他型号的没有试过)配合ibma服务都会有这个问题

是否可以找到是哪条命令导致的问题并屏蔽这个 或者说有什么配置能关了对硬盘相关的检测让其不要触发sas控制器的异常恢复逻辑

那你们这型号的硬盘是从哪里来的呢?是什么厂商的?和OS是兼容的吗?

我们内部没有这样的盘,不知道和其他盘的区别在哪里,没办法在内部复现问题去定位

公司采购的 型号是群联的PS3112-S12DC

看手册有支持的ATA command list 需要发你手册看下吗

从硬盘手册看不出什么特别的信息,这硬盘我们这边完全没见过,也许确实存在兼容性问题

如果方便尝试的话,可以找一些老版本的BMA,看看是否老版本BMA也会触发相同的问题

下载软件包后,不需要重新安装,解压后 iBMA2.0/app 路径下有个rpm包,解压这个rpm包

rpm2cpio *.rpm | cpio -di

当前路径下会出现一个opt文件夹,里面 opt/huawei/ibma/bin 下有个PrintSmart,直接调用这个,看能不能出现问题

不太行 目前尝试了官网上面最老的iBMA 2.9.2 版本 也是一样的 调用./PrintSmart PCH /dev/sda 命令后 还是会触发sas控制器异常

如果存在硬件兼容性问题话 是否可在ibma内配置规避呢

可以在BMA中配置不去查这些盘的信息

1、首先先查一下这些硬盘对应的bdf号

2、带内查询硬盘对应的厂商和设备编号,

cd /sys/bus/pci/devices/

cat vendor device

例如:

3、修改BMA的配置文件,将上面查到的这个盘的四元组加入黑名单中,后续不予查询该盘的信息

ibmacli conf --name Monitor.ini --arg Drives.action.Drives_Dynamic.itemBlacklist.deviceUIDs --value “.” add

image

4、修改后可以检查一下

ibmacli conf --name Monitor.ini show

5、重启iBMA

systemctl restart iBMA

重启后,最多在刚启动iBMA时调用一次PrintSmart,查询一次硬盘信息,后面都会因为在黑名单中不轮询查询,就不会出现dmesg日志反复打印报错了

你好,按照上面的命令配置了 但是还是不行 重启后还是一直报错

首次启动出现一轮是正常的,总得需要获取一次盘的信息,才能知道这个盘在黑名单里

看下加入黑名单后,是否会在系统运行过程中,持续打印报错呢?

是的 目前看上电一段时间了 还在一直刷

当前的BMA版本是最新的还是之前验证的2.9.2没换回来呢?2.9.2还没支持黑名单功能

2.9.2 当时只是解压后验证了命令 并没有安装 当前版本是

黑名单功能是2.20.0加的,2.16.1还没有这个功能,要用这种方式需要更新一下BMA版本。

如果一定要用旧版本BMA,那可以尝试把整个硬盘查询事件禁用掉:

ibmacli conf --name Monitor.ini --arg Drives.enabled --value false modify

ibmacli conf --name Monitor.ini --arg DiskEvent.enabled --value false modify

黑名单功能 和老版本的禁用整个硬盘查询事件有什么区别吗

是指黑名单只争对这一个硬盘 如果插别的硬盘还是会去查询

禁用整个的话 就不论插什么硬盘都不去查询吗

黑名单功能可以根据具体的硬盘四元组去禁用,其他没有禁用的盘还是会正常查询

整体禁用就是所有的盘都不查了

更正下问题

目前测试下来应该和ssd的槽位无关 而是和冷复位还是热复位有关系

我们的设备由于有上电时间要求所以在冷复位的时候是不等bmc启动完成后再去起bios的

现在发现在冷复位后会出现下面这个打印 按理说就算前面由于bmc没启动通信异常有这个告警可以理解 为啥后面bmc启动正常了还是一直刷这个打印`(NULL net_device): edma: edma_host_send_msg, 759, no response in 10s,clean msg` 这个打印一直刷

edma: edma_host_send_msg, 759, no response in 10s,clean msg——这个打印在上面的回答里有说过,是BMA向BMC发送ipmi请求,未能及时收到响应导致的

要通过在BMC后台发送 `mdbctl traceipmi start file edma` 命令,命令结果会输出到/tmp/ipmi.txt文件,通过这个结果去观察BMC是否能响应BMA发送的ipmi请求

这和sas控制器的打印 `hisi_sas_v3_hw 0000:74:02.0: erroneous completion iptt………` 是两个问题,你上面说主要在意的是sas的这个打印呢