Удалось таки запустить loopback mode на 100мбит\с (RMII mode). Оказалось надо установить на среднюю скорость порты следующих пинов:
PA1 ETH_MII _RX_CLK / ETH_RMII _REF_CLK
PA7 ETH_MII _RX_DV / ETH_RMII _CRS_DV
PB11 ETH _MII_TX_EN / ETH _RMII_TX_EN
PB12 ETH _MII_TXD0 / ETH _RMII_TXD0
PB13 ETH _MII_TXD1 / ETH _RMII_TXD1
PC4 ETH_MII_RXD0 / ETH_RMII_RXD0
PC5 ETH _MII_RXD1/ ETH _RMII_RXD1
Для MDC\MDIO можно оставить низкую скорость.