Tsukuyomi não funciona em MS/FMS. O próprio Itachi diz isso.
O Izanami foi criado como uma forma dos Uchihas pararem outros Uchihas, justamente pq Genjutsu visual é ineficaz nesses casos.
Madara não só tem um olho superior ao Itachi, como também tem muito mais experiência em batalha, o bastante para não cair em genjutsus visuais.
Mas no geral, não sei quem vence não. Madara só tem Katon e Gunbai como recurso a disposição, Itachi tem o Amaterasu. Só que Madara absorveu o Amaterasu na guerra (sem Rinnegan, Sennin Mode ou nenhuma outra arma senão o Kyuuin), então creio que ninjutsus seriam inúteis.
Mas também não vejo um cara como o Itachi perdendo para Katons (mesmo que eles sejam abrangentes). No geral, por questão de chakra, ficaria com o Madara.