Stai installando esxi 5.1? Non credo che il tuo sistema sia supportato, hai verificato se è in HCL? Se non lo è (e credo non lo sia), è probabile che lo schermo nero sia dovuto alla mancanza di qualche driver.
Se vuoi fare dei test con vSphere puoi sempre virtualizzare esxi, lo puoi fare con workstation.
ciao