A lo mejor te has descargado el archivo que no es. De todas formas, el OpenBve tiene "miga" para instalarlo, pues debes descargarte unas dependencias que necesita para que funcione, y aparte también tendrás que descargarte trenes y rutas, pues el simulador viene "vacío" por defecto.
Aquí →
viewtopic.php?f=12&t=23056 tienes un tutorial para instalarlo que debes seguir a rajatabla si quieres que funcione correctamente.