• Si tiene algún error con los gráficos Direct3D instala Directx este es el enlace para la descarga directa Microsoft DirectX Marzo 2008
• Además te recomiendo que instales también esto Visual C++ 2005 Redistributable Package (x86) , el project64 y los plugins están desarrollados en lenguaje C++ por eso es posible que sin los Runtimes tengas algunos errores
• Si tienes problemas con la configuración del emulador, echale un vistazo a esto: Guía rápida de configuración óptima del Project64 1.7

Si nada de lo colocado solucionó tu problema o si tienes problemas con algún juego en específico
visita el Tema Solución a Problemas Generales de Emulación N64 y Juegos (Preguntas y Respuestas)