Hay módulos que lo hacen como comentas, con un archivo ajax.php directamente en el directorio raíz del módulo o en alguno de sus subdirectorios, así que dudo que esa solución dé ningún problema.
Aunque el método "oficial" sería como creo que lo estabas intentando al principio y como te ha recomendado jgamio, declarar el controlador como tal dentro de la inicialización del módulo y luego colocar ahí la gestión de las peticiones AJAX.
Pero si ya te funciona como lo tienes, ni lo toques, que no merece la pena complicarse.