Пока сортировать можно только вручную и перезадавать items. А так, вроде в JavaFX каждой колонке можно задать функцию-корпаратор, чтобы таблица понимала по какому алгоритму сортировать колонку. Думаю это можно будет добавить  в ближайшей версии.