В сборке touchkit есть обычно paint.exe или что-то такое(формирует линию при проведении по экрану пальцем), можно его запустить и посмотреть как отрабатывает тач без RK6 и отсюда уже плясать:
Если точно попадает - откалиброван правильно, и надо разбираться с настройками RK6.
Если рандомно гуляет тогда похоже на контроллер или всё же криво откалиброван.

В кипере:
При нажатии в верхний левый угол - точно попадает и потом если идти по диагонали в нижний правый нарастает ошибка:
возможно не то разрешение используется.
возможно используется корректирующая библиотека, но она неправильно настроена.