REGEXP_REPLACE ( col, '^([0-9]{4})([0-9]{2})([0-9]{2})', '\1.\2.\3' )

지정한 월이 부적합하니 해당 오류 자료만 찾아 고치면 되겠네요.
SELECT *
  FROM t
 WHERE SUBSTR(dt, 5, 2) NOT BETWEEN '01' AND '12'
;

ORDER BY 가 있을때는 에러나고 없으면 에러 안나는 이유는?
(전체범위 처리와 부분범위처리의 차이) + FETCH SIZE 때문입니다.
토드를 예를 들면 500건만 패치하고 다음 패치 대기합니다.
부분범위 처리의 경우엔 500건만 to_date 함수 적용 받아
패치 안된 자료는 아직 to_date 함수 적용 안됩니다.
계속 스크롤 내리다 보면 결국 에러를 만나게 됩니다.
반면에 전체범위 처리(Order By) 의 경우엔
to_date 가 모든 행에 적용된후 정렬하고 fetch 합니다.