원하시는 모양은 다음과 같을 것입니다.
idx IN (1,2,3,4,5)
그러나 작성하신 모양은 다음과 같습니다.
idx IN '1,2,3,4,5'
괄호도 없지만 괄호가 있다고 해도 에러는 마찬가지입니다.
다섯개의 숫자와 비교하는게 아니라 하나의 문자열과 비교하고 있습니다.
조건도 서브쿼리가 아닌 메인쿼리에 주시는게 맞습니다.

UPDATE tab1 a
   SET col1 = (SELECT col1 FROM tab2 b WHERE a.idx = b.idx)
 WHERE a.idx IN
(
SELECT TO_NUMBER(REGEXP_SUBSTR(p_idxlist, '[^,]+', 1, LEVEL)) v
  FROM dual
CONNECT BY LEVEL <= LENGTH(p_idxlist) - LENGTH(REPLACE(p_idxlist, ','))
)
;

아.. 그렇군요. 캄사합니다. ㅠㅠ