비슷한 내용 글이 있네요.

https://hyunki1019.tistory.com/116

old_password()

함수로 바꿔 주셔도 됩니다.

MySQL 4.1 버전부터 해싱 함수가 변경되었습니다.

4.1 이전에는 password('1234') 일 경우 16byte 로 데이터가 암호화 되었고

4.1 부터는 41byte 로 데이터가 암호화 되었습니다.

MySQL 5.0 이면 이미 바뀌었어야 할 것 같은데 

시스템 테이블이 변경되지 않은 건지 16byte 로 암호화가 진행된 것 같네요.

하위 버전의 호환을 위해서 MySQL 4.1 부터 old_passwords 시스템 변수와 OLD_PASSWORD() 함수가 추가되었습니다.

old_passwords = 1 이면,

4.1 이전 버전의 해싱 함수(16byte)가 사용되고

old_passwords = 0 이면

4.1 버전 이상의 해싱 함수(41byte)가 사용됩니다.

아래 구문이 적용되지 않는 것은 old_passwords 시스템 변수 값이 0 이기 때문이지 않을까 생각됩니다.

mysql> SELECT * FROM member WHERE id = 'test' AND passwd = old_password('1234');

즉, 상위 버전에서 하위 버전의 해싱 함수와 암호화 길이를 맞추기 위해서는 old_passwords 시스템 변수 값을 1로 설정해주셔야 할 것 같습니다.

my.cnf 에서 [mysqld] 쪽 변경해주시면 됩니다.

<reference>

https://dev.mysql.com/doc/refman/5.7/en/password-hashing.html