database.sarang.net
UserID
Passwd
Database
DBMS
MySQL
PostgreSQL
Firebird
Oracle
Informix
Sybase
MS-SQL
ㆍDB2
Cache
CUBRID
LDAP
ALTIBASE
Tibero
DB 문서들
스터디
Community
공지사항
자유게시판
구인|구직
DSN 갤러리
도움주신분들
Admin
운영게시판
최근게시물
DB2 Q&A 3368 게시물 읽기
No. 3368
형 전환 연산(2)
작성자
도와주세요
작성일
2013-05-14 17:00
조회수
3,566

아래에서 Free_rate는 8.2 입니다.

궁극적으로 얻고 싶은 result 값은 0.2 인데.. 1.9999999999.......... 가 나옵니다.

아래에서 어떻게 수정으로 해야 result 컬럼에 0.2가 나올 수 있을까요??

고수님들의 도움 부탁 드립니다.

 

select B.fee_rate                                                                            fee_rate
       , DOUBLE(B.FEE_RATE)                                                      double
       , DECIMAL(B.FEE_RATE)                                                      decimal
       , DOUBLE(B.FEE_RATE) - DECIMAL(B.FEE_RATE)       result
from CUST.SBL_TRADE_DETAIL B

이 글에 대한 댓글이 총 1건 있습니다.

결과로 0.2 를 기대하신다는 얘기는 double과 decimal 사이의 차이를 구하시려는 건가요? 쿼리에서 원하는 목적이 뭔지를 몰라서 좀 그렇습니다만,  문제는 double은 저장하는 방법이 달라서 double과 decimal 을 바로 계산하게 되면 원하는 결과가 나오지 않습니다. 이럴때는 double을 decimal쪽으로 casting해서 계산해주시면 될 것 같습니다.

db2 > select 8.2 as "org", double( 8.2) as "double", decimal(8.2) as "decimal-noscale", decimal( 8.2, 4, 2) as "decimal", double( 8.2) - decimal( 8.2) as "double-decimal-1", double( 8.2) - decimal( 8.2, 4, 2) as "double-decimal-2", decimal( double( 8.2), 4, 2 ) - decimal( 8.2) as "decimal-decimal" from sysibm.sysdummy1                                                                                                 

org  double                   decimal-noscale   decimal double-decimal-1         double-decimal-2         decimal-decimal     
---- ------------------------ ----------------- ------- ------------------------ ------------------------ --------------------
 8.2   +8.20000000000000E+000                8.    8.20   +1.99999999999999E-001   +0.00000000000000E+000                 0.20

  1 record(s) selected.

짝퉁헤리포터(bh1004)님이 2013-05-15 22:46에 작성한 댓글입니다.
[Top]
No.
제목
작성자
작성일
조회
3371DB2 COUNT(*) OVER 질문입니다 [1]
손님
2013-05-30
4279
3370db2 의 로직컬 테이블 들을 ms-sql 에서 쓸 수 있는 방법은??
김승철
2013-05-28
3152
3369update 관련 질문드립니다.
왕태봉
2013-05-23
3443
3368형 전환 연산(2) [1]
도와주세요
2013-05-14
3566
3366날짜변환함수에대해 [1]
nn
2013-05-03
4233
3365날짜변환관련 [2]
sdlkjf
2013-04-29
3680
3364DB2에서 NVL이 작동합니다 [2]
이무용
2013-04-08
4281
Valid XHTML 1.0!
All about the DATABASE... Copyleft 1999-2019 DSN, All rights reserved.
작업시간: 0.094초, 이곳 서비스는
	PostgreSQL v11.5로 자료를 관리합니다